t_wの輪郭

RSS

Transformer 言語処理学会第31回年次大会表彰論文 FFN フィードフォワードネットワーク Transformer LLMではFFN層をネットワーク後部で有効化すると精度が高くなった

『Transformer LLMにおける層単位のFFN層の重要度検証』

2025/8/13 22:49:00

https://www.anlp.jp/proceedings/annual_meeting/2025/pdf_dir/P2-8.pdf

Transformer 『Transformer LLMにおける層単位のFFN層の重要度検証』

あれ

2025/8/13 23:03:00

Transformerわかってない民としては、Transformerの図が理解の助けになりそうで助かる。