t_wの輪郭

RSS

『あつまれ統計の森』

2023/12/17 8:37:00

https://www.hello-statisticians.com/

『ネットワーク分析から直感的に理解するTransformerの仕組みと処理の流れ』『ソフトマックス関数への温度スケーリング(temperature scaling)の導入』

『あつまれ統計の森』Transformer ネットワーク分析

『ネットワーク分析から直感的に理解するTransformerの仕組みと処理の流れ』

2023/12/17 8:51:00

https://www.hello-statisticians.com/ml/deeplearning/transformer1.html

「Dot Product Attentionの処理は概ねcos類似度の計算と同様な処理」文章から単語の隣接行列を作る

『あつまれ統計の森』softmax

『ソフトマックス関数への温度スケーリング(temperature scaling)の導入』

2023/12/17 8:33:00

https://www.hello-statisticians.com/ml/deeplearning/temperature_scaling1.html