単語埋め込み

<div class="dln" itemprop="articleBody"><div class="shdw top"> </div><blockquote><p>実験的にも、BERTの[CLS]トークン埋め込み や 平均プーリング埋め込み を使うぐらいだったら、GloVe等の（もっと古い時代の）単語埋め込みを使った方がましということが知られている
</p><footer><span class="dmdsh">──</span>  <a class="oln" data-kno="K#/3BD6" href="/3BD6" rel="nofollow">『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』</a></footer></blockquote><div class="shdw btm"> </div><button type="button" class="mxmz icn_ btn_mxmz"></button></div>

t_wの輪郭

単語埋め込み

Sentence EmbeddingはBERTよりGloVeの方が良い

GloVe