GloVe

<div class="dln" itemprop="articleBody"><div class="shdw top"> </div><blockquote><p>実験的にも、BERTの[CLS]トークン埋め込み や 平均プーリング埋め込み を使うぐらいだったら、GloVe等の（もっと古い時代の）単語埋め込みを使った方がましということが知られている
</p><footer><span class="dmdsh">──</span>  <a class="oln" data-kno="K#/3BD6" href="/3BD6" rel="nofollow">『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』</a></footer></blockquote><div class="shdw btm"> </div><button type="button" class="mxmz icn_ btn_mxmz"></button></div>

Sentence EmbeddingはBERTよりGloVeの方が良い

<div class="dln" itemprop="articleBody"><div class="shdw top"> </div><div class="mbd SD" data-URL="https%3A%2F%2Fspeakerdeck.com%2Fnttcom%2Fexploring-publicly-available-japanese-embedding-models"></div><p><a class="URI" href="https://speakerdeck.com/nttcom/exploring-publicly-available-japanese-embedding-models" target="_blank" rel="noopener nofollow ugc">https://speakerdeck.com/nttcom/exploring-publicly-available-japanese-embedding-models</a>
</p><div class="shdw btm"> </div><button type="button" class="mxmz icn_ btn_mxmz"></button></div>