t_wの輪郭

GloVe

2024/2/25 13:58:00

『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』Sentence EmbeddingはBERTよりGloVeの方が良い

Sentence EmbeddingはBERTよりGloVeの方が良い

2024/2/25 14:00:00

実験的にも、BERTの[CLS]トークン埋め込みや平均プーリング埋め込みを使うぐらいだったら、GloVe等の（もっと古い時代の）単語埋め込みを使った方がましということが知られている
── 『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』

『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』

RAG Sentence Embedding E5 あれ E5でTwo-Towerモデルっぽいことができる JaColBERT GLuCoSE Sentence EmbeddingはBERTよりGloVeの方が良い GloVe NTT Com Node AI

『オープンな日本語埋め込みモデルの選択肢 / Exploring Publicly Available Japanese Embedding Models』

2024/2/25 13:51:00

https://speakerdeck.com/nttcom/exploring-publicly-available-japanese-embedding-models

あれ