t_wの輪郭

Feedlyでフォローするボタン
Two-TowerモデルHypothetical Document Embedding

HyDEは有効ではない

2023/11/20 23:32:00

結論としてはHyDEはそれほど有効ではないことです。少し改善すれば性能は良くなりますが、検索スピードは非常に遅いですし、コストも大幅増加するので、ほぼ実用ではない手法といえます。

HyDEはLLMで質問文を生成するので、遅いし費用も掛かる。
モデルの学習のコストを掛けられるのであれば、Two-Towerモデルのほうが早く検索できて良さそうに思える。

あれ