Hypothetical Document Embedding
2023/11/20 22:18:00
HyDEは有効ではない
2023/11/20 23:32:00
結論としてはHyDEはそれほど有効ではないことです。少し改善すれば性能は良くなりますが、検索スピードは非常に遅いですし、コストも大幅増加するので、ほぼ実用ではない手法といえます。
HyDEはLLMで質問文を生成するので、遅いし費用も掛かる。
モデルの学習のコストを掛けられるのであれば、Two-Towerモデルのほうが早く検索できて良さそうに思える。