t_wの輪郭

Feedlyでフォローするボタン
ベクトル単語word2vec
「単語ベクトルの平均でも悪くはない」あれword2vecあれあれ『単語ベクトルで遊ぼう』

あれ

2024/6/2 14:26:00
  • 課題感
    • Prologだと個体と述語に名前をつけないといけない
    • 「名前」は異なる個体を指示したいにも関わらず衝突する
  • 解決策
    • 単語ベクトルや、文章ベクトルを個体や述語の名前として扱う
  • 余談
    • Prologの演算で得られたベクトルをLLMにぶち込めたら面白そう
    • Prologプログラムの実行で得られたベクトルをNNで自然言語に翻訳できると面白そう

あれ

2023/6/27 7:52:00

基底となる単語ベクトルの学習に特化させてみたい

  • 遺伝的プログラミング部分を1000ノードと薄くして世代数を稼ぐ
  • 単語ベクトルの変動範囲を1/5にする