9/5/2023, 10:51:00 PM
二つのベクトルの成す角を類似度として扱うやつ
1:似てる
0:無関係
-1:似てない
$$ cos(X, Y) = \frac{\sum_{i=1}^{N}(X_i Y_i)}{\sqrt{\sum_{i=1}^{N}(X_i^2)} \sqrt{\sum_{i=1}^{N}(Y_i^2)}} $$
二つのベクトルの成す角を類似度として扱うやつ
1:似てる
0:無関係
-1:似てない
数値微分と結果が一致することを確認できた
コサイン類似度: \( cos(X, Y) = \frac{\sum_{i=1}^{N}(X_i Y_i)}{\sqrt{\sum_{i=1}^{N}(X_i^2)} \sqrt{\sum_{i=1}^{N}(Y_i^2)}} \)
目標とする類似度: \(t\)
コサイン類似度からなる損失関数: \( L(X, Y, t) = (t- cos(X, Y))^2 \)
より
コサイン類似度からなる損失関数を\(X_i\)について偏微分した式
を求める。
デライトの数式表示機能にマジ感謝のガンジャ
sentence embeddingの学習のために、コサイン類似度(cos(X,Y) - target_similarity)^2 の微分がしたいが、もはや微分は記憶の彼方。