t_wの輪郭

Two-Towerモデル

2023/11/20 23:15:00

レコメンドシステムにおいて、ユーザーのEmbeddingを計算するモデル(Query Tower)と、推薦対象のEmbeddingを検索するモデル(Candidate TowerあるいはDocument Tower)の2つを使う手法。

検索システムにおいてはQuery towerで検索文のEmbeddingを生成する。

dual encoderとも呼ばれている。

あれ

2023/5/28 11:50:00

昨晩Youtubeで「Second Brain」とか「Notetaiking」で検索して、英語の動画をだらだら見ていた。

英語の学習には5分とかの短い英語の動画を渡り歩くのが良さそうだ。分からなくなっても他の動画へ行けば良いので、苦痛が少ない。

レコメンド機能のおかげで、興味のある動画を集めやすいのも良い。

応向分離

2023/11/20 23:15:00

おそらく一般的には応類向類は同じ言語モデルで生成して検索に用いるのだが、応類向類で異なる言語モデルを用いることで以下の利点が得られる。

  • 利用者の動向から向類を学習させ、漸次的に検索精度を向上させる
  • 利用者の動向から向類を学習させ、漸次的に個々の利用者に対して検索結果を変化させる
  • 上記をしつつ、更新費用が高くなる応類を不変あるいは低頻度での更新と出来る

レコメンドにおいても同様のことができ、同じような利点が得られる。


Two-Towerモデルと同一。

あれ

2023/10/28 12:11:00

Youtube、いっときよく見るんだけど、すぐにレコメンドが「いや興味ある分野だけどなんか違うから見てないんだよな」って動画で埋まって見なくなる。

あれ

2023/7/24 23:46:00

世は電子阿片時代

脳と直結したコンテンツ生成器が脳内麻薬を最大化する時代

Youtubeのレコメンドシステムに萌芽を見る

あれ

2022/11/7 14:02:00

Youtubeのレコメンドシステムが強すぎる。ブログで同じことできたらいいんだけど。というか内部リンク張りまくればええんや。

内部リンク張りまくってるけど、回遊している様子はあまり見られなかったりする。レアケース。人々はリンクを踏まない。ちゃんとレコメンドシステムを組むしかなさそう?

あれ

2022/11/13 10:56:00

 デライト動画を伸ばそうと思ったら、主題・サムネイル・タイトル あたりをよく練る必要を感じる。Youtubeのレコメンドに表示された時に、クリックしてもらうことを考えなければいけない。

 サムネイル・タイトルから動画の内容を逆算して作るということもできそうか。

あれ

2023/5/25 10:32:00

YouTubeに動画を投稿すると、ふんわり過去の動画も見られている。自分の動画の間でレコメンドで視聴者を回すのが良いのだろう。

投稿するのが最大の宣伝になるのだろうな。