<p><a class="oln" data-kno="K#/B2BE" href="/B2BE">TwEgaku</a>の<a class="oln" data-kno="K#/D692" href="/D692">手書き検索</a>も、精度を改善する筋道がほんのり見えてきた。
</p>

 TwEgakuの手書き検索も、精度を改善する筋道がほんのり見えてきた。
  

あれ

<p><a class="URI" href="https://github.com/pfnet-research/japanese-lm-fin-harness" target="_blank" rel="noopener nofollow ugc">https://github.com/pfnet-research/japanese-lm-fin-harness</a>
</p>

 https://github.com/pfnet-research/japanese-lm-fin-harness
 

『Japanese Language Model Financial Evaluation Harness』

大規模言語モデル

金融

<p><a class="URI" href="https://surrealdb.com/" target="_blank" rel="noopener nofollow ugc">https://surrealdb.com/</a>
</p>

SurrealDB

<p><a class="URI" href="https://arxiv.org/abs/2204.07496" target="_blank" rel="noopener nofollow ugc">https://arxiv.org/abs/2204.07496</a>
</p>

『Improving Passage Retrieval with Zero-Shot Question Generation』

Hypothetical Document Embedding

2023年11月20日

<p class="no_idt">　Misskey.ioに<a class="oln" data-kno="K#/36EA" href="/36EA">ルビ機能</a>が来たので、<a class="oln" data-kno="K#/516A" href="/516A">カタカナ・希哲館訳語変換サービス</a>の改修の報知をした。
<br/>　<a class="URI" href="https://misskey.io/notes/9m9ogghzbxld00v2" target="_blank" rel="noopener nofollow ugc">https://misskey.io/notes/9m9ogghzbxld00v2</a>
</p><br/><p class="no_idt">　今日は仕事では<a class="oln" data-kno="K#/DB90" href="/DB90">システムが吹っ飛んだ件を調査していた</a>。まじで勘弁してほしい。問い合わせが帰ってきて、色々確定したら情報をまとめたい。現状だと確定していないので、「〇〇サービスで✕✕するとデータやユーザーアカウントが全部消える」とか軽率に言うことはできない。
<br/>　多分、普段私の投稿を見ている人にはどのサービスなのかはなんとなく察しがついてしまっているだろう。
</p><br/><p class="no_idt">　<a class="oln" data-kno="K#/B10B" href="/B10B">K研究室</a>の通話にて、<a class="oln" data-kno="K#/4576" href="/4576">K教授</a>や他の<a class="oln" data-kno="K#/0F6B" href="/0F6B">客員研究員</a>の人と話した。
<br/>　やはり私は知識の面においてかなりブランクがあることがわかった。大学を離れてからもう6年も経っているし、その間にキャッチアップできる情報にも限りがある。
</p><p class="no_idt">　大学院での研究で調子を崩してから余裕がなくなって、ずっと実務しかできていなかった。最近になってやっと色々できるようになってきた。ブランクを取り戻さねば。
<br/>　実務能力は大学院にいたときより遥かに高くなっているし、デライトという強い味方もある。研究、やっていきたい。
<br/>　あと、私は変なことをするときに<a class="oln" data-kno="K#/20E3" href="/20E3">先行事例</a>の調査が甘いままに、実装や実験に突っ走る傾向があるので、もうちょっと調査の時間を多く取っても良い気がした。あと環境も大きい。今日の通話で「画像と文章のEmbeddingを同じ長さにして学習してやれば文章から画像が検索できますよね」とか言ったら、<a class="oln" data-kno="K#/5230" href="/5230">Multimodal Embedding</a>がすでにあることを教えてもらった。やっぱ<a class="oln" data-kno="K#/8578" href="/8578">先行研究</a>あるよなぁ。「先行研究が無いなら研究する価値がない」って昔言われたし、研究する価値があるなら先行研究があるのだ。
</p>

 　Misskey.ioにルビ機能が来たので、カタカナ・希哲館訳語変換サービスの改修の報知をした。
　https://misskey.io/notes/9m9ogghzbxld00v2
　今日は仕事ではシステムが吹っ飛んだ件を調査していた。まじで勘弁してほしい。問い合わせが帰ってきて、色々確定したら情報をまとめたい。現状だと確定していないので、「〇〇サービスで✕✕するとデータやユーザーアカウントが全部消える」とか軽率に言うことはできない。
　多分、普段私の投稿を見ている人にはどのサービスなのかはなんとなく察しがついてしまっているだろう。
　K研究室の通話にて、K教授や他の客員研究員の人と話した。
　やはり私は知識の面においてかなりブランクがあることがわかった。大学を離れてからもう6年も経っているし、その間にキャッチアップできる情報にも限りがある。
　大学院での研究で調子を崩してから余裕がなくなって、ずっと実務しかできていなかった。最近になってやっと色々できるようになってきた。ブランクを取り戻さねば。
　実務能力は大学院にいたときより遥かに高くなっているし、デライトという強い味方もある。研究、やっていきたい。
　あと、私は変なことをするときに先行事例の調査が甘いままに、実装や実験に突っ走る傾向があるので、もうちょっと調査の時間を多く取っても良い気がした。あと環境も大きい。今日の通話で「画像と文章のEmbeddingを同じ長さにして学習してやれば文章から画像が検索できますよね」とか言ったら、Multimodal Embeddingがすでにあることを教えてもらった。やっぱ先行研究あるよなぁ。「先行研究が無いなら研究する価値がない」って昔言われたし、研究する価値があるなら先行研究があるのだ。
  

2023年11月20日日記

<p>Misskey v2023.11.1から利用可能となっている
</p>

 Misskey v2023.11.1から利用可能となっている
  

Misskeyのルビ機能

「先行研究が無いなら研究する価値がない」の対偶は「研究する価値があるなら先行研究がある」

先行事例

<h2>再現手順</h2><p><a class="oln" data-kno="K#/9977" href="/9977">Amplify</a>を触ったことがある人を対象としているため、画像を貼ったりせず、事細かには説明しない。適宜補完してほしい。
</p><h3>本番と見なすAmplifyのアプリを作成する</h3><h4>ダミーのウェブアプリを作る</h4><ol><li>Githubに空のレポジトリを作成する<li>GithubからレポジトリをCloneする<li>ローカルの端末で<code>npx create-react-app amplify_the_destroyer</code>などと実行して、テスト用に適当なウェブアプリを作成する。ここでnext.jsで作るとややこしいことになるのでやってはいけない。</ol><h4>Amplifyのウェブコンソールでの作業</h4><ol><li>Amplifyのウェブコンソールから「アプリケーションを構築」を押して、アプリ（名前はto_be_destroyedとする）を作成する。</ol><h4>ローカルの端末での作業</h4><ol><li>Backend environmentsにstagingがあるので、これを<code>amplify pull --appId {appId} --envName staging</code>で取得する。<li><code>git add .</code>、<code>git commit -m &quot;init&quot;</code>、<code>git push</code>を実行して、レポジトリにコードを反映させる。</ol><h4>Amplifyのウェブコンソールでの作業</h4><ol><li>Hosting environmentsからGithubを選択して、上記レポジトリのmainブランチと連携させる。<li>「ビルドの設定」画面で、Environmentを「新しい環境を作成」にし、Environment名は空欄のままにする。<li>デプロイを開始し、デプロイされるのを待つ。</ol>
<h4>作業結果</h4><p>下の画像のようになれば成功だ。Amplifyを使っている人には見慣れた光景かと思う。
</p><p><a class="img" href="https://i.gyazo.com/b1af5f4cf0a579a15f244f51268333ee.png"><img src="https://i.gyazo.com/b1af5f4cf0a579a15f244f51268333ee.png" style="max-width: 100%;"/></a></p><p><a class="img" href="https://i.gyazo.com/bfe135b044bf63eed1be678a301e14a2.png"><img src="https://i.gyazo.com/bfe135b044bf63eed1be678a301e14a2.png" style="max-width: 100%;"/></a></p><p>この後、ローカルの端末で<code>amplify pull --appId {appId} --envName main</code>を実行してmainと同期し、その結果をGithubのレポジトリにpushしておく。
</p><br/><h3>本番環境とは切り離された検証環境のつもりでAmplifyで別アプリを作成する。</h3><ol><li>Amplifyのウェブコンソールから「アプリケーションを構築」を押して、アプリ（名前はdestroyerとする）を作成する。<li>Hosting environmentsからGithubを選択して、上記レポジトリのmainブランチと連携させる。<li>「ビルドの設定」画面で、Environmentを「新しい環境を作成」にし、Environment名は空欄のままにする。<li>デプロイを開始し、デプロイされるのを待つ</ol><h3>Amplifyのウェブコンソール上でdestroyerを削除して、to_be_destroyedのBackend Environmentsが削除されるのを確認する</h3><ol><li>Amplifyのウェブコンソールでdestroyerを開き、「アプリの削除」を押して削除する。<li>destoryerが削除されたら、to_be_destroyedのBackend Environmentsが削除されているのを確認する。</ol><p><a class="img" href="https://i.gyazo.com/bc8ba2adc37ffab192e1b09dcf87db03.png"><img src="https://i.gyazo.com/bc8ba2adc37ffab192e1b09dcf87db03.png" style="max-width: 100%;"/></a></p><p>mainが「Deletion completed」となっているのが確認できる。
</p><br/><h2>原因</h2><p class="no_idt">Amplifyにレポジトリ連携でデプロイする時、team-provider-info.jsonがレポジトリに入っていると、別Appであっても同一のCloudFormationスタックが用いられる。
<br/>そのため、Appを削除するとCloudFormationによって他Appと共用となってしまっているバックエンド環境が削除される。
</p><br/><h2>対策（未検証）</h2><ul><li>Amplifyと連携しているレポジトリからteam-provider-info.jsonを消す<li>.gitignoreにteam-provider-info.jsonを追加する<li>CloudFormationのスタック削除保護を有効化する<li>バックアップを設定する</ul><br/><h2>後記</h2><p class="no_idt">代理店を通じてAWSにBackend Environmentsの復旧を依頼したが、Backend Environmentsに掛かるDynamoDB・S3は復旧できないとのこと。
<br/>amplify pullを実行すると、.gitignoreに色々追記されるが、team-provider-info.jsonは除外設定にならない。
<br/>本事象は私のプロジェクトの本格運用前に発生した。本格運用が始まった状態でこの問題が発生した場合にはより深刻な影響を及ぼしただろう。
<br/>DynamoDBのデータは、<a class="oln" data-kno="K#/28A2" href="/28A2">DataStore</a>がDynamoDBと同期していたブラウザのIndexedDBより救出された。
<br/>今年の2月に開始された弊プロジェクトでは、この他にも2度ほどAmplifyのバグを踏んでいる。
</p>

 再現手順Amplifyを触ったことがある人を対象としているため、画像を貼ったりせず、事細かには説明しない。適宜補完してほしい。
本番と見なすAmplifyのアプリを作成するダミーのウェブアプリを作るGithubに空のレポジトリを作成するGithubからレポジトリをCloneするローカルの端末でnpx create-react-app amplify_the_destroyerなどと実行して、テスト用に適当なウェブアプリを作成する。ここでnext.jsで作るとややこしいことになるのでやってはいけない。Amplifyのウェブコンソールでの作業Amplifyのウェブコンソールから「アプリケーションを構築」を押して、アプリ（名前はto_be_destroyedとする）を作成する。ローカルの端末での作業Backend environmentsにstagingがあるので、これをamplify pull --appId {appId} --envName stagingで取得する。git add .、git commit -m "init"、git pushを実行して、レポジトリにコードを反映させる。Amplifyのウェブコンソールでの作業Hosting environmentsからGithubを選択して、上記レポジトリのmainブランチと連携させる。「ビルドの設定」画面で、Environmentを「新しい環境を作成」にし、Environment名は空欄のままにする。デプロイを開始し、デプロイされるのを待つ。
作業結果下の画像のようになれば成功だ。Amplifyを使っている人には見慣れた光景かと思う。
この後、ローカルの端末でamplify pull --appId {appId} --envName mainを実行してmainと同期し、その結果をGithubのレポジトリにpushしておく。
本番環境とは切り離された検証環境のつもりでAmplifyで別アプリを作成する。Amplifyのウェブコンソールから「アプリケーションを構築」を押して、アプリ（名前はdestroyerとする）を作成する。Hosting environmentsからGithubを選択して、上記レポジトリのmainブランチと連携させる。「ビルドの設定」画面で、Environmentを「新しい環境を作成」にし、Environment名は空欄のままにする。デプロイを開始し、デプロイされるのを待つAmplifyのウェブコンソール上でdestroyerを削除して、to_be_destroyedのBackend Environmentsが削除されるのを確認するAmplifyのウェブコンソールでdestroyerを開き、「アプリの削除」を押して削除する。destoryerが削除されたら、to_be_destroyedのBackend Environmentsが削除されているのを確認する。mainが「Deletion completed」となっているのが確認できる。
原因Amplifyにレポジトリ連携でデプロイする時、team-provider-info.jsonがレポジトリに入っていると、別Appであっても同一のCloudFormationスタックが用いられる。
そのため、Appを削除するとCloudFormationによって他Appと共用となってしまっているバックエンド環境が削除される。
対策（未検証）Amplifyと連携しているレポジトリからteam-provider-info.jsonを消す.gitignoreにteam-provider-info.jsonを追加するCloudFormationのスタック削除保護を有効化するバックアップを設定する後記代理店を通じてAWSにBackend Environmentsの復旧を依頼したが、Backend Environmentsに掛かるDynamoDB・S3は復旧できないとのこと。
amplify pullを実行すると、.gitignoreに色々追記されるが、team-provider-info.jsonは除外設定にならない。
本事象は私のプロジェクトの本格運用前に発生した。本格運用が始まった状態でこの問題が発生した場合にはより深刻な影響を及ぼしただろう。
DynamoDBのデータは、DataStoreがDynamoDBと同期していたブラウザのIndexedDBより救出された。
今年の2月に開始された弊プロジェクトでは、この他にも2度ほどAmplifyのバグを踏んでいる。
 

AWS Amplifyで検証用アプリを作ったあとに削除したら、大本のアプリのBackend environmentsが意図せず消された

2023年11月

<p><a class="oln" data-kno="K#/4576" href="/4576">K教授</a>が運営する研究室
</p>

K研究室

<p>入力された文章の中の<a class="oln" data-kno="K#/CB03" href="/CB03">カタカナ語</a>を、<a class="oln" data-kno="K#/E3EB" href="/E3EB">希哲館訳語</a>に変換するウェブアプリ。
</p><p><a class="URI" href="https://towasys.com/katakana/" target="_blank" rel="noopener nofollow ugc">https://towasys.com/katakana/</a>
</p>

 入力された文章の中のカタカナ語を、希哲館訳語に変換するウェブアプリ。
https://towasys.com/katakana/
  

カタカナ・希哲館訳語変換サービス

<p>K教授との通話で教えてもらったのだが、<a class="oln" data-kno="K#/0F6B" href="/0F6B">客員研究員</a>になると<a class="oln" data-kno="K#/C366" href="/C366">学割</a>が使えるので、Adobeとかのサービスが安価に使えるらしい。すげー。
</p>

 K教授との通話で教えてもらったのだが、客員研究員になると学割が使えるので、Adobeとかのサービスが安価に使えるらしい。すげー。
 

先行研究

日記

研究する価値

世界モデル

人工知能

Add your data

<p><a class="URI" href="https://learn.microsoft.com/ja-jp/azure/ai-services/openai/use-your-data-quickstart?tabs=command-line%2Cpython&amp;pivots=programming-language-studio" target="_blank" rel="noopener nofollow ugc">https://learn.microsoft.com/ja-jp/azure/ai-services/openai/use-your-data-quickstart?tabs=command-line%2Cpython&amp;pivots=programming-language-studio</a>
</p>

 https://learn.microsoft.com/ja-jp/azure/ai-services/openai/use-your-data-quickstart?tabs=command-line%2Cpython&pivots=programming-language-studio
  

『クイック スタート: 独自のデータを使用して Azure OpenAI モデルとチャットする』

Azure Cognitive Search

Azure OpenAI

<p>Retrieval-Augmented Generation
</p><br/><p>大体の流れ
</p><ol><li>ユーザーが質問を発する<li>ユーザーの質問から関連情報を検索<li>ユーザーの質問 + 検索結果 を生成AIに与える<li>生成結果をユーザーに提示</ol>

 Retrieval-Augmented Generation
大体の流れ
ユーザーが質問を発するユーザーの質問から関連情報を検索ユーザーの質問 + 検索結果 を生成AIに与える生成結果をユーザーに提示  

研究室

研究

K教授

手書き検索

<p><a class="oln" data-kno="K#/A315" href="/A315">knownet</a>にかかずらってないで、そろそろ<a class="oln" data-kno="K#/B2BE" href="/B2BE">TwEgaku</a>をやらねば。
</p><p>knownetはデライトの模倣なので、デライトの発展を見守れば良い。同じ山を登る必要はない。
</p><p>かたや<a class="oln" data-kno="K#/B2BE" href="/B2BE">TwEgaku</a>は私がやらないと何も進まない。「UTF-8のようなお仕着せの記号から書き手・人工言語勢を開放する」「手書きのインターネットを創る」とか考えてるの私ぐらいだろうし。
</p>

 knownetにかかずらってないで、そろそろTwEgakuをやらねば。
knownetはデライトの模倣なので、デライトの発展を見守れば良い。同じ山を登る必要はない。
かたやTwEgakuは私がやらないと何も進まない。「UTF-8のようなお仕着せの記号から書き手・人工言語勢を開放する」「手書きのインターネットを創る」とか考えてるの私ぐらいだろうし。
 