t_wの輪郭

Feedlyでフォローするボタン
生成AIAWS
『Amazon BedrockのAPIとGradioで簡単なUIを作って画像生成してみた』Agents for Amazon BedrockTitan Multimodal Embeddings G1あれ『[アップデート]Agents for Amazon Bedrockが発表されました! #AWSreInvent』あれknownetの曖昧検索あれ『Bun & Honoで始めるAmazon Bedrock入門』あれAmazon BedrockのSentence Embeddingの料金はOpenAIと同じTitan Text Embeddings v2あれAmazon BedrockでSentence Embeddingを取得するあれAmazon Bedrockが正式公開されてしまった『Amazon Bedrockで利用可能になったMeta社のLlama 3.1を試してみた - サーバーワークスエンジニアブログ』『Amazon Bedrockがオープンソースフレームワーク統合を取り入れたマルチエージェントシステム(MAS)を導入 - InfoQ』Bedrock EngineerBedrockでのNovaとClaudeの料金比較
Amazon Nova モデル 1,000 入力トークンあたりの料金 1,000 入力トークンあたりの料金 (キャッシュ読み取り) 1,000 出力トークンあたりの料金 1,000 入力トークンあたりの料金 (バッチ) 1,000 出力トークンあたりの料金 (バッチ)
Amazon Nova Pro USD 0.0008 該当なし USD 0.0032 USD 0.0004 USD 0.0016
Amazon Nova Pro (レイテンシー最適化推論付き) USD 0.001 該当なし USD 0.004 該当なし 該当なし
Amazon Nova Lite USD 0.00006 該当なし USD 0.00024 USD 0.00003 USD 0.00012
Amazon Nova Micro USD 0.000035 該当なし USD 0.00014 USD 0.0000175 USD 0.00007

Anthropic のモデル 入力トークン 1,000 個あたりの価格 1,000 出力トークンあたりの料金 1,000 入力トークンあたりの料金 (バッチ) 1,000 出力トークンあたりの料金 (バッチ) 1,000 入力トークンあたりの料金 (キャッシュ書き込み) 1,000 入力トークンあたりの料金 (キャッシュ読み取り)
Claude 3.7 Sonnet* 0.003 USD 0.015 USD 該当なし 該当なし 0.00375 USD 0.0003 USD
Claude 3.5 Sonnet 0.003 USD 0.015 USD 0.0015 USD 0.0075 USD 0.00375 USD 0.0003 USD
Claude 3.5 Haiku 0.0008 USD 0.004 USD 0.0005 USD 0.0025 USD 0.001 USD 0.00008 USD
Claude 3 Opus* 0.015 USD 0.075 USD 0.0075 USD 0.0375 USD NA NA
Claude 3 Haiku 0.00025 USD 0.00125 USD 0.000125 USD 0.000625 USD NA NA
Claude 3 Sonnet 0.003 USD 0.015 USD 0.0015 USD 0.0075 USD NA NA
Claude 2.1 0.008 USD 0.024 USD NA 該当なし 該当なし NA
Claude 2.0 0.008 USD 0.024 USD NA 該当なし 該当なし NA
Claude Instant 0.0008 USD 0.0024 USD NA 該当なし 該当なし NA

あれ

2023/12/2 23:21:00

knownetの検索をBedrockからBERTに移行した。
検索精度の変化は定量的な比較をしてないので謎。体感的には変わらん気がする。

knownetの曖昧検索

2023/10/4 23:50:00

当初ベクトル検索を用いようとしていたが、検索速度や精度に問題が有るため取りやめた。

現在は検索語を分かち書きして、検索語を構成する句を含む投稿を取得、さらにその投稿と紐づく投稿を取得し、投稿のEmbeddingと検索語のEmbeddingのコサイン類似度で並び替えしている。

Embeddingの取得にはAmazon Bedrockを使っている。

あれ

2023/10/4 23:48:00

遺伝的ホニャララは死にました。
Amazon Bedrockが正式リリースされてしまったので、それを使っております。

あれ

2023/9/29 22:42:00

来ましたわあああああ

import boto3
import json

bedrock_runtime = boto3.client('bedrock-runtime', region_name="us-east-1")

def handler(event, context):
    # プロンプトに設定する内容を取得
    prompt = event.get('prompt')

    # 各種パラメーターの指定
    modelId = 'amazon.titan-embed-text-v1' 
    accept = 'application/json'
    contentType = 'application/json'

    # リクエストBODYの指定
    body = json.dumps({
        "inputText": prompt,
    })

    # Bedrock APIの呼び出し
    response = bedrock_runtime.invoke_model(
    	modelId=modelId,
    	accept=accept,
    	contentType=contentType,
        body=body
    )

    # APIレスポンスからBODYを取り出す
    response_body = json.loads(response.get('body').read())

    print(response_body)

    # レスポンスBODYから応答テキストを取り出す
    embedding = response_body.get('embedding')

    return embedding

コードの改変元

https://dev.classmethod.jp/articles/invoke-bedrock-form-lambda-function/