こんにちは、こけしが趣味の坂本（@t_sakam）です。今回は、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」の裏側で利用している AWS のサービスや構成を確認していきたいと思います。 「AI 基盤くん」の構成は、ほぼ Alexa スキル制作の一般的な構…

こんにちは、こけしが趣味の坂本（@t_sakam）です。Claude 3 の最上位 モデルである Opus が Amazon Bedrock で利用できるようになりました。以前のブログで Claude 3 Sonnet が Amazon Bedrock で利用できるようになった際に Amazon Bedrock のチャットのプ…

サーバーワークスの村上です。 Amazon BedrockでClaude 3 Opusが利用可能になったというアップデートがありました。 aws.amazon.com これでClaude 3ファミリーすべてがAmazon Bedrockで利用可能になりました。 このブログではあらためてClaude 3 ファミリー…

当記事ではAnthropic Prompt libraryのプロンプト集の中から、ITエンジニア視点で日常業務で役立つプロンプトを紹介します。 Anthropic Prompt libraryとは 注意点 前提 ちなみに 分類 文章処理系 Cite your sources - 情報源を引用する その他 Meeting scri…

こんにちは、サーバーワークスのこけしの人、坂本（@t_sakam）です。今回は、Alexa スキル更新のお知らせです。タイトル通りなのですが、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」を更新しました！ 更新内容 AI のモデルを、新しく 2024 年 3 …

サーバーワークスの村上です。 2024年3月1日のアップデートでKnowledge Bases for Amazon Bedrockがハイブリッド検索に対応しました。 以前にも「RAGの主役は生成AIではなく検索システムだ」というブログで検索の重要性を書いていますが、今回ハイブリッド検…

こんにちは、こけしが趣味の坂本（@t_sakam）です。今回は、2024 年 3 月 4 日に発表された Claude 3 の実力を Amazon Bedrock のチャットのプレイグラウンドで、簡単に確かめてみたいと思います。 Claude 3 では、マルチモーダル機能が追加され、文章と合わ…

サーバーワークスの村上です。 2024年3月4日にAnthropic社のClaude 3が発表されました。 www.anthropic.com どうやらAmazon Bedrockでも使えるとのことでしたので早速試してみました。 aws.amazon.com 2024年4月17日追記：Claude 3 ファミリーがすべて使用可…

こんにちは、こけしが趣味の坂本（@t_sakam）です。今回は、re:Invent 2023 で発表された「Agents for Amazon Bedrock」を使って「こけしが趣味の保険代理店の事務アシスタント」という Alexa スキルを検証目的で作成してみたいと思います。 AWS の公式ドキ…

はじめに 本記事では Retool を使用して生成 AI とチャットができるアプリケーション（上図）を作成する際の要点について、Retool の機能とともに紹介していきたいと思います。Retool の全機能を体系的に紹介するのではなく、Retoolを用いて実際にどのような…

こんにちは。AWS CLIが好きな福島です。 はじめに 結論 AWS Lambdaでストリーミングレスポンスを扱う方法 Lambda Web Adapter FastAPI と Uvicorn 実装方法 ①GirHubからClone ②template.ymlの編集 ③requirements.txtの編集 ④app/main.pyの編集 LangChainを使…

サーバーワークスの村上です。 2023年10月にAmazon BedrockとSlackを使った、RAG構成のチャットボットを作ってみました。 blog.serverworks.co.jp 3か月が経った今、なんとこのアプリはサーバーワークスの社内ルールやナレッジなど様々な情報を基に回答する…

こんにちは。AWS CLIが好きな福島です。 RAGとは？ RAGのイメージ RAGの課題(RAGシステムの必要性) 課題 解決方法 アーキテクチャ図 アーキテクチャの各要素について ①ユーザーインターフェイス 独自のUIを構築する場合 SlackやTeamsなどのチャットに組み込…

Knowledge Bases のぐるぐる回る「Loading resources」をAWS CLIで解決する小ネタの話です

こんにちは。AWS CLIが好きな福島です。 はじめに イメージ サンプルコード フロントエンド(frontend.py) バックエンド(backend.py) 実行方法 ポイント ストリーミング出力について 会話履歴の表示 選択したモデルに応じた動的なカラムの用意 補足 モデルを…

こんにちは。AWS CLIが好きな福島です。 現在は、LangChainを利用する際は、LCEL記法が推奨されております。 LCELについては、以下を参照ください。 python.langchain.com また別でブログを書いているため、ご興味ある方はご覧ください。 blog.serverworks.c…

サーバーワークスの村上です。 このブログではRAGの評価フレームワークであるragasについて紹介します。 ragasとは RAGの評価イメージ ragasでできること概要（忙しい方向けのまとめ） このブログで検証したこと ragasの利用の流れ テストデータの作成 RAGア…

サーバーワークスの村上です。 煽った感じのタイトルですが、検索も大事だよね、と捉えていただけると幸いです。 このブログでは、同じ意味だけど検索対象ドキュメントとは違う言葉を使って検索した際に、きちんと検索できるのか検証してみました。 最初に記…

サーバーワークスの村上です。 今年もre:Invent 2023が終わりましたね。多くのアップデートがあり色々キャッチアップしないといけないので、むしろこれからという感じでしょうか。 さて、このブログでは、re:Invent 2023で発表されたAgents for Amazon Bedro…

こんにちは、こけしが趣味の坂本（@t_sakam）です。今回は、先日公開した、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」にある課題の一つを、Knowledge base for Amazon Bedrock で、解決できるか、検証してみたいと思います。 Knowledge base fo…

サーバーワークスの村上です。 現地11月28日に行われたAdam Selipsky Keynoteでは、Knowledge base for Amazon BedrockのGAなどが発表されましたが、発表の中で「明日のDr Swami のKeynoteもお楽しみに」という発言がありました。 「これは明日が本番だな...…

サーバーワークスの村上です。 re:Invent 2023の2日目はAmazon Bedrock関連で複数のアップデートがありました。 このブログでは、注目のアップデートであるKnowledge base for Amazon Bedrockについて紹介します。 aws.amazon.com その他のre:Invent関連ブロ…

サーバーワークスの村上です。 re:Invent 2023、今年も始まりましたね。 さっそくBedrock関連のアップデートを紹介します。 結論 AWS Step Functionsとは？ AWS Step Functionsに追加されたAmazon BedrockのAPIは2つ LLMの出力をLLMにチェックさせてみた 全…

こんにちは。AWS CLIが好きな福島です。 はじめに Workshopの概要 感想 構成図 概要 Step Functionsの詳細 やったこと アプリの画面 Amazon Bedrockを使った音声データの分析(Generative AI Query) Amazon Bedrockへのプロンプトの内容を変更し、分析内容(Ge…

サーバーワークスの村上です。 このブログではAmazon Bedrockをモニタリングするツールについて、主にCloudWatchとWeights & Biasesを比較していきます。 後述しますが、Weights & BiasesはAWSサービスではなく、機械学習の実験管理などに使われるサードパー…

こんにちは。AWS CLIが好きな福島です。 はじめに 前回に引き続き、AWSを利用したチャットボットアプリの構成例をご紹介いたします。 blog.serverworks.co.jp チャットボットアプリのイメージ ※補足 KendraのWeb Crawlを使ってサーバーワークスの役員情報を…

こんにちは！引き続きIE課にて修行中の荒井です。 今回は最近話題の Amazon Bedrock(Stable Diffusion) の workshop を触ってきたので、そちらについて書こうと思います。 手順通りにやるとエラーが出たり上手くいかない点があったので、そちらの備忘録でも…

こんにちは。AWS CLIが好きな福島です。 はじめに チャットボットアプリのイメージ 構成 構成の説明 AWSへのプライベート接続 ECSによるアプリケーション実装 会話履歴の保存と利用 質問応答システム ログの保存と分析 RAGのセットアップ 効率的なインデック…

こんにちは、サーバーワークスのこけしの人、坂本（@t_sakam）です。今回は、新しい Alexa スキル公開のお知らせです。タイトル通りなのですが、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」を公開しました。 AI 基盤くんとは AI 基盤くんは、AWS…

こんにちは。AWS CLI が好きな福島です。 はじめに スクリプト まとめ 質問内容 ① 回答 AI21 Labs(ai21.j2-ultra) Anthropic(anthropic.claude-v2) Cohere(cohere.command-text-v14) 質問内容 ② 回答 AI21 Labs(ai21.j2-ultra) Anthropic(anthropic.claude-v…

こんにちは。AWS CLI が好きな福島です。 はじめに 追記 利用可能なモデルを確認する AI21 Labs のモデルを使ってみる ai21.j2-ultra の実行 Amazon のモデルを使ってみる amazon.titan-embed-text-v1 の実行 Anthropicのモデル を使ってみる anthropic.clau…

サーバーワークスの村上です。 ハロウィンが終わり11月になりました。224cmルーキー、ウェンバンヤマによるスレンダーマンの仮装を貼っておきます。 Happy HalloWemby! Spurs/Suns, 10pm/et on TNT pic.twitter.com/ZCNU1f5oBh— NBA (@NBA) 2023年10月31日 …

サーバーワークスの村上です。 10月といえば一番に思いつくのがNBAシーズンの開幕ですよね。今期も脳死で課金します。 Year 6 pic.twitter.com/1TwqNSTrOH— Yuta Watanabe 渡邊 雄太 (@wacchi1013) 2023年10月3日 さて、このブログはAmazon BedrockとSlackを…

サーバーワークスの村上です。 Amazon Bedrockが2023年9月28日ついにGA（一般公開）されました。 aws.amazon.com 使用可能なリージョン us-east-1 (バージニア北部) とus-west-2 (オレゴン)のみです。 ブログ執筆現在で東京リージョンは未対応です。 2023年1…

サーバーワークスの松井(宏)です。 本日、Amazon BedrockがGAとなり、早速「画像生成」の機能として利用してみたのでレビュー記事を書きたいと思います。 画像生成AIとしてAWSが提供しているサービスの中で最も簡単に利用が始められるサービスとして、Amazon…