Amazon Bedrock

Guardrails for Amazon Bedrockの検証~生成AIアプリを責任あるAIに~

サーバーワークスの村上です。 2024年4月24日にGuardrails for Amazon Bedrockの一般提供が開始されました。 aws.amazon.com Guardrails for Amazon Bedrockでは、各種フィルターを設定し、生成AIアプリケーションの有害な入力・出力をブロックすることがで…

Amazon Bedrock を利用した Alexa スキルの裏側で利用している AWS のサービスと構成について

こんにちは、こけしが趣味の坂本(@t_sakam)です。今回は、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」の裏側で利用している AWS のサービスや構成を確認していきたいと思います。 「AI 基盤くん」の構成は、ほぼ Alexa スキル制作の一般的な構…

Claude 3 Opus の実力を Amazon Bedrock でいろいろな「こけし」の画像を使って確認する

こんにちは、こけしが趣味の坂本(@t_sakam)です。Claude 3 の最上位 モデルである Opus が Amazon Bedrock で利用できるようになりました。以前のブログで Claude 3 Sonnet が Amazon Bedrock で利用できるようになった際に Amazon Bedrock のチャットのプ…

Amazon BedrockでClaude 3 Opusが利用可能になりました

サーバーワークスの村上です。 Amazon BedrockでClaude 3 Opusが利用可能になったというアップデートがありました。 aws.amazon.com これでClaude 3ファミリーすべてがAmazon Bedrockで利用可能になりました。 このブログではあらためてClaude 3 ファミリー…

【Anthropic Prompt library】ITエンジニアのための生成AI活用ガイド

当記事ではAnthropic Prompt libraryのプロンプト集の中から、ITエンジニア視点で日常業務で役立つプロンプトを紹介します。 Anthropic Prompt libraryとは 注意点 前提 ちなみに 分類 文章処理系 Cite your sources - 情報源を引用する その他 Meeting scri…

【Claude 3 Haiku】Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」を更新しました!

こんにちは、サーバーワークスのこけしの人、坂本(@t_sakam)です。今回は、Alexa スキル更新のお知らせです。タイトル通りなのですが、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」を更新しました! 更新内容 AI のモデルを、新しく 2024 年 3 …

ハイブリッド検索の威力を検証!Knowledge Bases for Amazon Bedrock

サーバーワークスの村上です。 2024年3月1日のアップデートでKnowledge Bases for Amazon Bedrockがハイブリッド検索に対応しました。 以前にも「RAGの主役は生成AIではなく検索システムだ」というブログで検索の重要性を書いていますが、今回ハイブリッド検…

マルチモーダル AI の Claude 3 は、日本独自の「こけし」の画像を認識できるか? Amazon Bedrock のチャットのプレイグラウンドで確認する

こんにちは、こけしが趣味の坂本(@t_sakam)です。今回は、2024 年 3 月 4 日に発表された Claude 3 の実力を Amazon Bedrock のチャットのプレイグラウンドで、簡単に確かめてみたいと思います。 Claude 3 では、マルチモーダル機能が追加され、文章と合わ…

Amazon BedrockでClaude 3 Sonnetが利用可能になりました

サーバーワークスの村上です。 2024年3月4日にAnthropic社のClaude 3が発表されました。 www.anthropic.com どうやらAmazon Bedrockでも使えるとのことでしたので早速試してみました。 aws.amazon.com 2024年4月17日追記:Claude 3 ファミリーがすべて使用可…

Agents for Amazon Bedrock で Alexa の検証スキル「こけしが趣味の保険代理店の事務アシスタント」を作成!

こんにちは、こけしが趣味の坂本(@t_sakam)です。今回は、re:Invent 2023 で発表された「Agents for Amazon Bedrock」を使って「こけしが趣味の保険代理店の事務アシスタント」という Alexa スキルを検証目的で作成してみたいと思います。 AWS の公式ドキ…

ローコードツールで生成 AI とのチャットアプリを作る【Retool, Amazon Bedrock (Claude)】

はじめに 本記事では Retool を使用して生成 AI とチャットができるアプリケーション(上図)を作成する際の要点について、Retool の機能とともに紹介していきたいと思います。Retool の全機能を体系的に紹介するのではなく、Retoolを用いて実際にどのような…

【生成AI】AWS Lambda(Python) と LangChain(LCEL) を使ってストリーミング出力したい

こんにちは。AWS CLIが好きな福島です。 はじめに 結論 AWS Lambdaでストリーミングレスポンスを扱う方法 Lambda Web Adapter FastAPI と Uvicorn 実装方法 ①GirHubからClone ②template.ymlの編集 ③requirements.txtの編集 ④app/main.pyの編集 LangChainを使…

Amazon Bedrockを使った社内QAチャットボットを3か月運用して起きた変化

サーバーワークスの村上です。 2023年10月にAmazon BedrockとSlackを使った、RAG構成のチャットボットを作ってみました。 blog.serverworks.co.jp 3か月が経った今、なんとこのアプリはサーバーワークスの社内ルールやナレッジなど様々な情報を基に回答する…

【生成AI】RAGシステムの解析:必要性と各アーキテクチャ要素の考慮事項

こんにちは。AWS CLIが好きな福島です。 RAGとは? RAGのイメージ RAGの課題(RAGシステムの必要性) 課題 解決方法 アーキテクチャ図 アーキテクチャの各要素について ①ユーザーインターフェイス 独自のUIを構築する場合 SlackやTeamsなどのチャットに組み込…

【小ネタ】Knowledge Bases のぐるぐる回る「Loading resources」をAWS CLIで解決する話

Knowledge Bases のぐるぐる回る「Loading resources」をAWS CLIで解決する小ネタの話です

【Streamlit/LangChain】1度に複数のLLMに質問してみる(Amazon Bedrock, Google Gemini, Azure OpenAI)

こんにちは。AWS CLIが好きな福島です。 はじめに イメージ サンプルコード フロントエンド(frontend.py) バックエンド(backend.py) 実行方法 ポイント ストリーミング出力について 会話履歴の表示 選択したモデルに応じた動的なカラムの用意 補足 モデルを…

LangChain を活用して Amazon Bedrock を利用する

こんにちは。AWS CLIが好きな福島です。 現在は、LangChainを利用する際は、LCEL記法が推奨されております。 LCELについては、以下を参照ください。 python.langchain.com また別でブログを書いているため、ご興味ある方はご覧ください。 blog.serverworks.c…

RAG評価フレームワークのragasを使ってみた

サーバーワークスの村上です。 このブログではRAGの評価フレームワークであるragasについて紹介します。 ragasとは RAGの評価イメージ ragasでできること概要(忙しい方向けのまとめ) このブログで検証したこと ragasの利用の流れ テストデータの作成 RAGア…

RAGの主役は生成AIではなく検索システムだという話 - Amazon Kendra と Amazon OpenSearch Serverless の比較 -

サーバーワークスの村上です。 煽った感じのタイトルですが、検索も大事だよね、と捉えていただけると幸いです。 このブログでは、同じ意味だけど検索対象ドキュメントとは違う言葉を使って検索した際に、きちんと検索できるのか検証してみました。 最初に記…

【re:Invent 2023】Agents for Amazon Bedrockで生成AIアプリの可能性を広げよう

サーバーワークスの村上です。 今年もre:Invent 2023が終わりましたね。多くのアップデートがあり色々キャッチアップしないといけないので、むしろこれからという感じでしょうか。 さて、このブログでは、re:Invent 2023で発表されたAgents for Amazon Bedro…

Knowledge base for Amazon Bedrock で「こけし」に関する回答を正確に!

こんにちは、こけしが趣味の坂本(@t_sakam)です。今回は、先日公開した、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」にある課題の一つを、Knowledge base for Amazon Bedrock で、解決できるか、検証してみたいと思います。 Knowledge base fo…

【re:Invent 2023】Amazon Bedrockで使えるモデルが増えました!Dr Swami Sivasubramanian Keynoteで発表されたBedrock関連のアップデート

サーバーワークスの村上です。 現地11月28日に行われたAdam Selipsky Keynoteでは、Knowledge base for Amazon BedrockのGAなどが発表されましたが、発表の中で「明日のDr Swami のKeynoteもお楽しみに」という発言がありました。 「これは明日が本番だな...…

【re:Invent 2023】Knowledge base for Amazon BedrockがGAしたので解説します

サーバーワークスの村上です。 re:Invent 2023の2日目はAmazon Bedrock関連で複数のアップデートがありました。 このブログでは、注目のアップデートであるKnowledge base for Amazon Bedrockについて紹介します。 aws.amazon.com その他のre:Invent関連ブロ…

【re:Invent 2023】AWS Step FunctionsにAmazon BedrockのAPIが追加されたので、LLMの出力をLLMにチェックさせてみた

サーバーワークスの村上です。 re:Invent 2023、今年も始まりましたね。 さっそくBedrock関連のアップデートを紹介します。 結論 AWS Step Functionsとは? AWS Step Functionsに追加されたAmazon BedrockのAPIは2つ LLMの出力をLLMにチェックさせてみた 全…

【re:Invent 2023】AI/ML系Workshop参加レポート - AIM302 - Use generative AI to extract insights from contact center recordings(和訳: 生成 AI を使用してコンタクト センターの記録から洞察を抽出する)

こんにちは。AWS CLIが好きな福島です。 はじめに Workshopの概要 感想 構成図 概要 Step Functionsの詳細 やったこと アプリの画面 Amazon Bedrockを使った音声データの分析(Generative AI Query) Amazon Bedrockへのプロンプトの内容を変更し、分析内容(Ge…

Amazon Bedrockのモニタリングを考える

サーバーワークスの村上です。 このブログではAmazon Bedrockをモニタリングするツールについて、主にCloudWatchとWeights & Biasesを比較していきます。 後述しますが、Weights & BiasesはAWSサービスではなく、機械学習の実験管理などに使われるサードパー…

【Amazon Bedrock】AWSを利用したチャットボットアプリの構成例②について(Streamlit,LangChain,Amazon Kendra)

こんにちは。AWS CLIが好きな福島です。 はじめに 前回に引き続き、AWSを利用したチャットボットアプリの構成例をご紹介いたします。 blog.serverworks.co.jp チャットボットアプリのイメージ ※補足 KendraのWeb Crawlを使ってサーバーワークスの役員情報を…

Amazon Bedrock(Stable Diffusion) の workshop をやってみた~Text to Image編~

こんにちは!引き続きIE課にて修行中の荒井です。 今回は最近話題の Amazon Bedrock(Stable Diffusion) の workshop を触ってきたので、そちらについて書こうと思います。 手順通りにやるとエラーが出たり上手くいかない点があったので、そちらの備忘録でも…

【Amazon Bedrock】AWSを利用したチャットボットアプリの構成例①について(Streamlit,LangChain,Faiss)

こんにちは。AWS CLIが好きな福島です。 はじめに チャットボットアプリのイメージ 構成 構成の説明 AWSへのプライベート接続 ECSによるアプリケーション実装 会話履歴の保存と利用 質問応答システム ログの保存と分析 RAGのセットアップ 効率的なインデック…

Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」を公開しました!

こんにちは、サーバーワークスのこけしの人、坂本(@t_sakam)です。今回は、新しい Alexa スキル公開のお知らせです。タイトル通りなのですが、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」を公開しました。 AI 基盤くんとは AI 基盤くんは、AWS…

【AWS CLI】 スクリプトを利用して 1 度にAmazon Bedrockの複数モデルに質問を投げてみる

こんにちは。AWS CLI が好きな福島です。 はじめに スクリプト まとめ 質問内容 ① 回答 AI21 Labs(ai21.j2-ultra) Anthropic(anthropic.claude-v2) Cohere(cohere.command-text-v14) 質問内容 ② 回答 AI21 Labs(ai21.j2-ultra) Anthropic(anthropic.claude-v…

【AWS CLI】Amazon Bedrockを利用して複数のモデル を使ってみる

こんにちは。AWS CLI が好きな福島です。 はじめに 追記 利用可能なモデルを確認する AI21 Labs のモデルを使ってみる ai21.j2-ultra の実行 Amazon のモデルを使ってみる amazon.titan-embed-text-v1 の実行 Anthropicのモデル を使ってみる anthropic.clau…

Amazon Bedrockの入出力に個人情報が含まれていたらAmazon Comprehendでフィルタする

サーバーワークスの村上です。 ハロウィンが終わり11月になりました。224cmルーキー、ウェンバンヤマによるスレンダーマンの仮装を貼っておきます。 Happy HalloWemby! Spurs/Suns, 10pm/et on TNT pic.twitter.com/ZCNU1f5oBh— NBA (@NBA) 2023年10月31日 …

Amazon BedrockとSlackによるRAG(検索拡張生成)構成

サーバーワークスの村上です。 10月といえば一番に思いつくのがNBAシーズンの開幕ですよね。今期も脳死で課金します。 Year 6 pic.twitter.com/1TwqNSTrOH— Yuta Watanabe 渡邊 雄太 (@wacchi1013) 2023年10月3日 さて、このブログはAmazon BedrockとSlackを…

Amazon BedrockがGAしたので概要をまとめてみる

サーバーワークスの村上です。 Amazon Bedrockが2023年9月28日ついにGA(一般公開)されました。 aws.amazon.com 使用可能なリージョン us-east-1 (バージニア北部) とus-west-2 (オレゴン)のみです。 ブログ執筆現在で東京リージョンは未対応です。 2023年1…

Amazon BedrockがGAになり、画像生成がより簡単に!

サーバーワークスの松井(宏)です。 本日、Amazon BedrockがGAとなり、早速「画像生成」の機能として利用してみたのでレビュー記事を書きたいと思います。 画像生成AIとしてAWSが提供しているサービスの中で最も簡単に利用が始められるサービスとして、Amazon…