生成AI の検索結果:
…nnectを活用し、生成AIのClaudeのTools機能を組み合わせて音声対話システムを構築する方法をご紹介しました。 今回は、ClaudeのTools機能を利用して、実装しましたが、Amazon Lexでも音声対話システムを構築できます。 Lexは事前定義されたフローでの対応が得意ですが、ClaudeのTools機能はAPI呼び出しを活用して柔軟な対応が可能です。 本記事でご紹介した方法を参考にしていただき、業務課題の解決にお役立ていただければ幸いです。 サーバーワークス…
… Nova」などの 生成AI/ML関連に関する様々な発表があり、生成AI/MLの勢いがますます加速していること感じています。 ▼ サーバーワークスエンジニアブログの re:Invent 2024 のレポートはこちらからどうぞ！ AWS re:Invent 2024 カテゴリーの記事一覧 - サーバーワークスエンジニアブログblog.serverworks.co.jp そんなアップデートを追いかけるためにも、AI/ML関連の知識が必要ということで、このたび AWS Certif…
…は、AWSが提供する生成AIサービス「Bedrock」がIaCファイルのコードとWell-Architected Frameworkに記載された内容を比較/評価するようになっています。 手順 GitHubのサイトにも手順は記載されていますが、おおまかな記載になっています。 分かりずらい方は、以下の手順を参考にしていただくと良いかと思います。 ①EC2を構築 以下要件を満たすようにEC2を構築します。（リージョンはどこでも良いです） ・OSは Amazon Linux 2023…
…たとしても、最近では生成AIにこういう場合はどうしたらいいかという質問を投げるとそれっぽい回答をしてくれることもあり、途中からは多少やっつけ感はあるもののとりあえず出てきた回答の中から妥当そうなものを判断しながらベンチマークを動かして、妥当性とベンチマーク結果をひたすら確認するような感じで進めていたことが功を奏して、大規模なアプリケーション側のコード修正を殆どおこなわなくてもインフラ周りの設定変更だけである程度のパフォーマンスが出せたのは結構大きな収穫でした。 次回参加する際…
…ク別のセッション数 生成AIの注目度が高まっている状況において、 AI/MLに関連するセッションが一番多いのは予想通りでしたが、まさか2位のAnalyticsの3倍以上だったとは。。。 全セッション（3068）の1/3ほどがAI/MLに関連する内容ということになります。圧倒的ですね。 実は、AI/MLが圧倒的というのは昨年から引き続いている状況でした。昨年との比較をどうぞ。 トピック順位 順位 2023年 2024年 1 AI/ML (768) AI/ML (1050) 2 …
…のへんはもしかすると生成AIがある程度解消してくれる課題かもしれませんが、とはいえ効果的にインデックスが効くような JOIN クエリはどう書く？みたいな前提知識の部分がまだ私には圧倒的に不足しています。特にクエリ最適化の領域において、もし今私が生成AIに頼ったとしても、おそらく入力として与える問いの仮説であったり、戻ってきた回答を正しくレビューする力が私にはありません（実際、今回がそうでした）。 この辺は過去問でしっかり場数をこなしていくことが必要そうです。クエリの等価性の話…
… のこれからに期待ですね。 今日で re:Invent 2024 が終了しました。 AWS本体も、Expoに出展している企業も生成AI / セキュリティサービスで埋め尽くされていました。 AIがどんどん民主化されていくことで、我々のようなSI企業は、より洗練されていくんだろうな。と改めて感じました。 それってSIerとしては少しさみしいけど、すばらしい未来なんだろうな。と嬉しく感じました。 そして、その変化をこんなに近くで体験できることってとても楽しいな。と 仕事がんばるぞ！
…erではパース処理に生成AIを活用する。 画像は生成AIを使って説明文を生成。その説明文を検索対象にできる。 プロンプトは変更不可 細部の情報が失われる可能性あり（後述） 料金は0.010ドル/ページ Use foundation model for paringではパース処理に生成AIを活用する。 画像は生成AIを使って説明文を生成。その説明文を検索対象にできる。 プロンプトは変更可能 料金は使用する生成AIモデルに準ずる （おさらい）これまでパース処理は2種類 ドキュメン…
…コードツールです。 生成AIによる支援機能がついており、要件を文章で入力するとその内容からアプリケーションを生成してくれます。 もちろん、手動で一から作成することもできます。 構築と最初の操作までの流れはプレビュー版を公開した時のブログ記事が参考になると思います。 blog.serverworks.co.jp ワークショップの内容 別の記事でも挙がっていましたが、ワークショップ自体はもくもくと操作をしていくだけであり、他者とのコミュニケーションは必須ではありません。 会場内に…
…ジネス利用を想定した生成AI機能です。 以下の弊社ブログでも考察を記載した記事を公開しています。 よろしければご参照ください。 Amazon Q DeveloperとBusinessの違いと活用方法 - サーバーワークスエンジニアブログ 多様な情報元をクラウドと紐づけ、要件に合わせた情報だけを提供することが体験できました。 利用 AWS サービス このシナリオを実現するために、以下の AWS サービスを利用します。 Amazon SageMaker Jupyter Noteb…
…ormation） 生成AIの出力を評価する（Evaluation typeがRetrieve information and generate responses） 評価の方法 使ってみた ナレッジベースの準備 データセットの準備 設定 評価モデルの選択 ナレッジベースの選択 算出するメトリクスの選択 データセットがあるS3バケットと結果を保存するS3バケットの指定 結果の確認 サマリー メトリクスごとの内訳 回答拒否の場合どうなるか 一部情報の完全性に欠ける場合 所感 背…
…す。 これに対して、生成AIを活用するのはかなり歓迎されると思います。 Amazon Q DeveloperによるVMwareワークロードからEC2への変換機能を提供開始（プレビュー） aws.amazon.com VMwareワークロードのAmazon EC2への移行・最新化を簡素化・加速化するAI駆動型アシスタントが発表されました。 私個人はVMwareに明るくないのであまり語れません💦 こちらKeynoteで発表されたのですが、会場が結構盛り上がったので、VMwareか…
…MS スキーマ変換が生成AIを使用開始 AWS、Amazon CloudWatch Database Insightsを発表 Amazon MemoryDB マルチリージョンの一般提供開始を発表 Oracle Database@AWSが限定プレビューで利用可能に Amazon Aurora DSQL（プレビュー）の発表 Amazon DynamoDB グローバルテーブルがマルチリージョン強力な整合性のプレビューを開始 AWS DMS スキーマ変換が生成AIを使用開始 aws.…
…話した会話のデータを生成AIで活用してみたいんだけど、どうすればいい？」 そんな相談を受けたことはありませんか？ 電話の会話をデータ化して分析すれば、顧客のニーズや感情を深く理解できるチャンスが生まれます。 でも、いざ実現しようとすると、 どのデータを使えばいいのか？ 音声データをどうやって取り出して処理するのか？ など、具体的な進め方がわからず迷ってしまうことも多いはず。 そんな疑問を解消するために、このブログでは Amazon Connect を使った会話データ収集方法と…
…ではAWSを活用した生成AIの導入・運用支援をやっています。 www.serverworks.co.jp 「生成AI使って何ができるの？」という段階から伴走支援させていただきます。 このブログでは生成AIの使い道の一例、ということでCMを作ってみます。 やること概要 出来上がったCMがこちら コスト比較 ちゃんと制作した場合 生成AIを利用した場合 ストーリーボード作成（Amazon BedrockのClaude） 動画生成（CogVideoとStable Video Dif…
…機会があり、これから生成AIを使ったシステムを開発したいと考えている方々の一助になればと思い執筆いたします。 そもそもBedrockって何？という方はこちらのブログで説明してくださっているので参考ください。 blog.serverworks.co.jp はじめに 概要 利用イメージ 構築する モデルアクセスのリクエスト Lambda関数コード CloudFormationテンプレート 使用例 まとめ 概要 今回は、Claude3.5 Sonnetの生成AIモデルを使用し、画像…
…アクションを記録し、生成AIを使用してそれらのアクションを複製するコードを提案 フォーマット ・AWS CloudFormation(JSON、YAML)・AWS CDK(Java、Python、TypeScript)・AWS CLIコマンド サービス Amazon EC2、Amazon VPC、Amazon RDSのみ(2024年10月31日現在) ベストプラクティス 生成されたコードは、AWSがガイドするベストプラクティスに従っており、デプロイの信頼性を向上させ、本番環境…
…Sサービスを活用し、生成AIを用いた多様なビジネスユースケース素早く試すことができます。 例えば、RAGを用いた生成AIチャットボットを迅速に構築することができます。 OSSとして公開されており、GitHubリポジトリからダウンロードして利用することができます。 引用元：generative-ai-use-cases-jp 参考：社内知識を活用した生成 AI チャットボットを構築したい 参考：生成 AI による新しい UI/UX GenUのアーキテクチャ GenUは、以下のよ…
…パンクしそう！」 「生成AI、データ分析、IoT...注目の技術についていけてない自分にモヤモヤ...」 こういった不安や疑問を皆さんも持ったことがあるのではないでしょうか？ エンジニアになって5年、かくいう私も半年に1回くらいは同じようなことを考えて堂々巡りしており、1人で勝手に不安になっていますｗ 本ブログではこのような不安ループから少しでも脱却するために、私が色々考えたことをツラツラと書いてみます。 色々考えて出た3つの答え 色々考えた結果、シンプルな答えが3つ出てきま…
…デックス化する前に、生成AIを使ってドキュメントを解釈しやすいように変換する機能です。 マークダウン形式に変換（見出しや表の解釈性が向上） 画像情報は自然言語で説明を作成し、検索可能な状態にする Advanced parsingを使うとこうなる 先ほど掲載した画像では、見出しや表のレイアウトが崩れていました。 Advanced parsingを使うと下記のように、見出しや表がマークダウン形式に変換されインデックス化されるので、明らかに解釈性が向上しているのが分かります。 見出…
…ebsocketは、生成AIを活用したチャットアプリを手軽に作れるStreamlitなどで使われています。 また、Lambdaのコールドスタートなどにより、個々のワークロードで求める性能(リクエストの処理速度など)を満たせるかは要確認です。 Lambdaを使わない場合、仮想サーバ(EC2) or コンテナ(ECS(Fargate), App Runner)が選択肢になると思います。 その際は、アプリの更新頻度が高いのか、コンテナ技術を習得しているのか(学ぶ余裕があるのか)、が…
…終わり」にしない、 生成AI活用のファーストステップと運用のコツというタイトルでウェビナー登壇させていただきました。 www.serverworks.co.jp ウェビナーではAmazon Bedrockの基本的な内容やRAG運用の弊社事例についてお話させていただきました。本ブログではRAG運用の弊社事例について簡単にまとめようと思います。 RAG運用のつらみ 日々溜まっていく利用データのうち、どこで精度の低い回答が生成されているのか分かりづらい 精度の改善方法が分からない…
…perとは AWSの生成AIであるAmazon Qを利用した、ソフトウェア開発のためのAIコーディングアシスタントです。 今回ご紹介するVisual Studio IDE以外にも、JetBrains、Visual Studio Code、コマンドライン、AWS マネジメントコンソール上でも利用可能です。 aws.amazon.com 弊社ブログにAmazon QおよびAmazon Q Developerについての概要がございます。 また、Visual Studio Codeで…
…、ビジネスにおいての生成AIの活用が活発になっていますね。Amazon Web Service(AWS)にもAmazon Qという注目の生成AIを活用したサービスがあります 今回はAmazon QをVS Codeの拡張機能としてインストールする方法と使い方を簡単にみてみましょう Amazon Qとは？ Amazon Q は、AWSが提供する生成AIサービスです。開発者向けの「Amazon Q Developer」とビジネス向けの「Amazon Q Business」があり ど…
…野（正）です。 最近生成AIにハマってて、夜しか眠れてません。もちろん爆睡ですが・・ｗ さて、本題となりますが、7/24早朝にAWSの更新情報からMeta社の新しい生成AIモデル Llama 3.1 が Amazon Bedrock で利用可能になったと発表がありました。 aws.amazon.com ちなみにMeta社からの発表は7月23日ですので、Meta社から発表されてすぐに対応するスピード感は各社ともすごいなぁと思います。 ai.meta.com まず、今回更新された…
…「録音開始」を押下後、実際に発音します。 発音完了後、「録音停止」を押下後、「アップロード」を押下します。 評価が完了すると以下のように表示されます。 今回は、「柿」を正しく発音できていなかったのですが、生成AIは正しくその点を指摘していることが分かります。 終わりに 今回はAmaozn Bedrock & Amazon Transcribeを活用し、発音をチェックするアプリを作ってみました。 最近、英語の勉強をしているので、いつか英語の発音もチェックしてもらおうと思います。
…ices（AWS）の生成AIサービス「Amazon Q」 みなさんこんにちは！マネージドサービス部MSS課の塩野（正）です。 最近生成AI関連のアップデートが増えているものの、個人的に色々とキャッチアップできてないな～というのがありまして、「Amazon Q」について興味はあったもののサービスについて理解できてない面が多かったので調べるついでに記事にまとめました。 では、さっそく Amazon Q って何？それって美味しいの！？というのをみていきましょう！ Amazon Q …
…Tokyoでもかなり生成AIのアップデートが多く発表されており、awsとして生成AIの領域に力を入れている印象ですが、 AWS Summit New Yorkでも同様に生成AIが話題となっています。 そんな中で一つ気になったものを今回取り上げてみたいと思います。 aws.amazon.com Code interpretation allows agents to dynamically generate and execute code snippets within a …
…rk Summitで生成AI関連のアップデートがいくつかありました。 ナレッジベース関連でも激アツなアップデートがあり、このブログではAdvanced RAG機能について紹介させていただきます。 追加のデータソースをサポート (プレビュー) S3以外にもウェブクローラなど追加のデータソースを選択可能に Advanced RAG機能をサポートするようになりました チャンク化のオプションがより充実し、精度向上に寄与 RAGとは Advanced RAGとは チャンクとは 今回リリ…
…りません。 FYI 生成AIにADRとDesign Docs自体のそれぞれのドキュメントを読み込ませ、類似ポイントを抽出させて差分を確認できるようにしました。 https://adr.github.io/ Design Docs at Google ### 目的と焦点 - **ADR**: 「アーキテクチャ決定（AD）とは、機能要件または非機能要件に対応する正当な設計選択であり、アーキテクチャ的に重要です。アーキテクチャ決定記録（ADR）は、単一のADとその理由を記録し、プロ…
…松 晃洋 氏 所感 生成AI分野の盛り上がりの中、他のセッションとの兼ね合いもあり私が唯一聴講ができた生成AI活用事例でした。 特にデータセキュリティ観点について、セッション内で何度も触れられていることが印象的でした。 再学習に利用されないようにするには、海外にデータを保存されないようにするにはなど、生成AIに入力したデータへの扱いはやはり慎重に検討をしなければならない点だと感じました。 Amazon Bedrockに辿り着くまでのプロセスについてもご説明されておられましたが…
…てきました。 今回は生成AIがトピックの大部分を占めている印象でした。 その雰囲気や気になったセクションや展示について、遅ればせながら紹介したいと思います！！！ 基調講演前にはDJライブが！！！ 目次 目次 AWSで妄想してみた スマートフィットネス：IoTを活用した生成AIトレーナー AWS Outposts ラックの展示 サーバーレスプレッソ IPv6 on AWS ～Public IPv4 アドレス削減に向けてできることできないこと～ セッションの概要とアジェンダ セッ…
…mazon.com 生成AIは開発プロセスの改善に寄与することを実感しています。 一方で、現場により使える生成AIサービスの選択肢が変わってしまうこともわかってきました。 改善のための選択肢として、Amazon Q Developerを考えてみようと思います。 Amazon Q DeveloperはProだとIAMアイデンティティセンターが必要になります。 今後、ここを踏まえて導入の道筋を考えていきたいと思います。 aws.amazon.com 2024 Japan AWS …
…ているセキュリティや生成AI系の話が多かったように思います。 また、個別ブースも生成AIを使うとこんなことができるよというものを多く目にする機会があった印象でした。 個別セッションのお話 ここから、私が特に気になった個別セッションのお話について取り上げていきたいと思います。 なお、各セッションは2024年7月5日までオンデマンドで配信されていますので、 気になったセッションがあれば下記AWS Summit Japanのページよりご視聴ください。 aws.amazon.com …
… AWSが提供する、生成AIを活用したアプリケーション構築サービスの「PartyRock」を使って、 簡単なアプリケーションを作ってみたので、その所感を記載したいと思います。 PartyRockとは PartyRockとは、生成AIを利用して簡単なアイディアプロンプトからアプリケーションを構築できるサービスです。 生成AIの基盤モデルには、AWSのフルマネージドサービス「Amazon Bedrock」が使用されています。 PartyRock自体は2023年11月16日ごろにサ…
…フィルターを設定し、生成AIアプリケーションの有害な入力・出力をブロックすることができます。 利用可能なリージョン 機能概要 Content filters（コンテンツフィルター） Denied topics（拒否されたトピック） Word filters（ワードフィルター） Sensitive information filters（機密情報フィルター） ブロックされた際の挙動の設定 動作検証 Content filters（コンテンツフィルター）の検証 ブロックされた例 …
…手を付ければよいか 生成AIでソースコードを直して良いのか 最後に 前準備 前回のブログ を参考に Python にNew Relic APMを入れます。 t3 などのバースト型のインスタンスを使うとスコアが安定しなかったので、今回は c6a.xlarge で進めました。 やってみた チューニングなしの状態 環境ができたらチューニングなしで一度ベンチマークを走らせてみます。 ベンチマーク１回目 チューニングなし状態のスコアは 2986 でした。 ベンチマーク１回目 スコア: …
…す。 AWS環境上で生成AIモデルの構築に興味があり、Amazon SageMakerのStudioとCanvasの違いが気になったので調査しました。 このブログでは、主にそれらのサービスの概要に触れています。 SageMaker StudioとSageMaker Canvasの違い SageMaker Studio 特徴 料金 SageMaker Studio Lab SageMaker Canvas 特徴 料金 おわりに SageMaker StudioとSageMake…
… 本記事を参考にして生成AIを業務で利用する場合、すべて自己責任で行ってください。 特にプロンプトに機密情報を含める場合は、自社の生成AI利用に関するポリシーやクライアントとの契約条件を確認し、問題ない場合のみ使用してください。 前提 以降の「プロンプト」と「出力」についてはAmazon Bedrock上のチャットのプレイグラウンドから、Anthropic Claude 3 Sonnetを選択して実行した結果を記載しています。 チャットのプレイグラウンド Claude 3 S…
みなさんこんにちは。マネージドサービス部の塩野です。 ちょうど半年くらい前に話題になって、しばらく静かだったのですが最近また話題にあがっている Open Interpreter をさわってみましたので、その感想を共有したいと思います。 Open Interpreter ってなに？ Open Interpreter のインストール 注意事項 インストール 動作確認 総括 Open Interpreter ってなに？ 超雑な感じに例えるなら、「コンソール版ChatGPT」です。W…
…条件 使ってみた 「生成AIの実務利用についてブレインストーミングしてください。」 「インフラエンジニアにおける生成AIの実務利用についてブレインストーミングしてください。」 もっと深掘りしてほしい もっともっと深掘りしてほしい フローチャート図も作れる ドキュメントは作れない 最後に はじめに 当記事ではGPTsの「Whimsical Diagrams」の使用方法についてご紹介します。 Whimsical Diagramsとは Whimsical Diagramsは、様々な…
…にも「RAGの主役は生成AIではなく検索システムだ」というブログで検索の重要性を書いていますが、今回ハイブリッド検索が追加されたことで、あらためて検索の違いによるLLMの回答差異を検証してみたいと思います。 blog.serverworks.co.jp やったこと まずは結論 アップデートの概要：ハイブリッド検索とは？ 注意事項：ハイブリッド検索が使えるのはデータベースにAmazon OpenSearch Serverlessを選択した場合のみ 検証結果 動画 Amazon …
…gle Bardなど生成AIの力を借りてコード作成の効率化を図っていきました。 具体的にはこんな感じで都度都度聞いてました。 Google Bardちゃんからも提案が返ってきます。 コード内容そのまま利用するのも危険ですし、より良い方法があるかもしれません。 いったん内容を精査し、ChatGPT、Google Bardどちらの提案内容が良いのか判断してPythonコードを書いていきました。 コード出来たのでGitHubに公開しました。 一応コードを書いていき準備が出来ましたの…
….co.jp また、生成AIアプリケーションの構築には、AWS LambdaとLangChainを使いたくなるケースが多いかと思いますが、 それらを使ってストリーミング出力する実装に苦戦をしたため、ブログにまとめたいと思います。 補足ですが、API Gateway と AWS LambdaでWebSocketによるストリーミング出力もできます。 今回はAWS Lambda(関数URL)を利用する方法のご紹介になりますが、もし上記構成の実装に興味がある方は以下が参考になるかと思…
…ャットボットを題材に社内勉強会をしました。 私にとってもフィードバックがあるというのが非常に嬉しく良い体験でした。 まとめ 社内Wikiに生成AIを組み合わせたことで様々なメリットがありました。 検索して目的の情報を探す手間が省けるというメリットだけでなく、一次情報をブラッシュアップする動きが盛んになるなど副次的な効果もありました。 私個人としても「お試しアプリを作ってみよう」と思い立ったことをきっかけに、社内登壇やチームメンバーからの学びなど、ありがたい機会を得られました。
こんにちは。AWS CLIが好きな福島です。 はじめに 前回のブログでは、RAGシステムの必要性やアーキテクチャの要素の考慮事項について私の考えを書いてみましたが、 今回はRAGシステムを実装する上で必要な機能について、私の考えを書いてみます。 blog.serverworks.co.jp 重要度ごとに書いていますが、実際の要件によって重要度は変わると考えておりますので、 重要度は参考程度にしていただければ幸いです。 はじめに 重要度: ★★★ ストリーミング出力機能 参考U…
… この記事では、私が生成AIを用いたRAGシステムの構築をする中で RAGシステムのアーキテクチャは特定のコンポーネントに分解することができ、 それぞれの部分で考慮が必要な点があると感じたため、その内容を記載します。 ここで指すRAGシステムは社内のドキュメントを活用し、社内の問い合わせをLLM * RAGで効率化させるシステムを想定しております。 また、はじめの方には、RAGシステムを構築する必要性について簡単に解説しております。 RAGとは？ ご存知の方も多いかと思います…
サーバーワークスの村上です。 このブログではRAGの評価フレームワークであるragasについて紹介します。 ragasとは RAGの評価イメージ ragasでできること概要（忙しい方向けのまとめ） このブログで検証したこと ragasの利用の流れ テストデータの作成 RAGアプリケーションの回答を取得 評価 具体的な実装 テストデータの作成 htmlのロード LLMの定義 プロンプトのカスタマイズ テストデータの作成 生成できる質問の数 生成したテストデータをCSVに保存 R…
…確保する事もできますがスピード感が損なわれてしまいます。 なのでガードレール型のような考え方をもとに、クラウドの柔軟性とスピード感という価値を潰さないようにセキュリティに関しても安全に緩めていく柔軟さが大切なんだと感じました。 感想 基調講演のクラウドとセキュリティについての話以外にも、ChatGPTなどのサービスが生成したコードの脆弱性についてのセッションもあり、今後そういったサービスの利用が進む中で生成AIとセキュリティについての話も面白くなっていきそうだなと感じました。
…社員の階級(グレード)があり、それに応じた評価と処遇が行われていることが分かります。 検索結果 検索結果は「役職とグレードの分離」のみが検索されました。 まとめ 生成AIのユースケースとして有名になったRAGですので、生成AIに目が行きがちですが、前段の検索システムの違いで結果も大いに変わります。 RAGを運用する中で意図した結果が返ってこなかった際、検索によるものなのか基盤モデルによるものなのか、まずは意識したいポイントかと思います。 お読みいただきありがとうございました。
