AWS re:Invent 2024 Workshop体験記 "Data foundations and Amazon Q Business generative AI workshop"

本稿は、AWS re:Invent 2024 にご参加、もしくは次回参加をご検討されている方、Workshop 参加をご検討中の方向けに共有致します。

Andy Jassy 氏が AWS re:Invent に登壇、しかも彼の口から新発表を聞ける日がまた来るんだなんて、とちょっと泣きました。内村でございます。

私の AWS re:Invent の恒例になりつつある、全部 Workshop, Builders Session で埋めるを今年も敢行中です。今年もしくは次回、AWS re:Invent にご参加される方/ご検討される方向けに tips 含めて共有致します。

また、このページはサーバーワークスアドベントカレンダー2024 の参加記事です。ぜひ、他の記事も見てみてください。 qiita.com

受講セッション
利用 AWS サービス
構成のポイント
感想
編集後記

受講セッション

このページでは本日受講してきた、こちらの Workshop を共有致します。 PEX302-R | Data foundations and Amazon Q Business generative AI workshop [REPEAT]

こちらの Workshop では、金融サービス事業をペルソナとし、セキュリティー要件で厳しく規制されている利用者でもチャットボットを構築、ご利用が可能なデモ環境を構築し、その手法を学ぶことができます。セキュリティー要件は以下を想定としました。

特定のユーザーを除き、機微な情報にはマスキングする
入力された質問に対して、特定の質問は回答をしない

ユーザーインターフェイスには、Amazon Q Business を利用しました。Amazon Q Business とは、ビジネス利用を想定した生成AI機能です。以下の弊社ブログでも考察を記載した記事を公開しています。よろしければご参照ください。 Amazon Q DeveloperとBusinessの違いと活用方法 - サーバーワークスエンジニアブログ

多様な情報元をクラウドと紐づけ、要件に合わせた情報だけを提供することが体験できました。

利用 AWS サービス

このシナリオを実現するために、以下の AWS サービスを利用します。

Amazon SageMaker
- Jupyter Notebook
AWS Glue
- AWS Glue Crawler
- AWS Glue Data Catalog
- AWS Glue Data Quality
- AWS Glue Job
Amazon S3
Amazon Q Business

あくまでも Hand-on を実行する環境であるため、商用利用の機能相当は想定されていません。商用利用をご検討の際には、データ準備のためのツールなど様々必要になることが予想されます。ご了承ください。

構成のポイント

データ元

Amazon Q Business は、以下のように様々な情報を紐づけて参照し、回答を用意してくれます。 Salesforce や Asana、Jira などの外部ベンダーも対象です。参照元 docs.aws.amazon.com

ここでは Hand-on のため、Amazon S3 を参照しました。

データの加工

Amazon S3 にデータを格納しただけでは静的のため活用できません。ここでは、AWS Glue Crawler で AWS Glue Data Catalog を作成します。

そしてこのシナリオでは、厳しいセキュリティー要件があります。機微な情報のマスキングには、AWS Glue Data Quality を用います。 AWS Glue Data Quality の Rule Sets を作成し、AWS Glue Data Catalog で Glue Data Quality タスクを実行します。

例えばこのような回答になります。

ガードレール

Amazon Q Business において、特定のキーワードに答えない、などのルールを「ガードレール」と呼びます。これはチャットボット管理者が任意のキーワードを設定し、そのキーワードが入力されたら以降回答は行わず、注意の原稿を表示させる事ができます。

これにより、チャットボットがセキュリティーに厳しい要件にも対応することが可能です。

例えばこのような回答になります。

感想

あらかじめコードやデータが準備されている Hand-on とはいえ、上記のチャットボットをものの2時間で構築できるスピードにはやはり驚きです。 12月3日火曜の Keynote も同様ですが、生成 AI サービスこれからのビジネスや生活に必ず関わりある機能だと改めて実感しました。 Amazon Q シリーズも多くリリースされましたが、本腰を据えて取り組む所存です。