AWS re:Invent 2024現地参加期間中はバーガーばかり食べている小菅です。
2024年12月02日~05日にラスベガスで開催されたAWS re:invent 2024に参加しております。
私は日頃からデータ分析系のテックに興味がありまして、自然とZero-ETLに関するセッションをいくつかチョイスしておりました。
参加したのは以下2つのセッションです。
- ANT348 | Innovations in AWS analytics: Zero-ETL and data integrations
- DAT348 | Deep dive into Amazon DynamoDB zero-ETL integrations
Zero-ETLとはなにか?
まずは、Zero-ETLとはなにか?と思われている方はこちらのドキュメントをご覧頂ければと思います。
簡単に説明しますとZero-ETLは、AWS上でデータの抽出・変換・ロード(ETL)を自動化し、
サービス間でシームレスなデータ統合を実現する機能です。
また、直近では以下の通りAWSアップデートがありました。
aws.amazon.com
aws.amazon.com
aws.amazon.com
aws.amazon.com
こちらのアップデートに関しては、私が執筆したブログがございますので掲載しておきます。
blog.serverworks.co.jp
概要
どちらのセッションでも、現行リリースされているZero-ETLに関する解説がありました。
本ブログでは深く触れることはありませんが、Redshiftに関連したZero-ETLが多い気がしてます。
また、Zero-ETLを利用することのメリットについても語られていました。
- 開発/運用コストの削減
- インフラストラクチャの管理が不要
- 視認性の向上
- 複雑な処理がないため視認性が向上する
- 利用料金の削減
- 他の従量課金のサービスを使ってETL処理を実現するより安く使える
- アジリティ向上
- ETLパイプラインの構築と維持をAWSが行うため、コアビジネスに集中できる
- データ取得の心配なく、様々な組み合わせを試すことができる。
- データアクセスの簡素化
- Athenaや他のAWSサービスからすぐにデータにアクセスでき、活用が容易になる
また、ほとんどのETL処理をZero-ETLにしたいという意気込みも感じられる、
そんなセッションでした。
感想
Zero-ETLの機能が増加傾向にあるのは、ひとえにデータ活用が各企業で進んでいるから=需要があるから、だと思います。
AIサービスと集められたデータが連携しインサイトを得ることでビジネスにおける問題や課題を発見することも増えていると思います。
そうなると、コアビジネスに注力するための手段として積極的にZero-ETLを採用していくのはアリかと思います。
ただエンジニアリング目線だと、使い勝手が変わると困る、実は単純なETLではなく特殊なことをしている、であると採用は難しいかなと思います。
両軸で考えていただきZero-ETLをご活用いただければ、前述のとおりのメリットも享受できるので是非利用を検討してはいかがでしょうか。
小菅 信幸(執筆記事の一覧)
仙台在住/サウナをこよなく愛するエンジニア
2024 Japan AWS All Certifications Engineers