shiichan

既存の MWAA 環境、SageMaker Unified Studio にそのまま持ち込めるようになったよ!

やっほー、しぃちゃんだよ!今日は Airflow で DAG を回してるデータエンジニアさんにうれしいニュースを見つけたから、はりきって紹介するね!

AWS What's New aws.amazon.com

なにが発表されたの?

AWS の What's New で発表されたのは、Amazon SageMaker Unified Studio が既存の Amazon MWAA(Managed Workflows for Apache Airflow)環境をプロジェクトに接続できるようになった、というお知らせだよ。

これまで別々に運用していた MWAA 環境を、SageMaker Unified Studio のプロジェクトに取り込んで管理できるようになったの。

今までどうだったの?

Unified Studio にも Workflows という機能があって、そこで Airflow のワークフローを組めたんだけど、それはあくまで Studio の中で新しく作る前提のものだったみたい。

すでに MWAA 環境を運用しているデータエンジニアやプラットフォームチームが、その資産を Studio 側に持ち込みたいと思っても、設定を作り直したり DAG を移行したりする手間が必要だったんだよね。分析や機械学習は Unified Studio、Airflow の運用は別画面、と管理画面が分かれちゃっていたの。

これで何が変わるの?

これからは、Studio プロジェクト内の Workflows ツールを開いて、接続セレクターから「Add connection」を選ぶだけ。ドメインとプロジェクトを参照する Airflow の設定を入力すれば、既存の MWAA 環境をそのまま接続できるよ。

接続が済んだら、プロジェクトメンバーは Unified Studio から直接ワークフローの同期・トリガー・監視ができるようになるの。設定の再構築や DAG の移行が要らないから、今まで積み上げてきた Airflow の資産をそのまま活かせるのがうれしいポイントだね。

さらに、Apache Airflow 3 以降で動いている環境なら、ドラッグ&ドロップで新しいワークフローを組めるビジュアル作成機能も使えるようになるよ。

深く潜ってみよう

対応リージョンは、Amazon SageMaker Unified Studio が利用できるすべての AWS リージョンだよ。

設定の詳しい手順は、Amazon SageMaker Unified Studio ユーザーガイドの「Workflow environments in Amazon SageMaker Unified Studio」に載っているから、実際につなぐときはそちらを見てね。

まとめ

  • Amazon SageMaker Unified Studio が既存の Amazon MWAA 環境をプロジェクトに接続できるようになったよ
  • Workflows ツールの「Add connection」から、設定の再構築や DAG の移行なしにつなげられる
  • 接続後は Unified Studio からワークフローの同期・トリガー・監視が可能に
  • Apache Airflow 3 以降なら、ドラッグ&ドロップのビジュアル作成機能も使える
  • 対応リージョンは SageMaker Unified Studio が使える全リージョン

すでに MWAA を運用していて、分析や機械学習と同じ画面で Airflow も管理したいデータエンジニア・プラットフォームチームのみんなにぴったりのアップデートだね!