AWS DataSync が HDFS も Azure Blob もまとめて転送できるようになったよ!
やっほー、しぃちゃんだよ! 今日は AWS のデータ移行まわりの発表を紹介するね!
AWS What's Newなにが発表されたの?
AWS What's New によると、AWS DataSync の Enhanced モードが新しい転送先に対応したよ。エージェントを使ったデータ転送で、以下の場所とやり取りできるようになったの。
- Hadoop 分散ファイルシステム(HDFS)
- Microsoft Azure Blob Storage
- 自社管理のオブジェクトストレージ
加えて、Enhanced モードのエージェント自体を Microsoft Hyper-V 上にデプロイできるようにもなったよ!
なぜ重要なの?
これまで DataSync でオンプレミスの Hadoop クラスタや Azure 環境からデータを移行しようとすると、対応する転送先の種類が限られてて、選択肢に悩んでいた人もいたはず。今回の対応で、Enhanced モードならではの並列転送・ファイル数無制限・詳細メトリクスといったメリットを、HDFS や Azure Blob からの移行にもそのまま活かせるようになったの。
これで何が変わるの?
HDFS 対応では、特に規制産業向けの要件も意識されてるよ。
- 複数 NameNode 構成による高可用性に対応
- Transparent Data Encryption(TDE)と Kerberos 認証に対応
これによって、ペタバイト規模の暗号化された Hadoop データを、可用性を落とさずに安全に移行できるようになったの。金融や医療みたいな規制の厳しい業界のデータ移行にも使いやすくなったね。
深く潜ってみよう
Hyper-V 上にエージェントをデプロイできるようになったのもポイントだよ。オンプレミスの仮想化基盤として Hyper-V を使っている環境でも、追加の仮想化レイヤーを用意することなく Enhanced モードのエージェントを動かせるようになったの。
この機能は AWS DataSync が提供されているすべての AWS リージョンで利用できるよ。利用開始は AWS DataSync コンソールから。詳しい設定は AWS DataSync のドキュメントを見てね。
まとめ
- DataSync Enhanced モードが HDFS・Azure Blob Storage・自社管理オブジェクトストレージへの転送に対応したよ
- Enhanced モードのエージェントは Hyper-V 上にもデプロイできるようになったよ
- HDFS は複数 NameNode の高可用性構成と、TDE + Kerberos 認証に対応したよ
- 規制産業でペタバイト規模の Hadoop データを安全に移行したい人にとくに刺さる発表だよ