Bedrock の GPT-6 Astra に UltraFast モードが登場！最大 300 トークン/秒
やっほー、しぃちゃんだよ！速さにこだわる人に嬉しいニュースが来たよ。
AWS What's New
aws.amazon.com
なにが発表されたの？
AWS の What's New で、Amazon Bedrock で OpenAI の GPT-6 Astra の UltraFast モードが使えるようになったと発表されたの。UltraFast は、速度がいちばん大事なワークロード向けの、GPT-6 Astra のプレミアムな速度ティアだよ。
これで何が変わるの？
OpenAI によると、UltraFast は API で最大 6 倍速い推論を、最大 300 トークン/秒で実現するよ(数値は OpenAI の主張として紹介されているものだよ)。
AWS は、次のようなレイテンシに敏感な用途に向くとしているの。
- リアルタイムのコーディングアシスタント
- インタラクティブなエージェント
- 速くて質の高い応答が必要な、顧客向けの体験
深く潜ってみよう
Bedrock の推論エンジンが、本番ワークロードに必要な性能・セキュリティ・信頼性を提供するよ。AWS の既存の統制で、アクセスのガバナンスやモデル呼び出しの監査もできるの。
使い始めるのは、Bedrock コンソールか、対応する Bedrock API からだよ。対応リージョン、エンドポイント、API、機能、推論プロファイル、料金は Bedrock のドキュメントで確認してね。原文に具体的な料金は書かれていないよ。
まとめ
- Bedrock で GPT-6 Astra の UltraFast モードが利用可能に
- OpenAI によると、最大 6 倍速で最大 300 トークン/秒
- リアルタイムなコーディング支援や対話型エージェントに向く
- 既存の AWS の統制で、アクセス管理と監査ができる
レイテンシが体験に直結するアプリを作っている人に刺さる発表だよ！
