数年以前、企業クラウドコンピューティングに関する議論はおなじみのパターンに従っていた。チームはレガシーアプリケーションの移行、インフラストラクチャの近代化、データセンターコストの削減について話し合っていた。目標は明確だった：ワークロードをスケーラブルなクラウドプラットフォームに移行し、運用の柔軟性を得ることだ。
しかしここ数ヶ月で、これらの会話のトーンは著しく変化した。
私がアーキテクチャレビューやインフラストラクチャ計画の会議に参加する中で、今の質問はまったく異なるものに聞こえる：
モデルトレーニングはどこで実行されるのか？
GPUクラスターにアクセスできるか？
データパイプラインはリアルタイム推論をサポートできるか？
理由は単純だ：人工知能——特に生成AI——は、企業インフラストラクチャを従来のクラウドアーキテクチャでは処理できない領域へと押し上げている。多くの組織は、未来は「クラウドファースト」だけでなく「AIネイティブ」であることに気づき始めている。
AIがクラウドを圧倒する負荷になるとき
多くの組織で、転換点はチームが初めて大規模な生成AI導入を試みたときに訪れる。
ある事業部門は、文書インテリジェンスシステム、内部ナレッジアシスタント、大規模言語モデルを利用した予測分析プラットフォームを構築したいと考えるかもしれない。紙面上では、これは単なる別のクラウドワークロードに見える。しかし実装はすぐに違いを明らかにする。
AIワークロードの動作は、従来のエンタープライズアプリケーションとはまったく異なる。それらは、機械学習モデルに継続的にデータを供給するために、大規模なデータセット、GPUアクセラレーテッドコンピューティング、高スループットのデータパイプラインを必要とする。トランザクションシステム向けに設計されたインフラストラクチャは、こうした条件にしばしば対応できない。
私はチームがこの状況を発見するのを目の当たりにした：彼らの既存のクラウド環境が突然ボトルネックになる——アプリケーションのトラフィックのせいではなく、AIモデルトレーニングワークロードのせいで。これは、多くの組織が次の点に気づく瞬間だ：AIはクラウド上の単なる別のアプリケーションではなく、新しいインフラストラクチャのパラダイムなのだ。
場合によっては、適切に設計されたマイクロサービス環境でさえ追いつくのが難しく、ストレージI/O、ネットワークレイテンシ、ワークロード分離の制限が露呈する。これらの隠れた制約は、継続的なAIワークロードの下でのみ現れることが多く、初期計画段階で予測するのは難しい。
AIネイティブインフラストラクチャ：GPUクラスターとハイパフォーマンスコンピューティング
従来のエンタープライズクラウド環境は、CPUワークロードとトランザクションアプリケーション向けに最適化されている。対照的に、AIシステムはGPUアクセラレーテッドコンピューティング、高帯域幅ネットワーク、分散ストレージ、スケーラブルなトレーニングパイプラインを優先する。
AMD ROCmのようなツールは、GPUネイティブエコシステムへの移行を浮き彫りにし、高性能AIワークロード向けに特別に設計されたフルスタックプラットフォームを提供する。しかし、GPUインフラストラクチャの採用は、容量を構成するだけではなく、それを効率的に活用することである。
多くの組織は、GPUスケジューリング、メモリフラグメンテーション、ワークロード競合の複雑さを過小評価している。分散が容易なCPUワークロードとは異なり、GPUワークロードは利用率不足を避けるために注意深いオーケストレーションを必要とする。これらのプラットフォームは、AIワークロードがクラウドインフラストラクチャの設計方法を再形成していることを示しています——CPU中心のコンピューティング層から、大規模並列および高スループットのデータ処理に最適化されたAIネイティブアーキテクチャへの移行です。
さらに、専用AIアクセラレータやカスタムシリコンなどの新興イノベーションが、インフラストラクチャの意思決定をさらに複雑にしています。アーキテクトは現在、パフォーマンスだけでなく、移植性とベンダーロックインも評価する必要があります。
ハイブリッド環境における分散型AIの台頭
企業のAI導入において浮上しているもう一つのパターンは、分散型インフラストラクチャへの移行です。
初期のクラウドコンピューティングは、組織がワークロードを単一のクラウドプロバイダーに統合することを奨励しました。これにより、ガバナンスが簡素化され、運用の複雑さが軽減されました。
しかし、AIワークロードはしばしば新たな制約をもたらします。特定のデータセットは、コンプライアンス要件を満たすためにプライベートインフラストラクチャに保持しなければなりません。大規模モデルのトレーニングには、特定のクラウドリージョンでのみ利用可能な専用GPUクラスターが必要です。リアルタイム推論は、データが生成される場所の近くで実行する必要があるかもしれません。その結果、多くの企業が現在、ハイブリッドおよびマルチクラウドのAI環境を運用しています。
Google Cloud Vertex AIのようなプラットフォームは、ハイブリッドAIパイプライン用に明確に設計されており、組織がオンプレミスシステムと複数のクラウド環境でモデルをトレーニングおよびデプロイできるようにします。
これらの環境では、AIは単一のクラウド環境に限定されません。代わりに、インテリジェンスはインフラストラクチャの各層に分散されています。
課題は、アプリケーションのデプロイから、複数の環境にわたるAIシステムのオーケストレーションへと移行します。
この分散化はまた、データの一貫性、モデルのバージョン管理、レイテンシ管理における新たな課題をもたらします。モデルが異なる環境でも一貫して動作することを確保することが、特に規制産業において重要な要件になります。
インテリジェントオーケストレーションが極めて重要に
AIインフラストラクチャがますます複雑になるにつれて、手動によるクラウド管理は現実的でなくなってきています。
現代の企業環境には、数千のコンテナ、分散データセット、複数のクラウドプラットフォームにわたって実行される複数のコンピューティングクラスターが関与する可能性があります。
この複雑さを管理するために、組織はインテリジェントオーケストレーションプラットフォームに依存し始めています。これらのシステムは、機械学習を使用してインフラストラクチャの使用状況を監視し、コンピューティング需要を予測し、リソースを動的に割り当てます。
UCUPのようなフレームワークは、次世代のオーケストレーションを実証しています——複数のAIエージェントを調整し、パフォーマンスを監視し、実行戦略をリアルタイムで調整できるシステムです。これらのプラットフォームは、単純なスケジューリングを超えて、インテリジェントな意思決定層へと進化しています。
皮肉なことに、人工知能は企業のワークロードを変えているだけでなく、クラウドインフラストラクチャ自体を管理するシステムにもなりつつあります。
時間の経過とともに、これは基本的に自律的なインフラストラクチャ環境につながる可能性があり、人間のオペレーターは直接的なシステム管理ではなく、ポリシーと監視に重点を置くようになります。
企業AIのコスト現実
AIがもたらすすべての革新にもかかわらず、その財務的影響は無視できません。
大規模言語モデルには膨大な計算リソースが必要です。GPUクラスターは高価で、しばしば希少です。モデルを1つトレーニングするだけで、大量のクラウド予算を消費する可能性があります。
これにより、多くの組織はクラウドコンピューティングへの財務的アプローチを再考せざるを得なくなっています。
FinOpsなどの実践（クラウド支出の管理と最適化に焦点を当てたもの）は、AI主導の環境で不可欠になっています。チームは、次のようなさまざまな戦略を試している：
モデルの最適化と圧縮
分散トレーニングアーキテクチャ
サーバーレス推論モデル
コスト効率の高いリージョン間でのワークロードスケジューリング
場合によっては、組織はハイブリッド戦略を再検討し、経済性がプライベートインフラストラクチャを優先する場合には、一部のAIワークロードをオンプレミスに戻すことさえある。
AIイノベーションには、財務アーキテクチャと技術アーキテクチャを同等に扱うことが必要であることが実証されている。
FinOpsチームは、データサイエンティストやMLエンジニアと直接協力する機会がますます増えており、パフォーマンスとコスト効率のバランスに焦点を当てた新たなクロスファンクショナルな分野を生み出している。
AIネイティブエンタープライズクラウドの登場
おそらく最も重要な変化は概念的なものである。
10年以上にわたり、クラウドは主にホスト型アプリケーションのインフラストラクチャとして機能してきた。
しかし、AIはクラウドをより強力なものへと変えつつある。
それは、機械知能のプラットフォームになりつつある。
クラウド環境は、もはや単にソフトウェアを実行するだけでなく、データから学習し、洞察を生成し、意思決定を自動化するシステムをサポートしている。
先見性のある組織は、この現実を認識し、それに基づいてインフラストラクチャを設計し始めている。
彼らは単にワークロードを移行しているだけではない。
彼らは、大規模なデータ駆動型インテリジェンスをサポートすることを目的とした、AIネイティブなクラウドエコシステムを構築している。
これはまた、データ取り込みとストレージからセキュリティ、コンプライアンス、ユーザーエクスペリエンスに至るまで、AIに関する考慮事項をアーキテクチャのあらゆる層に組み込むことを意味する。
エンタープライズクラウドアーキテクチャの次の章
クラウド変革の第一波は、近代化に焦点を当てていた。
次の波は、人間の意思決定を強化し、運用を自動化し、まったく新しいデジタル機能を解き放つインテリジェントシステムに関するものである。
この変革は、エンタープライズアーキテクトに対し、クラウドインフラストラクチャの基盤、すなわちコンピューティングアーキテクチャやデータパイプラインからオーケストレーションやガバナンスに至るまでを再考することを促している。
最も早く適応する組織は、単にクラウド上でAIワークロードを実行するだけではないだろう。
彼らは、インテリジェンスのために特別に設計されたクラウド環境を構築するだろう。
その過程で、彼らは次世代のエンタープライズインフラストラクチャの姿を定義することになるだろう。
しかし、適応できなかった組織は、AI主導のイノベーションのニーズにもはや合致しない、時代遅れのアーキテクチャ上の前提に縛られる可能性がある。
本記事は、Foundryのエキスパート寄稿者ネットワークによって公開されました。