前回の記事では、ハイブリッド インテリジェンスによってデバイスがエンタープライズ AI アーキテクチャの一部になるという考えをご紹介しました。アプリ開発チームはすでに、各ステップに求められる要件に基づいて、エンドポイントとクラウドに処理を分散しています。今回は、どのステップを Surface デバイスで実行し、どのステップをクラウドに残すのか、そしてローカルでの実行がどのような場合に作業コストの削減につながるのかを、IT チームが判断する方法について考えます。
Surface は、この判断におけるエンドポイント側の選択肢を現実的なものにします。Surface デバイスはポートフォリオ全体で、NPU で高速化されたアプリの機能から、開発者、エンジニア、クリエイティブ プロフェッショナルが使用する大規模なモデルまで、幅広いローカル AI の処理をサポートしています。各コンポーネントは、それぞれ異なる処理に適しています。CPU は汎用的な処理を担い、GPU は AI を含む並列ワークロードを高速化し、NPU は電力効率に優れた AI 処理の高速化を実現します。そしてメモリは、デバイスが対応できるワークロードの規模を左右します。組織は職務ごとに必要な処理能力を割り当て、デバイスに適したステップはローカルで実行し、より負荷の高い処理はクラウドに送ることができます。
デバイス上のデータやアプリと密接に結び付いた処理は、エンドポイントで適切に実行できる場合があります。クラウドという選択肢と比較するために、チームはまず、アプリの応答性やリソースの使用状況など、その処理がデバイス上でどのように実行されるかを確認できます。次に、結果の品質と、従業員がその修正に費やす時間を評価するとともに、ローカル モデルがタスクを確実に完了できない場合にクラウド モデルへフォールバックするコストも評価します。
プロンプトではなくワークフロー全体を測定する
従業員の目には 1 つの AI アクションに見えても、アプリは裏側で複数のステップを処理している場合があります。それぞれの処理で、コストとパフォーマンスの特性が異なる別々のモデルが使われることもあります。
たとえば、開発者がアシスタントにエラーの修正を依頼する場合を考えてみましょう。開発者が回答を目にするまでに、アプリはコードを調べ、変更を提案し、テストを作成し、結果を要約しているかもしれません。プロンプトだけに注目すると、処理の多くが見えなくなり、実際のコストを把握しにくくなります。
実際に始めるなら、すでに使用状況データがある、利用頻度の高い機能が出発点として適しています。Microsoft Foundry で構築したアプリであれば、「Monitor」ビューと、それに接続された Azure Monitor Application Insights リソースで、運用環境におけるトークン使用量、待機時間、エラー、成功率を確認できます。関連する支出は Azure Cost Management で確認できます。これらの数値は、代表的な Surface デバイスでローカルまたはハイブリッドのテストを行う際のベースラインとなり、そのテストによって、変更する価値があるかどうかがわかります。
Surface でエンドポイントの処理能力の価値を高める
クラウドとエンドポイントでは、コストの仕組みが異なります。クラウド AI は、従量制の API、サブスクリプション、予約容量などを通じて課金される場合があります。利用が増えるにつれて、継続的に発生するクラウド AI のコストは急速に増加することがあります。デバイス上で安定して動作する大量のワークロードであれば、繰り返し発生する処理を PC に移すことで、継続的なクラウドの支出を削減できる見込みがあります。
組織が従業員向けに Surface デバイスを購入すると、AI 処理に使えるローカルのコンピューティング能力も手に入ります。ローカル モデルは、実行のたびに新たなクラウド推論の料金が発生することなく、従業員のアプリやデータと並行して動作できます。一方で、これらのモデルは、従業員が実行するほかのすべての処理とデバイスのリソースを共有します。ローカル モデルが意味を持つのは、従業員のほかの作業に十分な余力を残せる場合に限られます。
処理量の増加がクロスオーバー ポイントを生む
ローカル AI には初期投資が必要です。タスクの量が増えるにつれて、その投資はより多くの完了済みの作業に分散され、タスクあたりのコストが下がります。これは、従量課金によって通常タスクごとにコストが積み上がるクラウド AI とは逆の構造です。
そのため、クラウド モデルとローカル モデルを比較すると、特定のワークロードにおいてローカル AI のほうがクラウド AI よりも全体のコストが低くなる「クロスオーバー ポイント」が生まれます。このポイントがどこに来るかは、次のようないくつかの要因によって決まります。
- クラウド AI とローカル AI の出力品質の差と、従業員がその修正に費やす時間
- デバイスのパフォーマンスへの影響と、それがほかの作業に影響するかどうか
- ローカルでの実行が失敗し、クラウドに「フォールバック」する頻度
ローカル AI は固定費が高い状態から始まりますが、完了したタスク 1 件あたりの増分コストは低く抑えられる場合があります。タスクの量が増えるにつれて、ローカルの累積コストは、従量課金制のクラウドのコストよりも緩やかに増加します。両者はクロスオーバー ポイントで等しくなり、それを超えると、ローカルでの実行のほうが全体のコストが低くなる場合があります。
ローカルの出力がタスクに十分な品質で、ほかの作業に悪影響を与えず、デバイス上で安定して実行できれば、クロスオーバー ポイントにより早く到達します。
Surface のポートフォリオは、IT 部門に複数のレベルのローカル AI 処理能力を提供します。チームは、すべての従業員に同じレベルのハードウェアを用意して費用をかけるのではなく、職務に合ったデバイスを選択できます。Surface Pro と Surface Laptop は、Copilot+ PC エクスペリエンスと NPU で高速化されたアプリをサポートしています。1 Surface Laptop Ultra は、NVIDIA RTX GPU、最大 128 GB のユニファイド メモリ、CUDA のサポートにより、より負荷の高いローカル AI ワークロードへとポートフォリオを広げます。2 ,3 大容量のメモリによって大規模なモデルや作業用のデータセットを扱えるうえ、CUDA は GPU で高速化された AI ツールの幅広いエコシステムをサポートしています。
開発者のワークフローに見るクロスオーバー
開発者が頻繁に行うタスクは、ローカル AI の価値を検証するのに適しています。効果的な評価では、よくあるコーディング エラーの解決といった特定の作業と、その作業の現在のクラウド コスト、応答時間、開発者が出力を再試行または修正する頻度に関するベースライン データを組み合わせます。
次に、同じワークフローを代表的なハードウェア上で、ローカルまたはハイブリッドのアプローチでテストします。応答時間、メモリの逼迫度、クラウドへのフォールバックを見れば、開発者が統合開発環境、ブラウザー、コラボレーション ツールを実行している状態でも、ローカルでの処理が十分に機能するかどうかがわかります。
よくあるエラーの説明や、独自のプロジェクト データを扱う作業など、ローカルで効果的に実行できるステップもあります。一方、複数のファイルにまたがる推論や企業データを必要とするタスクには、引き続きクラウド モデルが必要になる場合があります。開発者は今後も出力内容を確認し、標準的なテストとセキュリティの手法に従う必要があります。
同じ評価方法は、社内ドキュメントに基づく質問への回答や画像生成など、成功の基準が明確なほかの反復的なワークフローにも適用できます。その結果から、その作業をローカルで実行できるかどうか、そしてどの Surface デバイスが必要かがわかります。
管理コストがエンドポイントの経済性を左右する
組織が所有するハードウェア上で実行されるからといって、ローカル AI が無料になるわけではありません。エンタープライズ規模では、デバイスの管理にスタッフの時間と予算が必要であり、こうしたコストもクラウド推論との比較に含める必要があります。
Surface は、ローカル AI を既存の Windows のエンドポイント ツールやプロセスに組み込むことで、こうした運用の複雑さの一部を軽減できます。Secured-core PC の保護機能、Microsoft Pluton、BitLocker がデバイスとデータのポリシーを支え、Microsoft Intune、Device Firmware Configuration Interface (DFCI)、Surface のファームウェア管理が日々の管理業務を支えます。
これらの機能によってローカル AI は管理しやすくなりますが、継続的な保守やサポートのコストがなくなるわけではありません。また、展開の範囲が広がると、データへのアクセス、モデルの更新、クラウドとの接続について判断が必要になり、そのすべてがローカル AI のコストに加わります。
エンドポイントを AI の計画に組み込む
ハイブリッド インテリジェンスでは、クラウドとエンドポイントのリソースが互いを補完する役割を担います。Surface は Microsoft が構築した多層的なセキュリティと管理機能を備えて設計されているため、チームは可視性と制御を確保しながら、従業員の近くで処理を実行できます。タスクにより高い能力、より多くのコンテキスト、より大きな規模が求められる場合には、クラウド モデルを利用できます。アプリは、同じ Windows のワークフローの中で両方の経路を使い分けることができます。
モデルを実行するのに最適な場所とは、適切なコストで作業をやり遂げられる場所です。AI によって処理がデバイスとクラウドに分散されるようになる中、デバイスの選定や入れ替えの計画は、ワークロードの要件を踏まえて行う必要があります。PC は今や企業の AI システムの一部であり、エンドポイント戦略にもその役割を反映する必要があります。
1 Copilot+ PC の機能は、16 GB 以上の RAM を搭載した一部の構成でのみ利用できます。その他のシステム要件が適用される場合があります。詳しくは、『Windows 11 の仕様とシステム要件 | Microsoft Windows』(aka.ms/copilotpluspcspro) をご覧ください。
2 メモリは構成によって異なります。128 GB は、CPU と GPU で共有されるユニファイド メモリ アーキテクチャにおけるシステム メモリの合計です。GPU が使用できる最大容量は、システム構成とワークロードによって異なり、合計容量よりも少なくなります。