Copilot+ PC で NPU を活用して生成 AI タスクを実行する
※本ブログは、米国時間 6 月 6 日に公開された “Leveraging the power of NPU to run Gen AI tasks on Copilot+ PCs” の抄訳を基に掲載しています。 大規模言語モデル (LLM) は、その巨大なスケールと技術面での目覚ましい進化により、生成 AI イノベーションを象徴する存在となっています。しかし、何事も大きければ良いというものではありません。Microsoft Copilot などを支える LLM が幅広いタスクにおいて驚異的な能力を発揮する一方で、話題に上ることの少ない「小規模言語モデル (SLM)」は、生成 AI の活用範囲をリアルタイム処理やエッジ アプリケーションにまで拡大しています。SLM は、消費電力が少なく処理が高速なため、ローカル デバイス上で効率的に動作し、新たなシナリオやコスト モデルへの対応を可能にします。 SLM は CPU や GPU… Read more