AI inference（AI推論）

人工知能（AI）モデルを開発するには、正確で効果的な出力を生成できるよう大規模な学習を行う必要があります。しかし、学習は過程の一部にすぎません。モデルの学習が完了した後は、実世界で予測を行えるように実装する必要があります。このプロセスはAI推論と呼ばれます。推論では、モデルは学習した内容を新しいデータに適用し、自動運転システム、金融サービスにおけるリアルタイム不正検知、データセンターでの予知保全、スマート工場やモバイルプラットフォームのインテリジェントエッジデバイスなどのアプリケーションを支援します。

AI推論とは？

AI推論の定義：人工知能における推論とは、学習済みモデルが、これまで見たことのない新しいデータを処理し、追加の学習を行わずに予測や判断を生成する段階を指します。

人工知能モデルは、パターンを学習するために、大規模かつ多様なデータセットで高度な学習を行います。学習が完了すると、モデルは新しいデータに対してリアルタイム処理またはバッチ処理を行うために実装されます。このように、予測を行うためにモデルを適用することを推論と呼びます。

わかりやすい例えとして、勉強と試験の違いがあります。学習は、モデルがデータから学ぶという点で勉強に似ています。推論は試験を受けることに似ており、モデルは学習した内容を新しい情報に適用します。

AI推論は、新しいモデルの実装だけでなく、再学習または微調整されたモデルの評価においてもきわめて重要です。推論の品質は、多くの場合はレイテンシーや電力制約といった条件下で、モデルが実世界のデータに対してどれほど正確かつ効率的に機能するかを考慮して評価されます。

AI推論はどのように機能しますか？

AI推論とは、学習済みの機械学習モデルを新しいデータに適用し、予測や判断を生成するプロセスです。ラベル付きデータセットから学習するトレーニングとは異なり、推論では、追加の学習を行わずに、学習済みの知識を使用してリアルタイムの処理結果またはバッチ処理の結果を出力します。

推論時には、モデルがこれまで見たことのない入力データを受け取り、学習中に習得したパターンに基づいて出力を生成します。重要なのは、この段階ではラベル付きの例や期待される出力が与えられないという点です。そうしたものを与えると学習が再び行われることになり、推論プロセスの信頼性が損なわれます。

推論ワークフローは通常、次の手順で構成されます。

• 学習済みモデルに新しい入力データを与える 
• 予測や分類を生成する 
• 既知のベンチマークや期待される動作に照らして出力を評価する 

推論の品質を評価するため、データサイエンティストは次のようなエラーの兆候を確認します。

• 不正確さ（誤った予測）
• バイアス（不均衡なトレーニングデータによる結果の偏り）
• セキュリティ上の脆弱性（敵対的入力に対する脆弱性）

推論は、パフォーマンスが特に重要になる段階でもあります。実世界のアプリケーションでは、自動運転車、即時応答が求められるモバイル音声アシスタント、高精度で異常を検出する必要がある医療画像システムなど、さまざまな場面で、レイテンシー、スループット、エネルギー効率がきわめて重要になります。システムのパフォーマンスを評価するために使用されるのが、1秒あたりの推論回数（IPS）や推論あたりのレイテンシーなどの指標です。

そうした指標を見ると、マイクロンの高性能メモリやストレージソリューションがその能力をいかんなく発揮していることがうかがえます。マイクロンのテクノロジーは、データアクセスのレイテンシーを低減し、帯域幅を拡大することで、より高速で効率的な推論を実現し、AIシステムがリアルタイムで応答し、効果的に拡張できるよう支援しています。推論テストが完了すると、モデルは本番環境に実装されます。パフォーマンス上の課題が見つかった場合は、再学習に戻されることもあります。

AI推論の歴史とはどのようなものですか？

AI推論は、人工知能の黎明期から今日に至るまで、その中核的な要素です。この概念は、1950年代に研究者たちが、機械によって人間の推論をどのように再現できるかを探求し始めたことで生まれました。

その後、AIが進化し、特に21世紀にディープラーニングが台頭する中で、学習済みモデルを実世界のデータに適用するために推論が不可欠になりました。現在では、モバイルデバイスから医療分野に至るまで、さまざまな業界でAIシステムを実装する際の重要な段階となっています。

AI推論の種類には主にどのようなものがありますか？

AI推論は、実行方法と実装場所の両面から分類できます。

• エッジ推論は、スマートフォンやモノのインターネット（IoT）センサーなどのデバイス上でAIモデルを直接実行し、クラウドに依存せずに高速なローカル処理を可能にします。これにより、リアルタイムの応答性が高まり、データプライバシーも強化されます。
• バッチ推論は、通常オフラインで、大量のデータをまとめて処理します。不正検知や傾向分析など、即時の結果が求められない用途に適しています。
• リアルタイム推論は、ライブデータストリームを処理し、瞬時に予測を生成します。これは、自動運転や医療モニタリングなど、時間的制約の厳しいアプリケーションに不可欠です。

こうした実装形態に加え、AI推論はアプローチによっても分類されます。

• 統計的推論またはニューラル推論は、現代の機械学習モデルやディープラーニングモデルで使用されます。これらのモデルは、大規模なデータセットから学習したパターンに基づいて予測を生成します。
• ルールベース推論は、あらかじめ定義された論理ルールを適用して結論を導き出します。ディープラーニングではあまり一般的ではありませんが、透明性と決定論的な動作が不可欠なエキスパートシステムやコンプライアンス重視の環境では、このアプローチは今も有用です。

AI推論はどのように活用されていますか？

AI推論とは、学習済みモデルが新しいデータから出力を生成し、学習した内容を実世界のアクションへとつなげるプロセスです。テストでもその役割を果たしますが、主な用途は実装にあり、音声アシスタントから医療診断に至るまで、さまざまなアプリケーションを支えています。その活用例を以下にご紹介します。

• 大規模言語モデル（LLM）は、推論を使用してプロンプトに応答し、コンテンツを要約し、リアルタイムで言語を翻訳します。
• 自動運転車は、推論を使用してセンサーデータを解釈し、瞬時に運転判断を下すことで、安全性と応答性を高めています。
• コンピュータービジョンシステムは、医療や産業オートメーションなどの分野で、推論を使用して物体の検出、顔認識、画像分析を行います。

推論は、AIアプリケーション全般に不可欠であり、モデルが動的な実世界環境で機能することを可能にします。学習済みモデルをインテリジェントなツールへと変える重要なステップです。