ローカルAIとは、インターネット上のクラウドサーバーを経由せず、ユーザー自身のパソコンやスマートフォンといった手元の端末（ローカル環境）内で直接実行される人工知能（AI）のことです。ローカルLLMという言い方もあります。
ChatGPTなどの代表的な「クラウド型AI」と比較すると、以下のような明確なメリットとデメリットがあります。
主なメリット
-
強固なセキュリティ: 入力したデータが外部サーバーに送信されないため、企業秘密や個人情報の漏洩リスクを極めて低く抑えられます。
-
オフライン環境での動作: インターネット接続が不要なため、通信電波の届かない場所や、外部通信を遮断した環境でも利用可能です。
-
応答速度（レイテンシ）の低減: サーバーとの通信によるタイムラグが発生せず、リアルタイムで高速な処理が完結します。
-
ランニングコストの削減: サブスクリプションなどのクラウドサービス利用料や、データ通信費がかかりません。
課題とデメリット
-
高いマシンスペックの要求: AIモデルを処理するためには、高性能なCPUやGPU、大容量のメモリ（RAM）を備えたハードウェアが必要になります。
-
バッテリー消費の増加: 端末本体での演算処理による負荷が大きいため、ノートPCやスマートフォンなどでは電力消費が激しくなります。
近年、オープンソース化された軽量で高性能な言語モデル（SLM）の発展や、AI処理に特化した専用チップ（NPU）を搭載する「AI PC」「AIスマホ」の普及が急速に進んでいます。これにより、今後は企業だけでなく個人レベルでも、安全かつ手軽にローカルAIを活用する時代が本格化していくと期待されています。
