USBにオリジナルのAIを入れてインターネットに接続せずに使えるならセキュリティに厳しい組織でも使えますね!

この記事は約7分で読めます。

USBにオリジナルのAIUSBにオリジナルの生成AIを入れて持ち運べると便利ですね。インターネットに接続しなくても使えるので、情報漏洩とかセキュリティに神経質な組織でも利用可能です。
そんな、ポータブルAIのUSBを開発したリカバリーサービス株式会社の代表である富田龍樹さんをお招きし、KAIsのオンライン例会にて説明をしてもらいました。

ポータブルAIのUSBについて学びました

KAIsの例会にて富田さんに解説してもらいました

KAIsはZOOMを使いオンライン例会を毎月開催しています。5月例会はポータブルAIのUSBを開発したリカバリーサービス株式会社の代表である富田龍樹さんをお招きし、その説明をしてもらいました。

リカバリーサービス株式会社
外付けHDDデータ復旧、NAS・RAID・サーバーデータ復元は、容量無制限のリカバリーサービスへ! 地元での豊富な実績と、納品データの圧倒的なサポートで確実に対応致します。今なら、容量無制限のキャンペーン中!

このポータブルできるAIのUSBについては、まだ正式なリリースではないようですが、すでに試験販売も始まっており、実用化はすぐそこまできています。

富田さんからの解説と質疑応答

  1. USBのllm立ち上げデモンストレーション:
    • 富田さんはUSBからLLMを起動し、その様子をデモンストレーションしました。LLMが起動し、基本的なチャット応答機能を示すことで、USBの機能性を実証しました。
  2. 言語対応と応答速度の問題:
    • 会員からの質問に対し、富田さんはデモ中のLLMが現在英語のみに対応しており、日本語での運用も可能であるが応答速度に若干の遅延があることを説明しました。
  3. USBデバイスの仕様と容量:
    • 富田さんはUSBデバイスの容量が約1.95GBであり、普通のWindows PCで動作可能であることを示しました。これにより、手軽に持ち運び可能であることを強調しました。
  4. 技術的な質問への対応:
    • 技術的な詳細について問われた際には、LLMのフレームワークに関して説明し、特定の技術要素(例えば、ラマCPPツール)について詳しく説明しました。

最新技術の実用化に向けて:ポータブルAIの可能性とその展望

近年、人工知能(AI)は私たちの生活や仕事に革命的な変化をもたらしています。特に、AIを日常的に持ち運べるデバイスで使用できるようにすることは、その普及において大きな一歩となります。

今回のオンラインセッションでは、USBデバイスを介してAIを起動し利用する技術について、開発者から説明をうかがい議論を交わしました。この技術の実用化が私たちの生活にどのような影響を与えるのかを探りました。

USBで動くAI技術

USBとは、私たちが普段から使用している小さなデータ記憶装置です。最近では、このUSBにAIプログラムをインストールし、どこにでも持ち運びながら使用できるようにする研究が進められています。

このプロジェクトでは、軽量LLMを使っています。 LLMとは、Large Language Modelsといい、大規模言語モデルのAIですが、軽量LLMはその軽量版で、小さなデバイスや低リソースの環境でも動作するように設計されています。

AIとオープンソース

オープンソース技術は、開発者がコードを自由に閲覧、変更、そして共有できることを可能にするため、技術革新の加速に寄与しています。

今回のセッションで話題になった開発言語は、AI開発において広く利用されているオープンソースのモデルです。これらの技術を活用することで、より柔軟かつ迅速にAIソリューションを開発し、実装することが可能です。

Phi-2: 小規模なデバイスや低リソースの環境でも使用可能な言語モデルで、効率的な計算と省エネルギーを目指して設計されています。このモデルは、マイクロソフトによる小規模な言語モデルでオープンソースで提供されることが多く、開発者が容易にアクセスし、カスタマイズすることができます。

llamaCPP: ラマは、C++で書かれたオープンソースのライブラリで、AIモデルを効率的に動かすためのツールです。メタ社が開発した生成AIでオープンソースで使えるので普及しています。

オープンソースのAIがこれからますます注目されそうです、メタ社が「Llama(ラマ)3」を発表!
アメリカの大手IT企業であるメタ社が新しいAI(人工知能)の土台となる「Llama(ラマ)3」という技術を世に送り出しました。この最先端技術は、誰でも無料で使える「オープンソース」というやり方で提供されます。オープンソースという開発手法は外部の知恵を取り入れて開発を早めたり、自分たちの技術を世界中に広めることを、すぐに儲けることよりも大事にしています。そうすることで、AIの分野で先頭を走るアメリカ...

AIの組み込みとデータセキュリティ

ChatGPTなどのような生成AIはクラウドでの利用が前提なので必ずインターネットに接続しないと使えません。セキュリティ意識の高い組織では、その点がChatGPTを利用する大きな障害になっています。

ですから、インターネットにつながずにUSBさえ挿せば利用できるというポータブルAIは、潜在的なニーズがとてつもなく大きいでしょう。しかも組織や目的に適したファインチューニングが可能とあれば利用したいというケースが増えそうです。

そこで課題になるのがデータのセキュリティです。

データの安全性はAI技術を扱う上で非常に重要です。USBデバイスに保存されたデータを保護するためのセキュリティ対策についても議論が行われました。

USBという物理的な端末をどう管理するかというような視点でのセキュリティ懸念もあります。紛失した場合や、物理的に破損した場合や、盗難された場合などに課題があります。

富田さんからは、データ暗号化やアクセス制御など、データ漏洩を防ぐための技術が検討されているという説明をうかがいました。

ChatGPTとポータブルAIの比較

USBで使えるポータブルAIとChatGPTを比較することは、それぞれの利用シナリオと機能性の違いを理解する上で興味深い議論となります。
以下に、それぞれの長所と短所を概説します。

USBで使えるポータブルAI

長所:

  1. 可搬性とアクセス性: USBデバイスにAIをインストールすることで、インターネット接続が不要な環境でもAI機能を利用できます。これにより、リモート地域やインターネットの接続が困難な場所でも、AIの力を活用することが可能になります。
  2. プライバシー保護: クラウドに依存しないため、データの送信が少なく、ユーザーのプライバシーをより効果的に保護することができます。データがローカルで処理されるため、外部への漏洩リスクが低減します。
  3. カスタマイズ性: 特定の用途に特化したAIモデルをUSBに搭載し、特定のユーザー群や業界向けにカスタマイズすることが容易です。これにより、使用者のニーズに直接対応する形でAI機能を提供できます。

短所:

  1. 処理能力とスケーラビリティ: USBデバイスの処理能力は限られており、大規模なデータセットや複雑なAIモデルを効率的に扱うことが困難です。このため、処理能力を要するタスクには向かない可能性があります。
  2. 更新とメンテナンス: USBデバイスのソフトウェアを定期的に更新する必要があり、これが手間となる場合があります。また、物理的な損傷や故障のリスクも伴います。
  3. 一貫性の欠如: それぞれのデバイスによってAIのパフォーマンスが異なる場合があり、使用するUSBデバイスごとに結果に一貫性がない可能性があります。

ChatGPT

長所:

  1. 強力なAIモデル: ChatGPTは、大規模なデータセットで訓練された高度なAIモデルを使用しているため、幅広いトピックに対して高い理解力と応答能力を持っています。
  2. 即時の更新とスケーラビリティ: クラウドベースのサービスであるため、最新のAIモデルに常にアップデートされ、スケールの調整も容易です。これにより、ユーザーは常に最新の機能を利用できます。
  3. 広範なアクセス性: インターネット接続があれば、どこからでもChatGPTを使用できます。これにより、場所を選ばずに情報アクセスや質問応答が可能となります。

短所:

  1. プライバシーとセキュリティの課題: ユーザーのデータがクラウドに送信されるため、プライバシーの懸念が生じます。データ保護とセキュリティが主要な考慮事項となります。
  2. 依存性と接続性: インターネット接続に依存しているため、接続が不安定な場所では使用できません。また、接続が途切れると、サービスが利用できなくなるリスクがあります。

これらの比較を通じて、USBで使えるポータブルAIとChatGPTがそれぞれ異なるニーズに応じた解決策を提供することがわかります。使用目的に応じて、適切なツールを選択することが重要です。

ポータブルAI、今後の展望

この技術のさらなる改良と実用化に向けて、富田さんは継続して研究開発を進める予定です。また、技術の詳細を共有し、知識を広めるためのワークショップも計画していきたいなと思いました。

USBにオリジナルのAIを入れてインターネットに接続せずに使えるならセキュリティに厳しい組織でも使えます。

例えば、個人情報に厳しい医療情報を扱う病院や、特許技術で固められたような製造業の精算ノウハウなどが頭に浮かびます。組織ごとに適したカスタマイズやファインチューニングがどこまでできるかが鍵になりますね。

もっと現実的には、会議の議事録などをまとめるために、インターネットに接続しないで使えるオリジナルの生成AIというような使い方ができれば汎用性も高く用途も広がります。企業の財務や会計業務も秘匿性が高いので、オリジナルのAIがあればかなり有効に使えそうですね。

今回、USBに組み込んだAIについてのプレゼンをしてくれた富田さんには大感謝です。これからのポータブルAIの発展には大いに期待しています。ぜひ、一緒にワークショップもやりましょう。