AI(人工知能/ディープラーニング)

ノートPCでネット接続不要のChatGPTが使えるようになりました、しかもオープンソースなので無料!LMstudioで試運転してみました

この記事は約10分で読めます。

OpenAIは8月5日、オープンソースのAIモデル「gpt-oss」シリーズを公開OpenAIは8月5日、オープンソースのAIモデル「gpt-oss」シリーズを公開しました。いわゆるローカルAIとしてインターネット接続なしでノートPCでChatGPTが動作するのです。設定が簡単なLMstudioで使えるモデルもあり、商用利用も可能ということです。これはビッグニュースですね。
早速、該当モデルをダウンロードしてLMスタジオに設定して使ってみました。

OpenAI、性能トップ級の無料AI公開

ニュースサイトの情報でAIモデル「gpt-oss」を確認

OpenAI、性能トップ級の無料AI公開 ノートPCで動き、商用利用もOK
OpenAIは8月5日、ユースケースに応じてカスタマイズできるオープンウェイトのAIモデル「gpt-oss」シリーズを公開した。Apache 2.0ライセンスで配布され、商用利用も可能だ。

オープンソースのAIモデル「gpt-oss」シリーズには2つのモデルがあります。サイズ別に「gpt-oss-120b」と「gpt-oss-20b」の2種類です。いずれもベンチマークテストで同社のAIモデル「o4-mini」に匹敵または凌駕する成績を記録しているそうです。無償公開のモデルとしてはトップクラスの性能です。

想定される動作環境
■gpt-oss-120b
・データセンター
・デスクトップPC(ハイエンド)
・ノートPC(ハイエンド)
■gpt-oss-20b
・デスクトップPC
・ノートPC

gpt-oss-20bをダウンロードしました

LMスタジオでモデル検索の窓に「openai」と入力すると該当するモデルがヒットします。「gpt-oss-120b」と「gpt-oss-20b」がヒットしました。

「gpt-oss-120b」は63.39GBもあります。ということはPCのメモリは少なくとも64GB以上ないと動きません。

実際にノートPCで使えるのは「gpt-oss-20b」のほうです。

openai/gpt-oss-20b
The 20B variant of OpenAI's open source model. Apache 2.0 licensed.

「おそらくこのマシンには大きすぎます」という警告が表示されていますが、構わずダウンロードします。LMスタジオで使える形式になっていますので、LMスタジオを立ち上げてダウンロードすればすぐに使えるようになりました。

「gpt-oss-20b」は12.11GBなので、メモリ32GBを積んでいる私のノートPCなら一応は動きます。(遅いかもしれませんが…)

マウスコンピューターのノートPCがよいです、会計用のPCとして導入しましたがメインマシンとして使えるくらい高性能でした
マウスコンピューターのスタンダードなノートPCを購入しました。会計用で使うためのPCなのでそれほど高性能でなくてもよいので、マウスコンピューターのスタンダードな14インチサイズのものにしました。購入額は税込みで10万円未満のため、法人利用の場合は資産計上せずに費用計上できる点も利点です。このPC、意外に高性能なのでびっくりしました。これまで私が使っていた約30万円のレッツノートよりはるかにサクサク...

私が使っているのはマウスコンピューターのノートPCで上記のマシンです。メモリは16GBではなく32GBに増設してあります。SSDも1TBに強化してあります。それでもあくまで汎用のノートPCであり、AIのためにGPU搭載した高性能マシンではありません。このような汎用マシンでもローカルAIができるというのは驚異的ですね。

LMスタジオでgpt-oss-20bを試運転してみました

どれくらいの性能と回答速度があるのかを試しました

LMスタジオで「gpt-oss-20b」を試運転するために、味噌づくりの手順をマニュアルとして作成するというプロンプトを入れてみました。

どもども遠田
どもども遠田

あなたは熟練の味噌製造会社のエキスパートです。経験が少ない新入社員向けに、味噌づくりの手順書を作成する役割です。対象者は、これまで食品製造業勤務の経験がなく衛生管理や食品の製造機械のメンテナンス経験もない人を想定しています。以下の項目を含む手順書を作成してください。
1. 作業前の安全確認
2. 各部品の点検手順(各ステップごとに画像付き)
3. 部品の交換手順
4. 作業後の記録と報告
5. 注意点とトラブルシューティング。
Markdown形式で出力してください。

▼実際の画面

以下はその回答(出力)です。

味噌製造手順書(新人向け)

対象者
これまで食品製造業の経験がなく、衛生管理や機械メンテナンスに不慣れな新入社員。
本手順書は安全・品質を第一に、わかりやすく段階的に説明します。

はじめに

  • 目的:味噌製造ラインの安全運用と品質維持を確実にするための基本操作マニュアル
  • 対象機械:発酵タンク・ミキサー・温度制御ユニット・pH計・ろ過装置など
  • 前提条件:必ず本手順書を読み、理解した上で作業に入ってください。

1. 作業前の安全確認

項目 内容 チェック方法
個人防護具 (PPE) ・手袋(食品用ニトリル)<br>・エプロン<br>・ヘアネット/キャップ<br>・アイウェア(必要に応じて) すべて装着済みか確認
作業環境 ・温度・湿度が規定値内か<br>・換気が十分か 温度計・湿度計で測定、換気扇稼働を確認
機械停止状態 すべての機械(発酵タンク・ミキサー等)がオフになっているか スイッチ OFF、電源遮断確認
緊急停止装置 緊急停止ボタンが作動するか<br>配線に破損はないか ボタンを押し、機械停止を確認
清掃・消毒状態 直前の清掃が完了しているか(表面の残留物がない) 視覚チェックとサンプル検査

注意

  • 作業開始前に必ず上記リストを確認し、すべて「OK」とマークしてください。
  • 不明点は直ちに品質担当またはライン責任者へ報告。

2. 各部品の点検手順(画像付き)

2‑1 発酵タンク
ステップ 手順 画像
① 見た目チェック タンク表面に汚れ・腐食がないか確認。
② 内部清掃状況 タンク内部を開け、バイオフィルムや残留物を確認。
③ シール状態 タンク蓋のゴムシールにひび割れ・変形がないか検査。
④ 温度センサー位置 センサー本体と配線を損傷がないか確認。
2‑2 ミキサー(混合機)
ステップ 手順 画像
① ブレード状態 ブレードの摩耗・割れがないか確認。
② 回転速度設定 制御パネルで設定値と実際の回転数を比較。
③ 電気接続 配線端子に緩み・腐食がないか確認。
2‑3 温度制御ユニット
ステップ 手順 画像
① センサー点検 温度センサーのヒンジ・配線を確認。
② ファン動作 ファンが滑らかに回転し、騒音が無いか確認。
③ 配線・ヒーター状態 ヒーターモジュールの配線・接続部を点検。
2‑4 pH計・検査器
ステップ 手順 画像
① 校正液チェック 校正液の有効期限と濃度を確認。
② センサー状態 pHプローブに汚れ・腐食がないか検査。
③ 電源接続 配線の緩みや損傷を確認。
2‑5 ろ過装置(フィルター)
ステップ 手順 画像
① フィルターボックス フィルターの詰まりや汚れを確認。
② フィルターレイヤー 各層の状態(色・摩耗)をチェック。
③ 配管接続 配管の緩みや漏れがないか確認。

画像注記

  • 本ファイルに実際の写真を添付し、必要に応じて「※画像は作業現場で撮影したものです」と明記してください。

3. 部品の交換手順

3‑1 温度センサーの交換
ステップ 手順
① 機械停止 発酵タンク・温度制御ユニットをオフにし、電源を遮断。
② センサー取り外し ヒンジ部をゆっくり回し、配線を抜きます。
③ 新センサー装着 配線を新しいセンサーへ接続し、ヒンジで固定。
④ 校正 新センサーを温度計に接続し、校正液で確認。
⑤ 再稼働 電源オン→機械再起動。
3‑2 フィルターの交換
ステップ 手順
① 機械停止 ろ過装置をオフにし、電源遮断。
② 古いフィルター取り外し フィルターボックスから詰まったフィルターを慎重に抜き取る。
③ 新しいフィルターセットアップ 指定サイズ・材質のフィルターを装着。
④ 配管接続確認 配管がしっかりと固定され、漏れがないことを確認。
⑤ 再稼働 電源オン→機械再起動。
3‑3 ミキサーブレードの交換
ステップ 手順
① 機械停止・電源遮断 ミキサーを完全にオフ。
② ブレードカバー取り外し カバーを緩め、ブレードへアクセス。
③ 古いブレード取り外し スクリューで固定されている場合は逆方向に回す。
④ 新しいブレード装着 スクリューで正しく締め付ける。
⑤ ブレードのバランス確認 手動で軽く回転させ、揺れがないか確認。
⑥ 再稼働 電源オン→ミキサー再起動。

注意

  • 部品交換は必ず電源遮断後に行い、作業中は手袋を着用してください。
  • 替え部品はメーカー推奨の型式・規格を使用し、破損や摩耗がある場合は直ちに報告。

4. 作業後の記録と報告

4‑1 記録項目(例)
項目 内容
作業日 yyyy/mm/dd
担当者

ここまでで止まってしましました。
何度か「続けて」とか「1から3までは表示されています。しかし、4以降が表示されていません。4と5を表示してください。」とかという入力をして続きの出力を促しましたがエラーになってしまいました。

「Reasoning Effort」が「High」になっていたので「Low」に変えてから、4以降を表示するよう促したところ、以下の情報が表示されました。

項目 内容 記入方法
作業日 yyyy/mm/dd 日付を入力
担当者名 氏名・所属部署 フォームに署名
機械名/番号 発酵タンク、ミキサー等 ①で確認した機械の名称とシリアル番号
点検項目ごとの結果 OK / NG / コメント 点検リストをそのまま記入
交換部品 交換した部品の型式・数量 ①で使用したパーツ情報
異常発生有無 有/無 発見

しかしその後はエラーメッセージしかでず、ここで断念しました。

エラーメッセージには次のように書かれています。

Reached context length of 4096 tokens with model (arch: gpt-oss) that does not currently support mid-generation context overflow. Try reloading with a larger context length or shortening the prompt/chat.

これは、「モデルが処理できるトークン数の上限(コンテキスト長)である4096トークンに達してしまった」というエラーです。

簡単に言うと、会話が長くなりすぎて、モデルが文脈を記憶できる限界を超えてしまったということです。

エラーの原因と対策

このエラーはPCのパワー不足かもしれません。CPUが非力なので長いコンテキストを処理するのが難しいのかもしれないですね。

ローカルAIならGemmaが優秀ですね、LMスタジオにgemma3nの6.9Bモデルは4.24GBという小さなサイズでした
最近、AI(人工知能)の話題をよく耳にしますよね。ChatGPTやGeminiなどの生成AIや、チャットボット、自動翻訳など、AIはますます私たちの生活に溶け込んできています。でも、AIを使うにはインターネット(クラウド)にアクセスしないといけない、そんなイメージはありませんか?そこで登場するのが「ローカルAI」。これは、インターネット上のサービスを使わずに、自分のパソコンだけでAIを動かす方法で...

モデルが小さなgemmaならサクサクと動いてくれるので、このPCでは「gpt-oss-20b」の12.11GBというのが大き過ぎるのかも…

解決策をGeminiProに聞きました

エラーメッセージが提案している通り、以下のいずれかの方法で解決できます。

対策A:コンテキスト長を増やしてモデルをリロードする(推奨)

これが根本的な解決策です。モデルがより長い会話を記憶できるように、設定を変更します。

  1. LM Studioの画面右側にある設定パネルを開きます。
  2. **「Context Length (n_ctx)」**という項目を探してください。(「Model Initialization」などのセクション内にあります)
  3. 現在の設定値が「4096」になっているはずです。この数値を、より大きな値、例えば**「8192」や「16384」**などに変更します。
    • 注意: この数値を大きくすると、その分PCのメモリ(RAM)消費量が増加します。PCの搭載メモリ量に応じて調整してください。
  4. 設定を変更したら、画面上部の中央にあるモデル名の隣のリロードボタン(丸い矢印のアイコン)を押すか、一度モデルをアンロードしてから再度ロードし、設定を反映させます。
  5. 新しい設定でチャットを開始すれば、より長い会話が可能になります。

(設定画面の参考画像)

対策B:チャット履歴をクリアする

一時的な対策として、新しい会話を始める方法です。

  1. チャット画面の上部にある**「New Chat」**(新しいチャット)ボタンを押します。
  2. これにより、今までの会話履歴がリセットされ、トークン数が0の状態から新しいプロンプトを送信できます。

本日公開されたばかりの新しいモデルとのことですので、LM Studioのデフォルト設定(コンテキスト長: 4096)では能力を最大限に引き出せない可能性があります。まずは対策Aを試して、モデルが許容する範囲でコンテキスト長を広げて運用することをお勧めします。

とりあえず、公開初日としてのレポートはここまでとします。またあらためて時間があるときに試運転をしてみます。