「コマンドラインはちょっと…」って人に朗報。LM Studioなら、マウス操作だけでローカルLLMが使える。アプリをインストールして、モデルを選んでダウンロードして、チャット開始。Ollamaよりさらに簡単だ。
LM Studioはllama.cppをGUIでラップしたアプリ。Windows/Mac/Linux対応。見た目はChatGPTのデスクトップアプリに近くて、初見でも迷わない。しかも全部ローカル完結。ネットワーク不要。
LM Studioの使い方:
- ダウンロード&インストール — 公式サイトから。インストーラー実行するだけ。
- モデルを選ぶ — 検索バーから「Llama 3」とか入れるとHuggingFaceから候補が出る。クリックでダウンロード開始。
- モデルをロード — ダウンロードしたモデルを選択して、GPUオフロード量とかコンテキスト長を設定してロード。
- チャット開始 — あとはChatGPTと同じ感覚で会話するだけ。
隠れた便利機能:
- ローカルAPIサーバー — OpenAI互換エンドポイントをGUIからワンクリックで起動。VS CodeのContinue拡張とかと連携できる。
- モデルパラメータ調整 — temperatureやtop_pをスライダーで直感的に調整。
- プリセット管理 — モデルごとにパラメータを保存。用途別に切り替えられる。
- マルチモデル同時起動 — 別タブで違うモデルを起動して比較できる。
注意点。LM StudioはかなりGPUメモリを使う。統合GPUのノートPCだと厳しいかも。あと、GPUオフロードの設定を間違えるとクラッシュする。僕は最初GPU Layersを全開にしてフリーズさせた。
「難しいことは抜きにして、とにかくローカルLLMを触りたい」——LM Studioはその願いを完璧に叶えてくれる。
参考:LM Studio公式