ローカルLLMとは、ネットの向こうのサーバーではなく、自分のパソコンの中だけで完結するAIです。データを社外に出さずにAIを使いたい会社にとって、個人のお財布でもギリギリ出せるくらいの金額で、ちゃんと仕事として使えるところに手が届いてきました。私は、中古なら20万円以内で買えるゲーミングPC(メモリ32GB・GPUのメモリ8GB)でQwen 3.6を動かし、リサーチ、自分の資料からの企画書づくり、会計の仕訳までできました。ただし、動かすとメモリが90%ほど埋まり、それしかできません。会社で本気で使うなら、AiWiLL CTOの所の答えは「Windowsじゃないです。Macです」。メモリを大きく積んだMac Studioで、200万円前後です。高く見えますが、社員を1人雇う費用と比べれば、会社として出せない金額ではありません。今できるのは定型の仕事で、考える・計画する仕事は、まだクラウドの最先端のAIにかないません。

赤堀亘
執筆・監修 AiWiLL株式会社 代表取締役 赤堀亘

AiWiLL株式会社代表。AI顧問「WiLLAGENT」で、企業の仕事をAIと人が進められる形にする伴走支援を行っています。記事では、実務で使える手順と、人が確認すべき点を明らかにします。

この記事は、YouTube「AI顧問の現場録」で、熱海・起雲閣の広縁で、AI顧問の私とAiWiLL CTOの所が、ローカルLLMを会社で使えるか、必要なスペックと費用を話した回の記録です。撮影日(2026年10月15日)時点の内容です。

この記事の結論

  • ローカルLLMは、自分のPCの中だけで完結するAIです。データを外のサーバーへ送らずに使えるので、機密情報やお客さんの情報を扱う士業・銀行・医療などの方から相談を受けたとき、選択肢になります。
  • 中古なら20万円以内のゲーミングPC(メモリ32GB・GPUのメモリ8GB)でも、Qwen 3.6がギリギリ動きました。リサーチ、資料からの企画書づくり、会計の仕訳はできましたが、メモリは90%ほど埋まり、時間もかかります。
  • 本気で使うなら、メモリの量で決まります。所のMac Studio(メモリ64GB)でも足りなくなってきていて、128GBは欲しいところです。CPUとGPUが同じメモリを使えるMacが向いています。
  • メモリ256GBのMac Studioは、200万円前後です。Appleの公式ストアでは、M5 Ultraを積んだ構成が949,800円から。メモリを256GBにすると約167万〜190万円で、保存容量も増やすと200万円を超えます(2026年10月17日に確認)。
  • 金額は、社員を1人雇う費用と比べて考えます。年収500万円の人なら、採用費や社会保険を含めて1年で650万〜700万円ほど(私の目安)。会社として1台置き、みんなで使えるなら高くありません。ただし、ちゃんと仕事に使えることが前提です。
  • 今ローカルでできるのは、仕訳・日報・議事録のような定型の仕事です。考える・計画する・新しいものを生み出す仕事や、大規模な開発は、まだクラウドの最先端のAIが上です。
  • 最初の一歩は、社外に出せない情報を使う仕事を3つ書き出すこと。そのうち定型のものが、ローカルLLMの最初の候補です。

動画で見たい方は、YouTube「AI顧問の現場録」の回をどうぞ:ローカルLLMの必要スペックと費用。Qwenが動いた中古なら20万円以内のゲーミングPCと、200万円前後のMac Studio|代表とCTOの実体験(2026年10月15日の収録)

ローカルLLMは、自分のパソコンの中だけで完結するAI

対談の最初に、所に「ローカルLLMとは?」を簡潔に説明してもらいました。皆さんがよく使っているClaudeや、OpenAIのCodexのようなAIの、ローカルで動くモデルのようなもの。自分のパソコンの中だけで完結する、ローカルと呼ばれているLLM(文章を読み書きするAI)です。

図解

クラウドのAI

社内のデータ → ネット → AIの会社のサーバー

ネットに接続する以上、一定のリスクの許容が要る

ローカルのAI

社内のデータ → 自分のPCの中だけ

外部に接続しない

データは、どこを通るか

私がいまローカルLLMに関心を持っている理由は、情報漏洩への危機意識です。AIを使って仕事をすることへの危機管理の意識が、本当に高まっています。機密情報やお客さんの情報ばかり扱っている士業の方、銀行、医療。そういう「セキュアな環境じゃないとどうしようもないよね」という業界の方から相談を受けたとき、コストはかかるけれど、外に出さないという意味での安全性を担保できるのが、ローカルLLMです。

所も「AI導入するとかになったときに、一番最初に気になるのはセキュリティなんで、みんな」と言います。どこの会社も、まずセキュリティです。

私たちが普通にGoogleドライブを使うのも、顧客情報や自社の情報をクラウドに上げているのと同じです。ネットにつなぐ以上、一定のリスクの許容はどうしても必要で、それをなくすのは難しい。でも、ネットにつながない状況でAIが計算できるなら、このパソコンの中という閉じた空間でAIを使えます。使うイメージも湧きやすい。所によると、「この中だけで完結します」というだけで、「外部に接続しないんだったらいいよね」というお客さんも多いそうです。

ローカルLLMの「ローカル」は、AIの会社のサーバーではなく、手元のPCで計算するという意味です。動かすモデルを一度手元に落としてしまえば、そのあとはネットにつながなくても動かせます。モデルを落とすときと、新しい版に入れ替えるときは、ネットを使います。

中古20万円以内のゲーミングPCで、何ができたか

私が使っている環境は、たぶん一番一般の人に近い、皆さんが普通に手を出しやすい環境です。事務所に置いている、ただのゲーミングPCです。

図解

CPU

Intel Core i7-12700

ちょっと前の世代

GPU

GeForce RTX 3070 Ti(VRAM 8GB)

VRAMは、GPU(画像やAIの計算をする部品)専用のメモリ。これもちょっと古い世代

メモリ

32GB

ローカルLLMを動かすと、90%ほど埋まる

私のPC(中古なら20万円以内)

このPCは、24時間つけっぱなしにしてスマホから動かしている「常時起動PC」と同じ1台です。PCの置き方やつなぎ方は、スマホからClaude Codeを動かす「常時起動PC」に書きました。そちらでは、GPUやメモリを増やせばローカルLLMも視野に入るが、私はそこまではしていない、と書いています。増設はしないまま、今の構成でローカルLLMを触ってみた、というのがこの回の話です。

使ったのは、Qwen(クウェン)の3.6です。Qwenは、中国のアリババ(Alibaba Cloud)のQwenチームが公開している、手元で動かせるAIです。Qwen 3.6は2026年4月に、270億パラメータの版と、350億パラメータ(1回の計算に使うのはそのうち30億)の版が、Apache 2.0のライセンスで公開されています(Qwen3.6-27Bのモデルカード、Qwen3.6-35B-A3Bのモデルカード)。

このPCで、Qwen 3.6がギリギリ動きます。もちろん、動かすとメモリが90%ほどになって、もうそれしかできません。それでも、ちゃんと動いて、次のことができました。

図解

できた

リサーチ。ローカルでの画像生成。自分の資料をもとに、企画書やスライドを作る(時間はかかる)。会計の仕訳

まだ(クラウドの最先端のAIが上)

考える。計画する。新しいものを生み出す

20万円のPCのQwen 3.6で、できたこと・まだのこと

ネットが使えなくなって困ったときも、「とりあえず資料作ってもらっていいですか」と頼めば、なんとかできる。それが分かりました。

再現イメージ

私

とりあえず、この資料をもとに企画書を作ってもらっていいですか

AI(手元のPCのQwen 3.6)

資料を読みました。企画書の骨組みから作ります。少し時間がかかります。

ネットが使えない日に、手元のPCのAIに頼む流れ(収録の話を文字にしたもの。AIの返答は要約で、実際の文面ではありません)

会社の業務で身近なところでは、会計の仕訳が問題なくできました。だから、税理士さんや会計士さんのように、お客さんのお金の情報を握っている方も、ローカルの環境で仕事をすることは可能そう、というのが私の所感です。

所の見立ても同じでした。会計のような定型的な処理は、全然できる。一方で、考える、計画する、新しいものを生み出すといった仕事は、まだフロンティアモデル(ChatGPTやClaudeなど、最先端のAI)には勝てない。

フロンティアモデルが動いている環境は、えげつない規模です。個人では作れません。ローカルでそれよりすごいことができる、ということは、なかなかないと思います。それでも、仕事で使えるかという意味では、もう少ししたら、どんどん現実的になってくるはずです。

仕訳をAIに頼む流れそのものは、クラウドのチャットで試した記録をレシートをチャットに投げたら、仕訳案が返ってきたに残しています。ローカルLLMは、その計算をする場所を、手元のPCに移すものです。

本気で使うなら、メモリの量で決まる

私よりも環境を整えている所が、いまメインで使っているのはMac Studioです。Ultraのチップを積んだ上位の構成で、メモリは64GB。その中でLLMを動かしていますが、実はもう足りなくなってきていて、128GBにしないと足りない、と言います。

図解

私のPC

32GB

並大抵のローカルLLMは動かない

所のMac Studio

64GB

動かしているが、足りなくなってきた

所が欲しいのは

128GB

「128GBにしないと足りない」

メモリは、どれだけ要るか

理由は、モデルを動かすために、まず置いておかなければならない容量があるからです。それを満たせていない時点で、動かせない。そもそも土台に立てません。私のPCは32GBしかないので、並大抵のローカルLLMは動かないのです。

どのくらい要るのかは、おおよその計算ができます。AIのモデルは、パラメータと呼ばれる大量の数字のかたまりです。その数字1つを何ビットで持つかで、置き場所の大きさが決まります。

必要なメモリの目安(GB)= パラメータ数(10億単位)× 数字1つのビット数 ÷ 8

モデルの例縮め方計算重みだけで見方
270億パラメータ(27B)縮めない(16ビット)27×16÷8約54GBAppleの測定では、同じ大きさのQwen 3.8を元の精度で、長い文章を扱う設定にすると、最大68GBを使った
270億パラメータ(27B)4ビットに縮める27×4÷8約13.5GBGPUのメモリ8GBには収まらず、はみ出した分はPC本体のメモリで動く
GLM-5.3-Flash(3,200億)3ビットに縮める320×3÷8約120GBメモリ128GBのPCで、何とか動く大きさ
GLM-5.3(7,530億)4ビット/2ビットに縮める753×4÷8/753×2÷8約377GB/約188GB256GBのPCに入るのは、2ビットまで縮めた場合

計算は、モデルの重みだけの目安です。実際は、扱う文章が長いほど、作業用のメモリが上乗せされます。Appleの測定は、Appleの研究ブログ(Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio、2026年10月15日)によるものです。私のPCでメモリが90%ほど埋まり、それしかできなくなったのも、この計算と合います。

ここで出てくるのが、量子化という技術です。AIの中身の数字を粗く丸めて、小さくする技術で、性能は少し落ちますが、メモリの少ないPCでも大きなモデルが動くようになります。所によると、量子化が進めば進むほど、メモリが8GBや16GBの普通のノートパソコンでも、もしかしたらフロンティアを超えるくらいのものが出てくる可能性もあり得る、とのことです。

所が、いまローカルで一番ホットだと言われているモデルとして挙げたのが、Z.aiのGLM-5.3です。もともとはメモリが256GBは欲しいモデルで、一般の家庭では、そもそも動かせなかった。それが量子化のおかげで、128GBあれば何とか動く、という状態になってきた、という話でした。

ここは正確にしておきます。Z.aiが公開しているGLM-5.3の本体は、7,530億パラメータの大きなモデルです(GLM-5.3のモデルカード)。上の表のとおり、4ビットに縮めても約377GBで、128GBには入りません。128GBで動くのは、小型版のGLM-5.3-Flash(3,200億パラメータ、1回の計算に使うのはそのうち180億)を、3ビットほどに縮めた場合です(GLM-5.3-Flashのモデルカード)。動画でも、補足で直しています。

なぜWindowsではなく、Macなのか

GLM-5.3のようなモデルをガチで動かすなら、どういう装備が要るのか。所の答えは「間違いなく、Windowsじゃないです。Macです」でした。

図解

Windows

CPUのメモリと、GPUのメモリ(VRAM)が別々に分かれている

同じことをやろうとすると、なかなかできない

Mac

CPUもGPUも、同じメモリ(ユニファイドメモリ)を使う

メモリを積むほど、大きなモデルが動く

なぜWindowsじゃなく、Mac?

Macのいいところは、CPUとメモリが統合された環境にあることです。簡単に言うと、CPUが使えるメモリと、パソコン全体で使えるメモリが一緒になっている。CPUを動かすときもGPUを動かすときも、同じメモリを使えるので、メモリが大きいほど性能も良く、大きなモデルを使えます。Windowsで同じことをやろうとすると、CPUとメモリが別々になるので、なかなかできません。だから基本はMacで組む、というのが所の考えです。

Windowsで大きなモデルを動かすなら、鍵はGPUのメモリ(VRAM)です。所はWindowsのPCでも、RTX 5080や4080、演算に特化したRTX A2000を使ってきて、最近RTX 5090も買いました。GeForceで最上位のこのGPUでも、VRAMは32GBです(NVIDIAの製品ページ)。メモリを256GBまで積んだMac Studioとは、8倍の差があります。

なお、動画の中で所は、RTX 5090について「販売が終了してたんですよね」「市場価値としても、100万単位を超えてくる」と話しています。生産終了はリーク情報で、NVIDIAは発表していません(2026年10月17日時点)。発売時にNVIDIAが発表した価格は1,999ドルでしたが(NVIDIAの発表、2025年1月6日)、いまは品薄で、店頭の値段が大きく上がっていると報じられています。値段は店と時期で大きく動くので、買う前に販売ページで確かめてください。

常時稼働させるという意味でも、所はMacを勧めます。持ち歩くMacBookではなく、据え置きのMac StudioやMac miniの方です。ただし、中のスペックは化け物でないと動きません。

ずっとつけておくなら、電気代も見ておきます。Appleの公表では、M5 Ultraを積んだMac Studioの消費電力は、何もしていないときで9W、最大で385Wです(36コアCPU・80コアGPU・メモリ512GBの構成で測った値。Appleサポート「Mac Studio の電力消費と熱出力 (BTU) に関する情報」、2026年9月24日公開)。LLMを動かしているときの最大は約300Wと、先ほどのAppleの研究ブログにあります。

  • 仮に300Wで24時間・30日動かし続けると、300W×24時間×30日=216kWh。全国家庭電気製品公正取引協議会の目安単価31円/kWh(税込)で計算すると、月に約6,700円です。実際はずっと最大で動くわけではないので、これが上限の目安です。
  • 何もしていない9Wのままなら、9W×24時間×30日=6.48kWhで、月に約200円です。

出典:全国家庭電気製品公正取引協議会「よくある質問」Q7(Q&Aページ)。

1台で足りなければ、つなぐ手もあります。所によると、メモリ128GBのMac Studioを1台買う代わりに、あえて64GBのMac Studioを2台買って、つなげることもできる。Appleは、Thunderbolt 5とRDMAという仕組みで、複数のMac Studioをまとめて使える(クラスタ化できる)と発表しています(Apple Newsroom、2026年8月25日)。Appleの研究ブログでは、この仕組みはmacOS 26.2から入ったとしています。手持ちの機種とmacOSの版が対応しているかは、先に確かめてください。

200万円は、高い?

私が人から聞いた話では、GLM-5.3のようなモデルを動かすには、ミニマムで256GBのメモリが欲しい。所によると、新しいMac Studioには、メモリ256GBの構成があります。「いくらだと思いますか?」「全然分かんない」「でも最近は、100万超すでしょ」というやり取りから、値段の話になりました。

段階メモリ費用の目安位置づけ
私のゲーミングPC32GB(GPUのメモリ8GB)中古なら20万円以内Qwen 3.6がギリギリ動く。定型の仕事を試せる
所のMac Studio64GB―動かしているが、足りなくなってきた
本気で使うMac Studio256GB200万円前後大きなモデルを、会社の1台で動かす

Appleの公式ストアで確かめると、M5 Ultraを積んだMac Studioは、メモリ96GB・保存容量1TBの構成で、949,800円(30コアCPU・64コアGPU)と1,183,800円(36コアCPU・80コアGPU)です(Apple Store「Mac Studioを購入」、税込、2026年10月17日に確認)。メモリを256GBにすると72万円が加わり、1,669,800円と1,903,800円、約167万円と約190万円です(同じページで構成を選んで確認)。200万円を超えるのは、保存容量も増やした場合です。メモリ512GBの構成は、10月下旬に追加される予定です。

所は、100万円ちょっとなら買おうかなと思ったけれど、200万円を超えてきた、と話していて、動画では補足で、200万円を超えるのは保存容量も増やした場合だと直しています。所自身も、200万円を個人で即出せるかと言われたら、出せないと言います。

それでも、私は高くないと思っています。人件費に換算すると分かります。年収500万円の人を1人採用するとしたら、採用費や社会保険を含めて、その人を1年雇う費用は650万〜700万円ぐらい。採用エージェントを使えば、たぶん800万円ぐらいになります。それを考えると、300万円ぐらいで買って、ローカルでゴリゴリ回して会計の仕事をさせてみる、銀行のようにセキュアさが要る顧客管理をやってみる、というのでも、全然元は取れると思います。200万円ちょっとは、そんなに高いわけではない。もちろん、それがちゃんと仕事として回る(ワークする)ならば、です。

所の言い方はこうです。個人ではなく、会社として出せる金額だからこそできる。会社として、皆さんが使える環境を1つ用意するだけで、1人の効率が3倍にも4倍にもなるなら、社員が10人いれば、10人×4倍で40倍の仕事をしてくれる。それで200万円なら、安い。

図解

  1. 1台を置く

    社員みんなが使える環境を、会社として1つ用意する

  2. 1人が速くなる

    1人の効率が、3倍にも4倍にもなる(所の見立て)

  3. 人数で掛ける

    社員10人×4倍で、40倍の仕事

  4. 比べる

    それで200万円なら、安い

所の計算(会社として1台置くと)

所は、仕訳よりもっと上のことも全然できると言います。資料作成も、日々の定例的な業務も任せられる。会社員だった頃に自分もやっていた日報や、会議の後の議事録も作れて、自動化できる。一人一人がこれまでやってきた仕事を工数として金額に直せば、元が取れるのは早い。早いと1か月以内で元が取れるのではないか、というのが所の見立てです。

比べやすくするために、私が月の金額に直してみます。200万円のPCを仮に3年使うなら、200万円÷36か月で、月に約5.6万円。電気代は、多くても月に約6,700円です。年収500万円の人を採用費・社会保険込みで1年650万円とすると、650万円÷12か月で、月に約54万円です。

ただし、これはPCが人1人の代わりになる、という計算ではありません。所の「効率が3倍、4倍」は見立てで、測った数字ではありません。元が取れるかどうかは、どの仕事を、どれだけローカルLLMに渡せたかで決まります。設定や入れ替えをする人の時間も、費用に入ります。収録で私が言ったとおり、「もちろん、それがワークするならば」が前提です。

会社の文脈を入れて、仕事を任せられるか

議事録を作る、メールの返信文を作る、といったスポットの仕事なら、それでいい。でも、会社の業務でAIを使っていくなら、コンテキスト(AIに渡す前提の情報)をどれだけ使えるかが勝負になります。

たとえばうちの会社なら、経営、サービス、営業、マーケ、提供、管理部が、それぞれどう動いているかという情報があります。各業務では、こういう書式でやっている、という情報もある。これをまず渡して、理解してもらったうえで、会計処理をしてほしいわけです。

図解

  1. 前提を渡す

    部門ごとの動き方と、業務ごとの書式をAIに渡す

  2. 請求書

    誰がどんな仕事をしたから、どういう給料の体系か、を分かったうえで請求書を出す

  3. 経費

    経費を会計処理する

  4. 支払い

    給与の支払いまでつなげる

背景の情報込みで、仕事は進む

仕事は、こうした背景の情報込みで進んでいきます。それを、ローカルLLMでどこまで使えるのか。

所は、自分でやったことはないけれど、できると聞いている、と前置きして、会社専用にモデルをチューニング(自社の情報で、AIを追加で学習させること)する方法を挙げました。コンテキストを入れ込んだ、自分の会社専用のモデルを作る。そうすると、名前を入れなくても、仕事の流れや内容を見て「これは所さんですね」「これは代表、赤堀さんですね」と分かるようになる、と言います。

ただし、問題もあります。陳腐化です。モデルに入れたデータは古くなります。だから、なるべく変わらないものだけを入れる、という考え方です。

図解

変わらないもの

業務のやり方、書式、部門の役割

モデルに入れ込んでよい

変わるもの

日々の数字、案件、予定

入れると古くなる。毎回渡す

会社専用のモデルに入れるもの、入れないもの

変わらないものだけを入れれば、1つの作業だけでなく、請求書を発行して、支払い明細を出して、ちゃんと支払ったことを確かめる、という流れ全体もローカルでできる、と所は言います。変わる情報をどう渡すかは、AIに毎回説明するのは、もうやめように、会社をフォルダに分けて渡す考え方として書きました。

今いちばん良い性能でローカルの環境を組めば、大枠のビジネスの業務はできそうだね、と私が聞くと、所は「できると思いますね」と答えました。

一方で、まだ無理なこともはっきりしています。

図解

まだ無理

映画を作るような計算(所によると、フロンティアモデルでもできない)。大規模な開発。銀行のシステムをローカルで作り、メンテナンスしていくこと

現実的

ビジネス職の知的労働を、セキュアな環境でやること

ローカルLLMで、まだ無理なこと・現実的なこと

クラウドのAIが止まった日も、仕事を止めない

ローカルで上流の工程までできるようになるほど、AIを使える量の枠が足りない、という問題がなくなります。昔は、アップデートの最中にAIが使えないこともありました。外の環境に左右されなくなります。

自社のサービスで生成AIを使っている場合も同じです。たとえば、Claudeのサーバーが落ちてAIが使えなくなったら、自社のサービスも動かなくなる、ということは十分にあります。簡単な処理なら、自社でそういう仕組みを組んでもいいのではないか。そういう選択肢が出てきてもおかしくないはずです。

所にも経験があります。ClaudeやCodexに頼り切っていた時期に、サーバーが落ちて使えなくなり、「もう今日は仕事なしだ」となった。そうなったときに頼れるのがローカルLLMだ、と所は言います。フロンティアモデルの代わりになるところまで行けば、それはいいと私も思います。

というか、たぶん、そのうちそうなります。人間の仕事をするのに必要なスペックは、そのうち簡単に超えるようになるはずです。今のAIでも、そろそろ性能が余っている部分が出てきています。そのうち、私たちの業務はローカルの環境でもできるようになるはずです。

所も、1か月前、2か月前、もっと言うと1年前、2年前には、ここまでなるとは誰も想像していなかった、と言います。個人が買える環境で、仕事に使えるAIが生まれるなんて、考えられなかった。指数関数ぐらいの勢いで伸びていく。来年どうなっているかは謎で、楽しみでもあり、怖さもあります。

1年前は、AIエージェント(自分で考えて、作業まで進めるAI)の元年でした。今はもう当たり前の世界です。来年の当たり前の候補として、私はローカルLLMと、その先のフィジカルAI(ロボットなど、体を持って動くAI)を挙げました。ロボットに作業させたいのは、海の中や、過酷な環境での救助のような場所です。電波が通じない所で動かしたいなら、ローカルLLMが必要になるはずです。所も、ローカルLLMが発達するほどフィジカルAIも発達する、ほぼ同じことだと考えています。

ローカルLLMでも、守りは自社の仕事になる

動画の中で私は、GLM-5.3のようなモデルが量子化で手元で動くようになって、「それをもとにハッキング活動が盛んになってきたんじゃないかとかね、言われたりする」と話しました。

この話について確かめられた一次資料は、Anthropicが2026年9月29日に公開した報告です。GLM-5.3が検証の環境の中で、攻撃に使えるプログラムを自分で組み立てられたこと、誤った使い方を断る仕組みが簡単な方法で外せたことを示したもので、実際の攻撃に使われた例は書かれていません。Anthropicは、国や国以外の攻撃者が、こうしたモデルを使って実害を出す可能性が高い、という見立てを述べています(GLM-5.3 and the spread of advanced cyber capabilities)。動画でも、補足で直しています。

会社がローカルLLMを使うときに大事なのは、ここから見える別の論点です。クラウドのAIは、提供している会社が、誤った使い方を断る仕組みを持っています。手元に落として動かすモデルは、その外で動きます。Anthropicの報告でも、公開されたモデルは、使う側が断る仕組みを外せると書かれています。だから、ローカルLLMを会社に置くなら、誰が、何に使ってよいか、どの記録を残すかは、自社で決めて守ることになります。

収録の終わりに、私は、大手の日本企業が狙われて、情報を抜かれているのが今で、「いやいや、怖いから」と言っていられる時代ではない、と話しました。すると所が「でも、怖いから全て『うちは紙です』って徹底している会社は、今のところ無敵ですからね」。確かにそうです。紙を持ったバッグをなくす、といったことがなければ、無敵です。

ローカルLLMも、これと同じ形だと思います。ネットを通らない代わりに、PCそのものと、使う人のルールを守ることになります。

この方法が向かない場合と、先に決めること

どんな会社にも同じように合うわけではありません。次のことは、始める前に確かめてください。動画では話していない補足も含みます。

  • 会社向けのクラウドのプランで足りる:入れた情報が学習に使われない会社向けのプランで、クラウドのAIを使うことを、取引先や社内の規程が認めているなら、まずそちらのほうが早くて安く始められます。考え方は社長が使うならChatGPT・Gemini・Claudeのどれ?と、社員がこっそりAIを使っていたらに書きました。ローカルLLMが要るのは、契約や規程で、社外のサーバーに出せない情報を使う仕事です。
  • 考える・計画する仕事が中心:企画を考える、計画を立てる、新しいものを生み出す仕事は、今はまだクラウドの最先端のAIが上です。
  • 大規模な開発:大きなシステムをローカルの環境で作って、メンテナンスしていくのは、まだ無理です。
  • 設定と保守をする人がいない:モデルを入れる、新しい版に入れ替える、止まったときに直す。買う前に、これを誰がやるかを決めてください。
  • 変わる情報をモデルに覚えさせたい:日々変わる数字や案件をモデルに入れると、すぐ古くなります。モデルに入れるのは、変わらないものだけにします。
  • 置き場所と、止まったとき:会社の情報が入ったPCを1台置くことになります。置き場所の鍵や持ち出しのルールと、PCが壊れたり止まったりしたときに、どの仕事をクラウドや手作業に戻すかを、先に決めておいてください。

持ち帰り:社外に出せない仕事を、3つ書き出す

最初の一歩は、社外に出せない情報を使う仕事を3つ書き出すことです。そのうち、仕訳・日報・議事録のような定型のものが、ローカルLLMの最初の候補です。

図解

  1. 書き出す

    社外に出せない情報を使う仕事を、3つ書き出す

  2. 選ぶ

    そのうち、毎回同じ形で進む定型の仕事を1つ選ぶ

  3. 試す

    今あるPCで、小さいモデルから動かしてみる。メモリ32GBでも、定型の仕事なら試せる

  4. 決める

    本気で使うなら、メモリ128GB以上の会社の1台を、社員1人の費用と比べて決める

ローカルLLMを試す順番

書き出した仕事は、次の3つの問いで見分けます。

問いYesならNoなら
その仕事の情報は、契約や規程で、社外のサーバーに出せないかローカルLLMの候補会社向けのクラウドのプランから始める
毎回同じ形で進む仕事か(仕訳・日報・議事録・メールの返信文)今のローカルLLMで試せる考える・計画する仕事は、まだクラウドの最先端のAI
変わらない情報(業務のやり方・書式)だけで回るか会社専用の調整も考えられる変わる情報は、毎回渡す

まとめ

ローカルLLMは、自分のパソコンの中だけで完結するAIです。データを外に出さずにAIを使いたい会社にとって、手が届くところまで来ました。中古なら20万円以内のゲーミングPCでも、Qwen 3.6で会計の仕訳まではできます。本気で使うなら、性能を決めるのはメモリの量で、CPUとGPUが同じメモリを使えるMacが向いています。メモリ256GBのMac Studioで200万円前後。社員1人を1年雇う費用と比べれば、会社として1台置き、みんなで使う価値はあります。ただし、今できるのは定型の仕事で、ネットを通らない代わりに、PCと使い方のルールは自社で守ることになります。新しい展開としてのローカルLLMは、これから結構熱いと思っています。

最初の一歩として、社外に出せない情報を使う仕事を3つ書き出し、そのうち定型のものを1つ選んでみてください。

※撮影日(2026年10月15日)時点の内容です。Mac Studioの価格は、2026年10月17日にAppleの公式ストアで構成を選んで確かめた価格で、変わることがあります。モデルの大きさとライセンス、消費電力は、2026年10月17日に各社の公開ページで確かめました。メモリの目安と電気代は、目安の計算です。

医療、建設、農業、営業、製造、飲食など、さまざまな仕事の人が並ぶAiWiLLのキービジュアル。AIを使いこなす会社は、イケてる。

伴走型AI顧問 WiLLAGENT

初月10万円で、AI顧問、使い放題。

月2回・隔週90分の定例枠で、AI社員の開発・改善、社員研修、導入設計・戦略、会社訪問を、御社の仕事に合わせて選べます。定例の間もチャットで相談できます。

初月10万円、翌月から月30万円。最低3か月・総額70万円(いずれも税別)。訪問の交通費、AIツール利用料は別途実費です。

AI顧問の内容と料金を見る