【2026年版】Fateで理解するローカルLLMの選び方

はじめに

ローカルLLMの話をすると、「ローカルLLMって実際どうなの」「中国のモデルってどうなの」「それぞれ何が得意なの」と、毎回同じことを聞かれます。いちいち答えるのが面倒になってきたので、まとめて書いておくことにしました。この記事がその答えになります。

ただし、モデルは毎日のように増えていて、各社の方向性や研究の進み方しだいで特徴も変わっていきます。この記事に書くのは、2026年10月時点の傾向にすぎません。そのため、個々のモデルではなく、Qwen系列やGemma系列のような系列ごとに整理します。同じ系列のモデルは、世代が変わっても性格が似ていることが多いからです。

前編では、2026年10月時点のAI業界を、Fate作品の聖杯戦争に見立てて整理しました。AGIという聖杯を目指して、AIラボ（マスター）がモデル（サーヴァント）を競わせています。GPU（魔力）はNVIDIA（監督役）が全陣営に売っています。AIラボは、重みを明かさない米国の大手と、重みを公開することが多い中国の各社（東の陣営）に分かれています。

この記事では、その聖杯戦争に、陣営に属さない一般の魔術師として加わる方法を書きます。自分のPCでモデルを動かすローカルLLMは、Fateで言えば自前の召喚です。前編を読んでいなくても、次の対応表があれば読み進められます。

ローカルLLM（自前の召喚）

APIはモデルを借りること（他人のサーヴァント）

ChatGPTやClaudeをAPIやアプリで使うのは、他のマスターが契約しているサーヴァントに仕事を頼んでいる状態です。

強い。とにかく強い。兆単位のパラメータを持つ英霊が、アプリなら月額数千円、APIなら使った分の従量課金で働いてくれます。

ただし、令呪を持っているのは、モデルを提供するAIラボです。モデルが何に答えて何を断るか、仕様がいつ変わるか、利用者が渡した情報がどう扱われるか。決定権は提供元にあります。ある日サーヴァントの性格が変わっていても、利用者は受け入れるしかありません。

ローカルは自分のPCで動かすこと（自分の工房）

ローカルLLMは、自分の工房（PC）で、自分の魔力（GPU）を使って、自分でサーヴァントを呼びます。

呼べる英霊は、大手陣営の最上位と比べれば、まだ格が落ちます。ただ、その差は年々縮まっていて、ローカルで動くモデルはもう弱い存在ではありません。そして、令呪は自分の手にあります。

わざわざローカルでモデルを動かす理由（自前で召喚する理由）

性能の上限だけを比べれば、今もAPIのほうが上です。それでもローカルでモデルを動かす理由は4つあります。

• 情報を外に出せない：社外秘の文書、顧客の個人情報、契約で持ち出しを禁じられたデータ。これらを他人の工房に送ってよいかどうかは、技術の問題である前に統制の問題です。データが自分の工房（PC）から一歩も出ないなら、外部に送ってよいかという議論そのものが要りません。
• 挙動を固定できる：業務に組み込んだモデルが、提供側の更新で昨日と違う答えを返すようになることがあります。運用する側にとっては普通に事故です。手元の重みは、自分が差し替えるまで一文字も変わりません。
• 正当な仕事でも断られることがある：フロンティアモデルの安全対策によって、医療やセキュリティのような真っ当な仕事も断られることがあります。令呪が提供元のAIラボの手にある以上、利用者の命令が正当でも、サーヴァントは従わないことがあります。
• 単純に面白い：自分の機材で英霊が喋り出す瞬間は、何度やっても楽しいものです。

ローカルLLMの需要というと、成人向けの用途を思い浮かべる人も多いと思います。ただ、3つ目の理由で困っているのは、医療やセキュリティのような真っ当な仕事です。この記事を読むような人には記憶に新しいと思いますが、2026年7月、Hugging Faceは自律型のAIエージェントによる侵入を受けました。Hugging Faceは侵入の調査に商用のモデルを使おうとしましたが、提供側の安全対策に拒まれました。Hugging Faceの報告によれば、その安全対策は「インシデント対応者と攻撃者を区別できない」というものでした。そこでHugging Faceは、重みが公開されているGLM-5.2を自社の基盤で動かし、ログの解析を進めました。

huggingface.co Security incident disclosure — July 2026

ローカルLLM向けの完成品マシン（工房ごと売る店）

キャスターのクラススキルに「陣地作成」があります。自分に有利な魔術工房を作る能力です。ローカルLLMを続けていると、手元のゲーミングPCでは、VRAMやメモリが工房として足りなくなってきます。その需要に応えて、2025年から2026年にかけて、各社がローカルLLM向けの工房を既製品として売り出しました。

NVIDIAは2025年10月に、128GBの統合メモリを積んだ小型機DGX Sparkを発売しました。2,000億パラメータ程度のモデルまで手元で動かせる、とNVIDIAは説明しています。上位機として、748GBのメモリを持つDGX Stationも、PCメーカー経由で売られています。AMDのRyzen AI Max+ 395を積んだ小型PCやノートPCも、128GBの統合メモリを売りにしています。Appleは、最大512GBのメモリを積めるMac Studioを出しています。

統合メモリは、CPUとGPUが同じメモリを共有する仕組みです。メインメモリの大部分をモデルに回せるので、VRAM 8GBでは呼べない英霊も呼べるようになります。ただし、統合メモリの読み書きの速さ（帯域）は、GPU専用のVRAMより遅いことが多いです。英霊を呼べても、動きは遅くなりがちです。

工房の値段は上がっています。2026年はメモリの供給が逼迫していて、NVIDIAはDGX Sparkの希望小売価格を2026年2月に3,999ドルから4,699ドルへ上げました。2026年10月には、メモリを64GBに減らした版が、4,999ドルからOEM経由で発売されます。監督役は魔力に加えて工房まで売り始めましたが、工房の値札はメモリの相場で決まっています。

ローカルLLMを動かすのに必要なもの

召喚に必要なものは、触媒、魔力、召喚陣の3つです。後の章で書く魔術礼装（ハーネス）まで含めると、全体の流れは次のようになります。

flowchart LR
  hf[("Hugging Face<br>触媒の倉庫")]
  subgraph pc["自分のPC（工房）"]
    gguf["重みファイル（GGUF）<br>触媒"]
    runner["llama.cpp / Ollama<br>召喚陣"]
    gpu["GPUのVRAM<br>魔力"]
    api["OpenAI互換のAPI"]
    harness["ハーネス<br>魔術礼装"]
  end
  you["自分<br>マスター"]
  hf -->|"量子化済みのファイルをダウンロード"| gguf
  gguf -->|"読み込む"| runner
  runner -->|"モデルの層を載せる"| gpu
  runner -->|"起動すると立ち上がる"| api
  harness -->|"モデルを呼び出す"| api
  you -->|"作業を頼む"| harness

重みファイル（触媒）

英霊を呼ぶには、その英霊にゆかりのある聖遺物が要ります。何を触媒にするかで、誰が来るかが決まります。

ローカルLLMでこれにあたるのが、モデルの重みファイルです。英霊の座（学習データ）から呼ばれた英霊の姿を、持ち運べる形に固めたものと考えてください。llama.cppで使うのはGGUFという形式で、Hugging Faceに大量に置いてあります。公式が出していることもあれば、有志が変換して上げてくれていることもあります。

ファイル名にはたいてい、モデル名、パラメータ数、量子化の種類が入っています。○○-9B-Q4_K_M.gguf のような形です。この読み方が分かれば、触媒選びの半分は終わっています。

手元に入れる前にクラウドで試す（サポート枠）

『Fate/Grand Order』には、ほかのマスターのサーヴァントをサポート枠で借りて、クエストに連れて行ける仕組みがあります。自分で召喚する前に、そのサーヴァントの使い勝手を確かめられます。

重みが公開されたモデルにも、同じ使い方ができます。CloudflareのWorkers AI、GoogleのAI Studio（Gemma 4の31Bと26B）、Hugging FaceのInference Providersのように、公開モデルをクラウドで動かして試せるサービスがあります。重みを数GBダウンロードする前に、日本語の受け答え、指示への従い方、口調の癖を確かめておけます。私も10月に、Cloudflareが重みを公開した判定モデルClefを、Workers AIから呼び出して試しました。

akari-iku.github.io Cloudflare の判定モデル Clef を Workers AI で触ってみた | akari.log

新しいモデルの重みが公開されると、推論サービスや推論エンジンが、公開と同じ日に対応を出すことも増えました。英語では「Day-0 support」（公開初日の対応）と呼ばれます。たとえば推論エンジンのvLLMは、2026年7月27日にKimi K3の重みが公開された日に、Day-0対応を発表しました。複数の推論サービスのモデルをまとめて使えるOpenRouterにも、新しい公開モデルが早い段階で並びます。

サポート枠で癖をつかみ、手元に呼ぶ英霊を決めてから工房に籠ればいいんです。ただし、クラウドで動いている版と手元で使う量子化版は、精度が違うことが多いです。手元で量子化（モデルの数値の精度を落として小さくすること）した版を使うと、受け答えが少し変わることがあります。

VRAM（魔力量）

マスターの魔力量で、呼べる英霊の格が決まります。ローカルLLMではVRAMがこれにあたります。

私の環境はRTX 5060で、VRAMは8GB（8151 MiB）です。魔術師としては、正直なところ並以下です。それでも呼べる英霊はちゃんといます。

必要なVRAMは、ざっくり次の足し算で見積もれます。

• 重みファイルのサイズ：ほぼそのままVRAMに載る
• コンテキストの分：会話を長く覚えさせるほど増える
• 余白：OSやブラウザも同じVRAMを使っている

8GBなら、重みファイルは5〜6GBまでが現実的な上限になります。ファイルが8GBぴったりのモデルは、8GBのカードでは全層をGPUに載せられません。ファイルサイズだけを見てVRAMに収まると考えるのは、初心者が最初に踏む罠です。

もう1つの罠は、配布元の「8GBで動く」という表記です。8月にQwen3.8-27Bを試したとき、Unslothの要件表にある数値は、VRAM単独ではなく、メインメモリとVRAMの合計でした。この数値を、VRAM 8GBのカード1枚で動くかどうかの答えとして読むと、判断を誤ります。

akari-iku.github.io VRAM 8GBで27Bを1bitまで潰したら、8Bの4bitに完敗した | akari.log

魔力が足りないマスターにも、補う手段はあります。遠坂凛は宝石に魔力を溜めておき、戦いの場で使います。ローカルLLMでも、メインメモリを増設して載らない層をCPU側に回したり、GPUを足してVRAMを増やしたりできます。それでも足りなければ、工房ごと買い替えることになります。

量子化（魔力不足での現界）

格の高い英霊を、少ない魔力で無理やり現界させる方法があります。霊基を削って、ステータスを落とすのです。

量子化は、重みの数値の精度を落としてファイルを小さくする技術です。本来16ビットで持っている数値を、4ビットや8ビットに丸めます。ビット数が霊基の大きさで、ビットを減らすほど霊基を削ったことになります。当然、賢さは少し落ちます。筋力AのサーヴァントがBやCで現界するイメージに近いです。

大事な経験則が1つあります。小さいモデルを高精度で動かすより、大きいモデルをQ4で動かすほうがたいてい賢い。 格の高い英霊は、多少ランクダウンしても地力が違います。ただしQ3以下まで落とすと話が変わってくるので、Q4_K_Mを1つの底と考えておくといいでしょう。

目安として、Q4_K_Mのファイルサイズは「パラメータ数（10億単位）× 0.6GB」くらいになります。8Bなら約5GB、12Bなら約7GB。VRAM 8GBで快適に呼べるのは、だいたい9B前後までということになります。

llama.cpp（召喚陣）

最後に召喚陣。ローカルLLMの実行環境です。

OllamaやLM Studioは、召喚陣があらかじめ描いてあるキットです。手軽で、最初の一体を呼ぶには向いています。VRAMに全層が収まるモデルを使う限り、私もOllamaのままで困ったことはありません。最初はOllamaで始めて、VRAMに載りきらないモデルを動かしたくなったときや、もっと細かく調整したくなったときに、llama.cppに移るのがおすすめです。

llama.cppは、陣を自分で描く道具です。そのぶん、モデルのどの部分をGPUに置いてどの部分をCPUに回すかを細かく決められます。VRAMに載りきらないモデルを動かすとき、この配分の差は速度に出ます。8月の検証では、同じモデルを同じVRAM使用量で動かして、Ollamaの6.30 tok/sがllama.cppでは9.35 tok/sになりました。

基本の詠唱はこれだけです。

llama-server -hf <ユーザー名>/<リポジトリ名>:Q4_K_M -ngl 99 -c 8192

• -hf：Hugging Faceから触媒を取ってくる。初回だけダウンロードが走る
• -ngl：モデルの層のうち何層をGPUに載せるか。99か all と書けば「全部」の意味になる
• -c：コンテキスト長。大きくするほどVRAMの使用量が増える

起動すると、ブラウザから開けるチャット画面と、OpenAI互換のAPIが立ち上がります。

最近のllama.cppは、-ngl を指定しなければ、VRAMに収まるように載せる層の数を自動で決めます（--fit という機能で、既定で有効です）。手動で決めたいときは、-ngl の数字を減らします。載らなかった層はCPUとメインメモリで動きます。Fateで言えば、足りない魔力をマスター自身の生命力で補っている状態で、動くには動きますが目に見えて遅くなります。全層がGPUに載る構成を探すのが、8GB勢の基本戦術になります。

ハーネス（魔術礼装）

ハーネスでモデルにできることが増える（礼装の効果）

『Fate/Grand Order』のマスターは、魔術礼装を身につけて戦います。礼装を着替えると、マスタースキル（マスターが使えるスキル）が変わり、サーヴァントの回復や強化のしかたも変わります。

ローカルLLMでこれにあたるのが、ハーネスです。ハーネスは、モデルの外側で動くプログラムで、モデルにシェルやファイル編集やWeb検索などの道具を渡します。モデルが道具を使うと指示したら、ハーネスがそれを実行して、結果をモデルに返します。この往復を繰り返すことで、モデルは答えを返すだけでなく、自分で作業を進められるようになります。Claude CodeやCodex CLI、OpenCodeは、どれもハーネスの一種です。llama-serverはOpenAI互換のAPIを立ち上げるので、接続先を変えられるハーネスなら、ローカルで呼んだサーヴァントにも礼装を着せられます。

sequenceDiagram
  participant U as 利用者（マスター）
  participant H as ハーネス（礼装）
  participant M as モデル（サーヴァント）
  participant T as 道具（シェル、ファイル、Web検索）
  U->>H: 作業を頼む
  H->>M: 指示と、使える道具の一覧を渡す
  loop 作業が終わるまで
    M->>H: 道具を使うよう指示する
    H->>T: 道具を実行する
    T-->>H: 実行の結果
    H->>M: 結果を返す
  end
  M->>H: 最終的な答え
  H->>U: 作業の結果を返す

DeepSeek Harness（東の陣営が配る礼装）

DeepSeekは2026年8月13日に、ハーネスの「DeepSeek Harness」（コマンド名は dsh）をMITライセンスで公開しました。モデル、道具、サンドボックス、作業のループまでを、すべてプラグインとして差し替えられる作りになっています。公式ドキュメントによれば、接続先は外部のAPIにも、OpenAI互換のAPIを持つ自前のサーバーにも切り替えられます。東の陣営は、英霊の重みだけでなく、英霊に着せる礼装まで配り始めたことになります。ただし、まだ開発者向けのプレビュー版で、READMEには「互換性を壊す変更が入る」と大文字で書かれています。

ハーネスはモデルに合わせて選ぶ（礼装選び）

良い礼装が無償で手に入るからといって、どのサーヴァントにも同じ礼装を着せればいいわけではありません。モデルによって、学習のときに慣れた道具の呼び出し方や、得意な作業や、推論の長さが違います。ハーネスを選ぶときも、まず呼んだサーヴァントの特徴を知り、その特徴に合う礼装を選びたいところです。

モデルの「得意なこと」として語られるのは、たいてい、ハーネスを使わずにモデル単体で測った素の性能の話です。実際に使ったときの手応えは、次の3つで大きく変わります。

• 応答の好み：短く的確に答えるか、説明を多めに足すか、思考の過程を見せるか
• コーディングの指示の出し方：プロンプトの書き方、テストを先に書かせるかどうか、変更を差分で出させるかどうか
• ハーネスの設計：エージェントのループ、道具の呼び出し方、記憶の持たせ方、失敗したときのやり直し方

特にエージェントやコーディングの用途では、モデル単体の差より、ハーネスの設計の差のほうが結果に出やすいです。私の印象では、中国系のモデル（Qwen、DeepSeek、GLM、Kimi）は、素のまま使うより、うまくハーネスに載せたときの伸びしろが大きいです。西側のモデル（Gemma、gpt-oss、Granite、Muse）やMistralは比較的素直に動きますが、これらのモデルもハーネスしだいで手応えが上がります。モデルを選ぶときの決め手は、「このモデルが何を得意とするか」より、「自分のハーネスと相性がいいか」になることが多いです。

書かせたモデルに採点させない（マスターの仕事）

モデルの特徴を知っておくべき理由は、もう1つあります。LLMは、自分が書いたものを甘く評価しがちです。

Panickssery、Bowman、Fengの2024年の研究では、LLMは自分が書いた文章を見分けられ、見分けられるモデルほど自分の文章を高く採点しました。2026年3月のKhullarらの研究は、コーディングエージェントで同じ傾向を確かめています。PRを承認するかどうかを判断させるとき、同じ会話の中で自分が行った作業として評価させると、モデルは問題のある変更を見逃しやすくなりました。

コーディングエージェントにコードを書かせたら、レビューは別のモデルに任せます。同じモデルを使うなら、少なくとも別のセッションにします。テストのような、モデルの判断に頼らない確認も組み合わせます。自分のサーヴァントの報告だけを信じず、別の目を入れるのは、マスターの仕事です。

動かすモデルの選び方（英霊の選び方）

どのモデルを呼ぶかは、メモリ、ライセンス、用途、ハーネスとの相性、量子化版の有無の順に見ていくと決めやすくなります。

メモリで上限を決める（魔力量）

最初に見るのは、自分のメモリで動かせる大きさです。VRAMの節の目安（Q4_K_Mで、パラメータ数（10億単位）×0.6GB）を使えば、全層がVRAMに載る大きさがわかります。全層が載らなくても、一部の層をメインメモリに置けば動きますが、そのぶん遅くなります。

MoEのモデルは、見積もり方が少し違います。たとえばQwen3.8-Flash-Nextは、総パラメータが125Bあり、Q4の量子化版（UnslothのUD-Q4_K_XL）でも約111GBあります。ただし、1トークンごとに動くのは6Bだけです。専門家の部分をメインメモリに置き、llama.cppの --n-cpu-moe のようなオプションでCPU側に回せば、VRAMが少なくても動かせる可能性があります。そのかわり、メインメモリを大量に積む必要があります。VRAMの節に書いた、遠坂凛が宝石に溜めた魔力で補う戦い方に近い召喚です。

動かすための道具も増えています。たとえば2026年9月に公開されたStrataは、Qwen3.8-Flash-Nextを、VRAMが12GB以上のGPUと32GB以上のメインメモリで動かすための推論エンジンです。特定のモデルに合わせて作り込んだ道具が出てくると、呼べる英霊の幅が少しずつ広がります。

自分の機材で何が動くかは、ツールでも調べられます。GitHubには、PCのGPUとメモリを調べて、動かせるモデルを提案するOSSがあります。llmfitは、量子化の種類ごとに必要なメモリと速度の目安を出し、MoEのモデルにも対応しています。whichllmは、最近のベンチマークの結果をもとに、動かせるモデルを順位づけします。どちらも見積もりなので、最後は自分で動かして確かめます。

系列とライセンスを見る（真名）

次に、利用の用途に合わせてライセンスを見ます。個人で試すのか、業務に組み込むのか、サービスとして提供するのかで、確かめるべき条件が変わります。同じ系列でも、モデルの大きさによってライセンスが違うことがあります。2026年10月時点の主な系列は次のとおりです。

独自ライセンスの多くは、モデルをAPIなどで第三者に提供する事業者や、利用者や売上の多い製品に条件を付けています。Qwen3.8-Flash-Nextのように、規模に関係なく、APIでの提供やAIアシスタント製品への組み込みに別のライセンスを求めるものもあります。個人で手元で動かすぶんには困らないことが多いですが、使う前にHugging Faceのモデルカードとライセンスファイルで確かめてください。

用途で決める（英霊の性格）

系列ごとの傾向は次のとおりです。2026年10月時点の私の見立てで、各社の方向性や研究しだいで変わります。

ハーネスとの相性を見る（礼装）

ハーネスの章で書いたとおり、上に挙げた得意なことは、素の性能の話です。実際の手応えは、応答の傾向、指示の出し方、ハーネスの設計で大きく変わります。候補を2つか3つに絞れたら、自分のハーネスに載せて同じ作業をさせ、結果を比べるのが最も確かな選び方です。

量子化版がそろっているか（霊基の準備）

公開されたばかりのモデルは、手元ですぐに動かせるとは限りません。推論サービスや推論エンジンの公開初日（Day-0）の対応は、「動かせる」という意味です。手元で使える量子化版（GGUF）がそろうのは、たいてい少し後になります。llama.cppで動かすなら、UnslothのようなGGUFを配っている作者のリポジトリに、目当ての量子化版が並んでからが試しどきです。

VRAM 8GBで動く実例（呼べる英霊）

私のVRAM 8GBの環境で呼べる英霊の候補を並べます。クラスは私の独断でつけました。VRAMの目安は第三者のまとめサイトの値です。

実測での失敗例（召喚事故）

Fate作品では、召喚がいつも狙いどおりに成功するとは限りません。『Fate/stay night』の遠坂凛は、セイバーを呼ぶつもりでアーチャーを呼びました。しかもこの召喚で、凛はうっかりを2つ重ねています。

1つ目は時刻です。遠坂邸の時計はすべて1時間進められていて、凛は魔力が最も高まる午前2時に召喚したつもりで、実際には午前1時に儀式を行っていました。2つ目は立ち位置です。マスターは召喚陣の外で詠唱するものなのに、凛は陣の上に立っていました。英霊は、現世の存在がすでにいる場所には現れることができません。そのため、アーチャーは召喚陣ではない別の場所に現れました。

アサシンのBonsai 27Bはまだ試していませんが、27Bを極端に小さく量子化するという同じ発想のモデルは、8月に試しています。UnslothがQwen3.8-27Bの霊基を1ビット級まで削ったUD-IQ1_S（6.19GB）です。重要な層は高いビット数のまま残す方式なので、ファイルサイズから計算した平均は約1.8ビットです。この召喚は事故に終わりました。同じ8GBのVRAMで呼んだ8Bの4ビット量子化版（qwen3:8b）に完敗したのです。

1ビット級の27Bは全層がVRAMに載り、速度もそれなりに出ました。それでも、700トークンの上限までに、うるう年の判定を書き終えられませんでした。考える過程が長すぎた可能性もありますが、同じ条件で動かした8Bには及びませんでした。霊基を削りすぎると、気配と一緒に実力まで消えるようです。

日本語の回答が無限ループする事故も起きました。モデルが、夏にも秋にも桜が咲く文章を延々と書き続けたのです。ただしこの事故の原因は霊基を削ったことではなく、presence_penalty（同じ語の繰り返しを抑えるパラメータ）を指定し忘れたことでした。Unslothの推奨値である1.5を指定したら、ループは止まりました。召喚事故のすべてが霊基のせいとは限りません。凛が召喚陣の上に立っていたのと同じで、呼ぶ側の手順を誤っていることもあります。

akari-iku.github.io VRAM 8GBで27Bを1bitまで潰したら、8Bの4bitに完敗した | akari.log

Bonsai 27Bがこの結果を覆せるかどうかは、自分の手で試すまで判断しないほうがいいでしょう。

8GBでは動かないモデル（呼べない英霊）

東の陣営の最上位モデルたちは、8GBではどうやっても呼べません。Qwen3.8の小型版である27Bですら、Q4で16GB前後が要ります。霊基を1ビット級まで削れば8GBに載りますが、その状態の27Bは8Bの4ビット量子化版に勝てませんでした。西側の英霊も同じで、Metaが8月に重みを公開したMuse Glimmerは30Bあり、Q4で18GB前後が要ります。

ただし、手元で呼べない英霊とも、手合わせはできます。クラウドで試す節で書いたように、公開モデルをクラウドで動かせるサービスは各社から出ています。手元に収まらない最上位モデルはクラウドで呼び、手元では自分の魔力量で呼べるモデルを動かせば十分です。自分の環境で動かせるところで、どんどん動かして遊んでみてください。

手元で呼べるモデルも、年々良くなっています。同じ9Bクラスでも、賢さは世代ごとに目に見えて上がっています。待っていれば、英霊のほうが私たちの魔力量に合わせて小さくなってくれます。この業界のいちばん良いところだと思います。

おわりに

聖杯戦争の見立ては、ローカルLLMの話まで破綻しませんでした。ただ、1つだけ現実がFateと違うところがあります。

『Fate/stay night』の聖杯戦争は、選ばれた七人のマスターだけの儀式です。一般人は巻き込まれることはあっても、参加はできません。

現実は違います。触媒は公開されていて、召喚陣の描き方も公開されていて、8GBの魔力しかない私でも英霊を呼べます。聖杯そのものには手が届かなくても、サーヴァントと契約して、自分の令呪で動かすところまでは誰にでも開かれています。

これは当たり前のことではありません。東の陣営の多くが最上位モデルの重みを公開し続けていること、有志が量子化して配ってくれていること、llama.cppのような召喚陣が無償で整備されていること。そのどれかが止まれば、聖杯戦争は観戦するだけのものに戻ります。触媒の倉庫も、持ち主が変わろうとしています。NVIDIAは2026年9月にHugging Faceの買収で合意し、各国の審査を経て、2027年前半に買収を完了する予定です。NVIDIAは、誰でもモデルやデータセットをアップロード・ダウンロードできる今の運用を続け、ほかのチップメーカーにも対応し続けると約束しています。この約束が買収の後も守られるかどうかは、野良の魔術師こそ見ておいたほうがいいと思います。

性能の上限だけを比べれば、借りたサーヴァントのほうが今はまだ強いです。それでも、モデルに何をさせて何を断らせるか、どの情報を外に出すかを決められるのは、令呪を持っているマスターだけです。強さだけでサーヴァントを選ぶ前に、令呪が誰の手にあるかを確かめてください。

問おう。あなたが、そのモデルのマスターか。

参考文献

• NVIDIA Confirms $12.9B Hugging Face Acquisition（HPCwire）
• Zhipu AI releases GLM-5.2（DataNorth）
• Security incident disclosure（Hugging Face、2026年7月）
• Alibaba releases Qwen3.8-27B（DataNorth）
• Nvidia DGX（Wikipedia）
• 2/23/2026 Price Change Announcement（NVIDIA Developer Forums）
• DGX Spark 64GB（NVIDIA Blog）
• DeepSeek Harness: Configure models（公式ドキュメント）
• Best Local LLMs for 4GB, 6GB, and 8GB VRAM in 2026（Mayhemcode）
• Best LLM for 8 GB of VRAM in 2026（bestllmfor）
• Qwen3.8の発表とBonsai 27B（GIGAZINE）
• Kimi K3 Is Here: Efficient Day-0 Support on vLLM（vLLM）
• NVIDIA Form 8-K（2026年9月2日、Hugging Faceの買収契約）
• Qwen3.8-Flash-Next（Hugging Face）
• Strata（GitHub）
• llmfit（GitHub）
• whichllm（GitHub）
• deepseek-ai/deepseek-harness（GitHub）
• The Open-Sourcing of DeepSeek Harness（InfoQ）
• LLM Evaluators Recognize and Favor Their Own Generations（arXiv）
• Self-Attribution Bias: When AI Monitors Go Easy on Themselves（arXiv）
• VRAM 8GBで27Bを1bitまで潰したら、8Bの4bitに完敗した（自サイト）