漫画さがす本棚作る
いま作成中|
AIで小説を書く

小説を書く生成AIをローカル(自分のPC)で動かす方法:必要な性能と5つの手順

読む時間 約9分オリジナルノベル編集部

メモリが16GBほどあるPCなら、無料の道具で小説を書く生成AIを自分のPCで動かせます。原稿が手元から出ず、回数も気にせず書き直せるのが良い所です。ただ、どこまで書けるかはPCの性能とモデルしだい。この記事では、自分のPCで動くかの見極めから、1章を書かせるまでを順に説明します。

本のキャラクターが、小さなパソコンの中に収まった原稿づくりの機械を操り、原稿の紙が外へ出ずに箱の中だけを回っている様子

この記事の結論

  • メモリ16GBほどのPCなら、無料の道具(LM Studio・Ollama など)で小説を書く生成AIをローカルで試せる
  • 最初に見るのはメモリとGPUの専用メモリ。モデルは小さい物から試し、日本語の自然さを読み比べる
  • 覚えていられる長さ(コンテキスト長)が短いので、設定資料と直前の要約を毎回渡し、1場面ずつ書かせる
  • 公開・販売するなら、モデルごとの利用条件(ライセンス)を使う版のページで確かめる

小説を書く生成AIをローカルで動かすとは

生成AIをローカルで動かすとは、文章を作るAI(大規模言語モデル、LLMとも呼ばれます)を自分のPCに入れて、PCの中だけで小説を書かせることです。ChatGPT や Claude のようにブラウザで使うAIは、打った文を会社のサーバーへ送って答えを返してもらいます。ローカルでは、その計算を自分のPCが受け持ちます。

結論から言うと、メモリが16GBほどあるPCなら、無料の道具で今日から試せます。ただし、どこまで書けるかはPCの性能と選ぶモデルで大きく変わります。この記事では、まず自分のPCで動くかを見極め、それから道具を入れて、1章を書かせるところまでを順に進みます。

ローカルを選ぶ人の理由は、だいたい次の3つです。

  • 書いた物が手元から出ない:まだ誰にも見せていない原稿や、人に言いにくい題材を、外のサーバーに送らずに書ける
  • 回数の上限を気にしなくてよい:何度書き直させても、サービスの利用回数には数えられない(電気代とPCの時間は使います)
  • ネットが無くても書ける:モデルを一度落としておけば、電波の届かない場所でも動かせる道具がある
電波の届かない山小屋の机で、本のキャラクターがノートパソコンに向かい、原稿を書き進めている様子
図1 モデルを先に落としておけば、ネットの無い場所でも書き進められる

そのかわり、手間も3つあります。PCにある程度の性能が要ること、道具とモデルを自分で入れること、そして日本語の上手さがモデルしだいで、思ったほど自然な文にならない場合があることです。クラウドのAIは、この3つを会社が肩代わりしてくれている、と考えると違いがつかみやすくなります。

まず、自分のPCで動くかを確かめる

いちばん先に見るのはメモリ(RAM)です。画面で操作できる道具の LM Studio は、公式の動作環境で Windows・Mac とも16GB以上を勧めています。Mac は Apple シリコン(公式の表記は M1〜M4)が対象で、Intel の Mac は今のところ対象外です。Windows では、画像の処理を受け持つ部品(GPU)の専用メモリ(VRAM)が4GB以上あることも勧めています(2026年11月15日に公式で確認)。

Windows なら「設定」→「システム」→「バージョン情報」で、メモリの量が分かります。GPU の専用メモリは、タスクマネージャーの「パフォーマンス」→「GPU」で見られます。

メモリは16GB以上? はい いいえ GPUの専用メモリは4GB以上? いちばん小さいモデルで試す 遅い・不自然ならクラウドへ はい いいえ 小さめから試し 中くらいの モデルへ広げる 小さいモデルで試し 文が出る速さを 確かめる
図2 自分のPCで動くかの見極め(数字は LM Studio の動作環境の勧め。目安です)

Mac はメモリを GPU と分け合う作りなので、GPU の問いは飛ばし、メモリの量だけで見てください。

モデルの「大きさ」も見ておきます。モデルの説明にある「4B」「12B」「31B」のような数字は、中身の部品(パラメータ)の数で、大きいほど文は上手になりやすいかわりに、メモリを多く使います。たとえば Google の Gemma の公式ページは、4ビットに縮めた版を読み込むのに要るメモリの目安を、次のように示しています。

モデルの大きさと、読み込みに要るメモリの目安(中の列は Google「Gemma」公式ページ。2026年11月15日に確認。右の列は、それをもとにした目安)
大きさ4ビットに縮めた版の目安手元のPCの見当
小さい(2B〜4Bほど)約3〜5GBメモリ16GBのノートPCでも試しやすい
中くらい(12Bほど)約7GB専用メモリの多いGPUか、メモリに余裕のあるMacで
大きい(26B〜31Bほど)約14〜18GB専用メモリの大きいGPUや、メモリの多いMacで

この数はモデルそのものを置くための分だけです。公式ページも、やり取りが長くなるほど、覚えておく分のメモリが別に増えると書いています。版や道具でも変わるので、入れる前にそのモデルのページで確かめてください。

道具は2種類:画面で使うアプリと、コマンドで使う道具

ローカルでモデルを動かす道具は、いくつもあります。はじめての人がよく使うのは、次の2つです。どちらもモデルは道具の中から落とせます。

ローカルで動かす代表的な2つの道具(2026年11月15日に各公式ページで確認)
LM StudioOllama
使い方アプリの画面で、モデルを選んで話しかけるアプリからも始められるが、コマンドで動かす使い方が中心
使えるPCWindows・Mac(Apple シリコン)・LinuxWindows・Mac・Linux
手元の外に出るかローカルのモデルを使う間は、やり取りも資料もPCの外へ送らないと案内ローカルで動かす間は、打った文やデータを運営は見ないと案内
ネットが無いときモデルを先に落としておけば、すべてオフラインで動くと案内モデルを落とすときはネットが要る
気をつけること有料のクラウドの機能もある。料金は公式で確かめてクラウドで動くモデルも選べる。手元だけで使うなら、ローカルのモデルを選ぶ

どちらにも、会社のサーバーで動かすクラウドの機能もあります。「手元から出さない」ことが目的なら、選んだモデルがローカルの物かどうかを、使う前に確かめるのが大事です。Ollama には、クラウドの機能を切って手元だけで使う設定も用意されています。

1章を書かせるまでの5つの手順

道具が決まったら、次の順で進めます。順番に意味があるのは、4と5です。ローカルのモデルは、はじめの設定のままだと長い文を覚えきれないことがあるので、長さを決めてから書かせます。

  1. 1公式のページから道具を入れる
  2. 2小さいモデルを1つ落として、動くか試す
  3. 3日本語で短い場面を書かせて、文の自然さを見る
  4. 4覚えていられる長さ(コンテキスト長)を決める
  5. 5設定資料を先に渡し、1場面ずつ書かせる
入れる見極める書く
図3 ローカルのAIで1章を書かせるまで

1と2は、まず小さいモデルで「動く」ことを確かめる段です。Ollama の公式のはじめ方でも、いちばん小さい版のモデルを例にしていて、それでも落とす量は7GBほどあります。上の表の「約3〜5GB」は4ビットに縮めた版を読み込む量なので、道具が落とす版とは数が違います。PCの空き容量を先に見ておきます。

3では、いきなり長い章を頼まず、「雨の駅で、二人が10年ぶりに会う場面を400字で」のような短い場面を書かせます。同じ頼みを2〜3のモデルに出して読み比べると、日本語の得意不得意がすぐ分かります。ここで不自然なら、大きめのモデルに替えるか、その作品はクラウドのAIで書くと決めてしまうほうが早く済みます。

4の「覚えていられる長さ」は、AIが一度に読める文の量です。Ollama の公式の説明では、GPU の専用メモリが24GiB(約26GB)未満なら、初めの設定は4k(約4,000トークン。トークンはAIが文を数える単位)になっています。長くするほどメモリを多く使うので、PCに合わせて少しずつ上げます。

5で、人物と決まり事をまとめた設定資料を最初に貼り、場面を1つずつ書かせます。理由は次の節で説明します。

ローカルのAIに渡すプロンプト例

ローカルのモデルで長い小説を書くとき、いちばん困るのは「前に決めたことを忘れる」ことです。覚えていられる長さが短いと、会話が長くなるにつれて、初めに渡した名前や設定が読める範囲の外へ押し出されてしまいます。

長さの見当をつけるために、オリジナルノベルで公開している作品の日本語の章を数えると、1章の字数は真ん中の値で3,806字、半分の章が3,215〜4,126字に収まっていました(2026年11月14日、227章)。読みごたえのある1章は、それだけで数千字あります。設定資料と前の章のあらすじに、新しい章まで加えると、初めの設定の長さでは足りなくなる場合があります。

そこで、毎回のプロンプトを「短い設定資料+直前の場面の要約+今回書く1場面」の3つに絞ります。〇〇の所を書きかえて使ってください。

あなたは日本語の小説家です。次の設定資料を守って、1つの場面だけを書いてください。

【設定資料】
・主人公:〇〇(年齢/口ぐせ「〇〇」/一人称は「〇〇」)
・相手:〇〇(主人公との関係)
・舞台:〇〇(時代・場所・季節)
・変えてはいけないこと:〇〇

【直前の場面の要約(3行まで)】
〇〇

【今回書く場面】
〇〇が〇〇する場面。約800字。
会話を多めに、最後は次が気になる一文で終える。
設定資料に無い名前や出来事は足さない。
図4 覚えていられる長さが短いモデル向けのプロンプトのテンプレート

書けた場面は、自分でテキストファイルに貼りつないでいきます。次の場面を頼むときは、全文ではなく要約を渡すのがこつです。章が書き終わったら、その章のあらすじを3行にまとめさせ、設定資料に「決まったこと」として足しておくと、後の章で食い違いが起きにくくなります。

書いた小説を公開する前に、モデルの利用条件を見る

ローカルで使うモデルは、無料で落とせても、使い方の条件(ライセンス)がモデルごとに違います。自分で楽しむだけなら気にすることは少なめですが、投稿サイトに載せたり、本にして売ったりするなら、そのモデルのページで次の3つを確かめておきます。

  • 商用で使ってよいか:広く使える一般的なライセンスの物もあれば、独自の条件を付けた物もある
  • 表示の決まりがあるか:モデルそのものや、それを組み込んだ物を配るときに、名前の表示や条件の写しを求める物がある
  • 禁止されている使い方:別に「利用の方針」を定め、守ることを条件にしている物がある

たとえば、Google の Gemma 4 は配布ページで Apache 2.0 という一般的なライセンスが示されています。Meta の Llama 3.1 は独自のライセンスで、利用の方針を守ることや、モデルを配るときに「Built with Llama」と表示することなどを求めています。また、Gemma 4 とは別に、それより前の版などに使われる Gemma の利用規約では、Google は Gemma で作った出力について権利を主張しないとしています。条件は版ごとに変わるので、使う版のページで確かめてください。AIで書いた文章の著作権や、投稿サイトごとのAIの決まりは、モデルの条件とは別にあります。

ローカルとブラウザのサイト、どう使い分けるか

ローカルの強みは、原稿を手元から出さずに、回数を気にせず何度でも書き直せることです。自分の文章の続きを少しずつ書かせたい人や、ネットの無い移動中に書きたい人には、ほかに代わりのない良さがあります。

一方で、設定資料の管理や、挿絵、ほかの言語への訳まで、全部を自分で組み合わせることになります。オリジナルノベルは、この部分を受け持つブラウザのサイトです。この記事のプロンプト例で手でやった「設定資料を毎回渡す」ことを、作品ごとに裏側で行い、各章は公開の前にAIが前の章との矛盾や名前のまちがいを点検します。

手元で自由に書き直したい原稿はローカルで、設定の管理まで任せて人に読んでもらう物語はサイトで、と分けて使うこともできます。原稿を外に出したくない作品が多いならローカルを、すぐに読める形にしたいならサイトを先に試すと、手間が少なく済みます。

このサイトで、AIが設定資料を見ながら書いた物語です。読まれている順に並べています。

出典(確かめた日)

  1. System RequirementsLM Studio / 英語 / 2026.11.18 に確認
  2. LM Studio Privacy PolicyLM Studio / 英語 / 2026.11.18 に確認
  3. QuickstartOllama / 英語 / 2026.11.18 に確認
  4. Local FAQOllama / 英語 / 2026.11.18 に確認
  5. Context lengthOllama / 英語 / 2026.11.18 に確認
  6. Gemma 4 model overviewGoogle AI for Developers / 英語 / 2026.11.18 に確認
  7. Gemma Terms of UseGoogle AI for Developers / 英語 / 2026.11.18 に確認
  8. Llama 3.1 Community License AgreementMeta / 英語 / 2026.11.18 に確認

よくある質問

ローカルで動かす生成AIは無料ですか?

LM Studio はローカルでモデルを動かす使い方を無料の範囲に含めていて、Ollama は MIT ライセンスで公開されています。多くのモデルも無料で落とせます。ただし、どちらの道具にも有料のクラウドの機能があり、料金や条件は変わることがあるので、公式のページで確かめてください。

GPUが無いノートPCでも小説を書かせられますか?

Ollama の公式の説明には、Linux で NVIDIA の GPU が見つからないときに CPU で動かすことや、CPU だけで動かす設定が書かれています。ただ、LM Studio は Windows で GPU の専用メモリ4GB以上を勧めていて、PCの性能によって文が出る速さが変わります。まずいちばん小さいモデルで短い場面を書かせ、速さと文の自然さを見てから決めるのが確実です。

スマホでもローカルの生成AIは動きますか?

スマホ向けに小さく作られたモデルもあり、Google の Gemma の公式ページには、スマホ向けの版で要るメモリの目安も載っています。ただ、長い小説を書くには、覚えていられる長さや速さの点でPCのほうが向いています。スマホで試すなら、短い場面の下書きから始めてください。

ローカルのAIで書いた小説は、ChatGPTなどと比べて質が落ちますか?

モデルの大きさと、日本語をどれだけ学んでいるかで大きく変わります。家庭用のPCで動かせる大きさのモデルは、クラウドの大きなモデルと比べて、文の自然さに差が出ることがあります。同じ頼みを両方に出して、自分の作品に合うほうを選ぶのがいちばん確かです。

NVIDIA 以外の GPU(AMD など)でも使えますか?

使える場合があります。Ollama の公式の説明では、NVIDIA の GPU(compute capability 5.0 以上)のほか、AMD の GPU は ROCm v7 か Vulkan、Mac は Apple の Metal で速く動かせるとしています。対応する機種やドライバーの版は細かく決まっているので、自分の GPU が一覧にあるかを公式のページで確かめてください。

#はじめての人向け#プロンプト

あわせて読みたい