ComicsEntdeckenMein RegalErstellen
Gerade in Arbeit|
Schreiben mit KI

KI lokal betreiben und damit Romane verfassen: nötige Hardware und 5 Schritte

11 Min. LesezeitRedaktion von Original Novel

Mit einem PC mit etwa 16 GB RAM können Sie eine KI zum Romanschreiben kostenlos lokal betreiben. Das Manuskript verlässt Ihren Rechner nicht, und Sie können beliebig oft neu schreiben lassen. Wie gut die KI schreibt, hängt aber von der Leistung des PCs und vom Modell ab. Dieser Artikel führt Sie Schritt für Schritt von der Frage, ob Ihr PC reicht, bis zum ersten geschriebenen Kapitel.

Eine Figur aus einem Buch bedient eine kleine Manuskriptmaschine im Inneren eines Computers; die Manuskriptseiten kreisen nur innerhalb des Gehäuses und gelangen nicht nach draußen

Das Wichtigste

  • Mit etwa 16 GB RAM lässt sich eine KI zum Romanschreiben mit kostenlosen Tools (LM Studio, Ollama usw.) lokal ausprobieren
  • Zuerst RAM und den dedizierten Grafikspeicher (VRAM) prüfen. Mit kleinen Modellen anfangen und vergleichen, wie natürlich das Deutsch klingt
  • Die Textmenge, die sich das Modell merken kann (Kontextlänge), ist kurz: jedes Mal Figurenblatt und Zusammenfassung der letzten Szene mitgeben und eine Szene nach der anderen schreiben lassen
  • Wer veröffentlichen oder verkaufen will, prüft die Nutzungsbedingungen (Lizenz) jedes Modells auf der Seite der verwendeten Version

Was heißt es, eine KI zum Romanschreiben lokal zu betreiben?

Eine KI lokal zu betreiben bedeutet, die textgenerierende KI (ein großes Sprachmodell, kurz LLM) auf dem eigenen PC zu installieren und den Roman komplett auf diesem Rechner schreiben zu lassen. KIs im Browser wie ChatGPT oder Claude schicken Ihre Eingaben an die Server des Anbieters und bekommen von dort die Antwort zurück. Lokal übernimmt Ihr eigener PC diese Berechnung.

Kurz gesagt: Mit einem PC mit etwa 16 GB RAM können Sie es noch heute mit kostenlosen Tools ausprobieren. Wie gut die KI schreibt, hängt allerdings stark von der Leistung des PCs und vom gewählten Modell ab. In diesem Artikel prüfen wir zuerst, ob Ihr PC reicht, installieren dann die Tools und lassen schließlich ein erstes Kapitel schreiben.

Wer sich für die lokale Variante entscheidet, hat meist einen dieser drei Gründe:

  • Der Text verlässt den Rechner nicht: Ein Manuskript, das noch niemand gelesen hat, oder ein heikles Thema lässt sich schreiben, ohne es an einen fremden Server zu schicken
  • Keine Nutzungsgrenzen im Blick behalten: Egal wie oft Sie neu schreiben lassen, kein Dienst zählt mit (Strom und Rechenzeit des PCs kostet es trotzdem)
  • Schreiben ohne Internet: Manche Tools laufen auch ganz ohne Netz, sobald das Modell einmal heruntergeladen ist
In einer Berghütte ohne Empfang sitzt eine Figur aus einem Buch am Laptop und schreibt an ihrem Manuskript weiter
Abb. 1 – Wer das Modell vorher herunterlädt, kann auch ohne Internet weiterschreiben

Dafür gibt es auch drei Hürden: Der PC braucht eine gewisse Leistung, Tool und Modell müssen Sie selbst installieren, und wie gut das Deutsch wird, hängt vom Modell ab – der Text klingt also nicht immer so natürlich wie erhofft. Den Unterschied versteht man leicht, wenn man sich vorstellt, dass Cloud-KIs Ihnen genau diese drei Hürden abnehmen.

Zuerst prüfen: Kann Ihr PC eine KI lokal betreiben?

Als Erstes zählt der Arbeitsspeicher (RAM). LM Studio, ein Tool mit grafischer Oberfläche, empfiehlt in seinen offiziellen Systemanforderungen sowohl für Windows als auch für Mac mindestens 16 GB. Beim Mac werden Geräte mit Apple Silicon unterstützt (offiziell M1 bis M4); Intel-Macs werden derzeit nicht unterstützt. Unter Windows empfiehlt es außerdem mindestens 4 GB dedizierten Speicher (VRAM) auf der Grafikkarte (GPU) (am 15. November 2026 auf der offiziellen Seite geprüft).

Unter Windows sehen Sie die RAM-Größe unter „Einstellungen“ → „System“ → „Info“. Den dedizierten Speicher der GPU finden Sie im Task-Manager unter „Leistung“ → „GPU“.

Mindestens 16 GB RAM? Ja Nein GPU-VRAM mindestens 4 GB? Kleinstes Modell testen Langsam/holprig: Cloud-KI Ja Nein Klein anfangen, dann auf mittlere Modelle erweitern Kleines Modell testen und das Schreib- tempo prüfen
Abb. 2 – Reicht Ihr PC? (Die Zahlen sind die Empfehlungen aus den Systemanforderungen von LM Studio. Nur als Richtwert.)

Beim Mac teilt sich die GPU den Arbeitsspeicher mit der CPU. Überspringen Sie dort die GPU-Frage und achten Sie nur auf die Speichergröße.

Werfen Sie auch einen Blick auf die „Größe“ des Modells. Zahlen wie „4B“, „12B“ oder „31B“ in der Modellbeschreibung geben die Anzahl seiner inneren Bausteine (Parameter) an: Je größer, desto besser schreibt es meist, desto mehr Speicher braucht es aber auch. Die offizielle Gemma-Seite von Google nennt zum Beispiel folgenden Speicherbedarf, um die auf 4 Bit komprimierten Versionen zu laden.

Modellgröße und Speicherbedarf zum Laden (mittlere Spalte: offizielle Seite „Gemma“ von Google, geprüft am 15. November 2026; rechte Spalte: daraus abgeleitete Einschätzung)
GrößeAuf 4 Bit komprimierte VersionFür welchen PC?
Klein (etwa 2B bis 4B)Etwa 3 bis 5 GBAuch auf einem Laptop mit 16 GB RAM gut zu testen
Mittel (etwa 12B)Etwa 7 GBMit einer GPU mit viel dediziertem Speicher oder einem Mac mit Speicherreserve
Groß (etwa 26B bis 31B)Etwa 14 bis 18 GBMit einer GPU mit großem dediziertem Speicher oder einem Mac mit viel Speicher

Diese Werte gelten nur für das Modell selbst. Die offizielle Seite schreibt auch, dass bei längeren Gesprächen zusätzlich Speicher für den bisherigen Textverlauf hinzukommt. Da das je nach Version und Tool schwankt, prüfen Sie es vor der Installation auf der Seite des Modells.

Zwei Arten von Tools: App mit Oberfläche oder Kommandozeile

Es gibt viele Tools, um Modelle lokal laufen zu lassen. Einsteiger nutzen vor allem die folgenden zwei. Bei beiden lassen sich die Modelle direkt im Tool herunterladen.

Zwei verbreitete Tools für lokale KI (am 15. November 2026 auf den offiziellen Seiten geprüft)
LM StudioOllama
BedienungIn der App ein Modell auswählen und ihm schreibenStart auch per App möglich, im Mittelpunkt steht aber die Bedienung per Kommandozeile
SystemeWindows, Mac (Apple Silicon), LinuxWindows, Mac, Linux
Verlassen Daten den PC?Laut Anbieter werden bei lokalen Modellen weder Unterhaltungen noch Dokumente nach außen gesendetLaut Anbieter sieht der Betreiber bei lokaler Nutzung weder Eingaben noch Daten
Ohne InternetLaut Anbieter läuft alles offline, wenn das Modell vorher heruntergeladen wurdeZum Herunterladen des Modells ist Internet nötig
Worauf achtenEs gibt auch kostenpflichtige Cloud-Funktionen; Preise auf der offiziellen Seite prüfenMan kann auch Modelle wählen, die in der Cloud laufen; wer nur lokal arbeiten will, wählt ein lokales Modell

Beide bieten auch Cloud-Funktionen, die auf den Servern des Anbieters laufen. Wenn Ihr Ziel ist, dass nichts den Rechner verlässt, sollten Sie vor der Nutzung unbedingt prüfen, ob das gewählte Modell wirklich lokal ist. Ollama bietet außerdem eine Einstellung, mit der sich die Cloud-Funktionen abschalten lassen, um rein lokal zu arbeiten.

5 Schritte bis zum ersten Kapitel

Wenn das Tool feststeht, gehen Sie in dieser Reihenfolge vor. Auf die Reihenfolge kommt es bei den Schritten 4 und 5 an: Mit den Standardeinstellungen kann sich ein lokales Modell lange Texte unter Umständen nicht merken. Legen Sie daher zuerst die Länge fest und lassen Sie dann schreiben.

  1. 1Tool von der offiziellen Seite installieren
  2. 2Ein kleines Modell herunterladen und testen, ob es läuft
  3. 3Eine kurze Szene auf Deutsch schreiben lassen und prüfen, wie natürlich sie klingt
  4. 4Festlegen, wie viel Text sich das Modell merken kann (Kontextlänge)
  5. 5Zuerst das Figurenblatt mitgeben, dann eine Szene nach der anderen schreiben lassen
InstallierenPrüfenSchreiben
Abb. 3 – Bis die lokale KI das erste Kapitel geschrieben hat

Schritt 1 und 2 dienen dazu, mit einem kleinen Modell zu prüfen, ob „es läuft“. Auch die offizielle Schnellstartanleitung von Ollama nimmt die kleinste Version eines Modells als Beispiel, und selbst diese ist rund 7 GB groß. Die „etwa 3 bis 5 GB“ aus der Tabelle oben beziehen sich auf das Laden einer auf 4 Bit komprimierten Version – das ist nicht dasselbe wie die Version, die das Tool herunterlädt. Prüfen Sie vorher den freien Speicherplatz auf Ihrem PC.

In Schritt 3 verlangen Sie nicht gleich ein langes Kapitel, sondern eine kurze Szene, etwa: „Auf einem verregneten Bahnsteig treffen sich zwei Menschen nach zehn Jahren wieder, in etwa 200 Wörtern“. Wenn Sie dieselbe Anweisung zwei oder drei Modellen geben und vergleichen, sehen Sie schnell, welche gut Deutsch können. Klingt der Text holprig, geht es schneller, auf ein größeres Modell umzusteigen oder dieses Werk gleich mit einer Cloud-KI zu schreiben.

In Schritt 4 ist mit der „Textmenge, die sich das Modell merken kann“ gemeint, wie viel Text die KI auf einmal lesen kann. Laut der offiziellen Dokumentation von Ollama liegt die Standardeinstellung bei 4k (etwa 4.000 Tokens; ein Token ist die Einheit, in der die KI Text zählt), wenn der dedizierte GPU-Speicher unter 24 GiB (etwa 26 GB) liegt. Je länger, desto mehr Speicher wird gebraucht. Erhöhen Sie den Wert daher schrittweise passend zu Ihrem PC.

In Schritt 5 fügen Sie zuerst das Figurenblatt mit den Figuren und den festen Regeln der Geschichte ein und lassen dann eine Szene nach der anderen schreiben. Warum, erklärt der nächste Abschnitt.

Prompt-Beispiel für eine lokale KI

Beim Schreiben eines langen Romans mit einem lokalen Modell ist das größte Problem, dass es „vergisst, was vorher festgelegt wurde“. Ist die Textmenge, die es sich merken kann, gering, rutschen Namen und Hintergründe vom Anfang mit wachsendem Austausch aus dem Bereich, den es lesen kann.

Um ein Gefühl für die Längen zu bekommen, haben wir die japanischen Kapitel der auf Original Novel veröffentlichten Werke gezählt: Der Median eines Kapitels entspricht etwa 1.900 Wörtern, und die Hälfte der Kapitel liegt zwischen etwa 1.600 und 2.100 Wörtern (14. November 2026, 227 Kapitel; gemessen in japanischen Schriftzeichen und in Wörter umgerechnet). Ein gehaltvolles Kapitel umfasst also schon allein rund 2.000 Wörter. Kommen Figurenblatt, Zusammenfassung der bisherigen Kapitel und das neue Kapitel zusammen, reicht die Standardlänge unter Umständen nicht aus.

Beschränken Sie jeden Prompt deshalb auf drei Teile: „kurzes Figurenblatt + Zusammenfassung der letzten Szene + die Szene, die diesmal geschrieben wird“. Ersetzen Sie die ___ vor der Nutzung.

Du bist ein deutschsprachiger Romanautor. Halte dich an das folgende Figurenblatt und schreibe nur eine einzige Szene.

[Figurenblatt]
- Hauptfigur: ___ (Alter / Lieblingsspruch „___“ / Sprachstil: ___)
- Gegenüber: ___ (Beziehung zur Hauptfigur)
- Schauplatz: ___ (Zeit, Ort, Jahreszeit)
- Darf sich nicht ändern: ___

[Zusammenfassung der letzten Szene (höchstens 3 Zeilen)]
___

[Diese Szene schreiben]
Szene, in der ___ ___ tut. Etwa 400 Wörter.
Viel Dialog; ende mit einem Satz, der neugierig auf die Fortsetzung macht.
Füge keine Namen oder Ereignisse hinzu, die nicht im Figurenblatt stehen.
Abb. 4 – Prompt-Vorlage für Modelle, die sich nur wenig Text merken können

Die fertigen Szenen fügen Sie selbst nacheinander in eine Textdatei ein. Der Trick: Für die nächste Szene geben Sie nicht den ganzen Text mit, sondern eine Zusammenfassung. Ist ein Kapitel fertig, lassen Sie die Handlung in drei Zeilen zusammenfassen und ergänzen sie im Figurenblatt als „Feststehendes“. So kommt es in späteren Kapiteln seltener zu Widersprüchen.

Vor der Veröffentlichung: Nutzungsbedingungen des Modells prüfen

Auch wenn sie kostenlos herunterladbar sind, haben lokal genutzte Modelle jeweils eigene Nutzungsbedingungen (Lizenzen). Wer nur für sich schreibt, muss wenig beachten. Wer aber auf einer Schreibplattform veröffentlicht oder ein Buch verkauft, sollte diese drei Punkte auf der Seite des Modells prüfen:

  • Ist die kommerzielle Nutzung erlaubt?: Manche Modelle stehen unter einer allgemeinen, breit nutzbaren Lizenz, andere haben eigene Bedingungen
  • Gibt es eine Kennzeichnungspflicht?: Manche verlangen beim Weitergeben des Modells oder eines Produkts, das es enthält, einen Namenshinweis oder eine Kopie der Bedingungen
  • Welche Nutzungen sind verboten?: Manche legen gesondert eine „Nutzungsrichtlinie“ fest, deren Einhaltung Bedingung ist

Auf der Download-Seite von Googles Gemma 4 ist zum Beispiel die allgemeine Lizenz Apache 2.0 angegeben. Metas Llama 3.1 hat eine eigene Lizenz, die unter anderem verlangt, die Nutzungsrichtlinie einzuhalten und beim Weitergeben des Modells „Built with Llama“ anzuzeigen. Außerdem heißt es in den Gemma-Nutzungsbedingungen, die getrennt von Gemma 4 unter anderem für frühere Versionen gelten, dass Google keine Rechte an den mit Gemma erzeugten Ausgaben beansprucht. Die Bedingungen ändern sich von Version zu Version, prüfen Sie daher die Seite der verwendeten Version. Das Urheberrecht an KI-geschriebenen Texten und die KI-Regeln der einzelnen Schreibplattformen sind ein eigenes Thema, getrennt von den Modellbedingungen.

KI lokal betreiben oder Website im Browser: Was wann?

Die Stärke der lokalen Variante: Das Manuskript bleibt auf dem eigenen Rechner, und Sie können beliebig oft neu schreiben lassen. Wer den eigenen Text Stück für Stück fortsetzen lassen oder unterwegs ohne Internet schreiben möchte, findet dafür keinen gleichwertigen Ersatz.

Dafür müssen Sie sich um alles selbst kümmern: die Pflege des Figurenblatts, die Illustrationen, die Übersetzung in andere Sprachen. Original Novel ist eine Website im Browser, die genau diesen Teil übernimmt. Was das Prompt-Beispiel in diesem Artikel von Hand erledigt – „das Figurenblatt jedes Mal mitgeben“ –, macht die Website für jedes Werk im Hintergrund, und vor der Veröffentlichung prüft eine KI jedes Kapitel auf Widersprüche zu früheren Kapiteln und falsche Namen.

Sie können auch aufteilen: lokal für Manuskripte, die Sie frei am eigenen Rechner umschreiben wollen, die Website für Geschichten, bei denen Sie auch die Pflege der Hintergründe abgeben und die von anderen gelesen werden sollen. Haben Sie vor allem Werke, die den Rechner nicht verlassen sollen, probieren Sie zuerst die lokale Variante; wollen Sie schnell etwas Lesefertiges, starten Sie mit der Website – das spart Aufwand.

Geschichten lesen, die eine KI geschrieben hat

Mehr: Geschichten lesen, die eine KI geschrieben hat ›

Geschichten, die eine KI auf dieser Website anhand eines Figurenblatts geschrieben hat. Sortiert nach Beliebtheit.

Quellen (Abrufdatum)

  1. System RequirementsLM Studio / Englisch / Abgerufen am 18.11.2026
  2. LM Studio Privacy PolicyLM Studio / Englisch / Abgerufen am 18.11.2026
  3. QuickstartOllama / Englisch / Abgerufen am 18.11.2026
  4. Local FAQOllama / Englisch / Abgerufen am 18.11.2026
  5. Context lengthOllama / Englisch / Abgerufen am 18.11.2026
  6. Gemma 4 model overviewGoogle AI for Developers / Englisch / Abgerufen am 18.11.2026
  7. Gemma Terms of UseGoogle AI for Developers / Englisch / Abgerufen am 18.11.2026
  8. Llama 3.1 Community License AgreementMeta / Englisch / Abgerufen am 18.11.2026

Häufige Fragen

Ist eine lokal betriebene KI kostenlos?

Bei LM Studio gehört die lokale Nutzung von Modellen zum kostenlosen Funktionsumfang, und Ollama ist unter der MIT-Lizenz veröffentlicht. Viele Modelle lassen sich ebenfalls kostenlos herunterladen. Beide Tools haben aber auch kostenpflichtige Cloud-Funktionen, und Preise wie Bedingungen können sich ändern. Prüfen Sie das auf den offiziellen Seiten.

Kann ein Laptop ohne GPU einen Roman schreiben?

Laut der offiziellen Dokumentation von Ollama läuft es unter Linux auf der CPU, wenn keine NVIDIA-GPU gefunden wird, und es gibt eine Einstellung, um nur die CPU zu nutzen. LM Studio empfiehlt unter Windows dagegen mindestens 4 GB dedizierten Grafikspeicher, und wie schnell der Text entsteht, hängt von der Leistung des PCs ab. Am sichersten ist es, zuerst das kleinste Modell eine kurze Szene schreiben zu lassen und nach Tempo und Natürlichkeit des Textes zu entscheiden.

Läuft eine lokale KI auch auf dem Smartphone?

Es gibt kleine Modelle speziell für Smartphones, und die offizielle Gemma-Seite von Google nennt auch den Speicherbedarf der Smartphone-Versionen. Für einen langen Roman ist ein PC aber besser geeignet, wegen der Textmenge, die sich das Modell merken kann, und wegen des Tempos. Wenn Sie es auf dem Smartphone versuchen, beginnen Sie mit dem Entwurf einer kurzen Szene.

Sind Romane einer lokalen KI schlechter als mit ChatGPT und Co.?

Das hängt stark von der Größe des Modells ab und davon, wie viel Deutsch es gelernt hat. Modelle, die klein genug für einen Heim-PC sind, können im Vergleich zu großen Cloud-Modellen weniger natürlich formulieren. Am zuverlässigsten ist es, beiden dieselbe Anweisung zu geben und das zu wählen, was besser zu Ihrem Werk passt.

Funktionieren auch GPUs von anderen Herstellern als NVIDIA (z. B. AMD)?

In manchen Fällen ja. Laut der offiziellen Dokumentation von Ollama lassen sich neben NVIDIA-GPUs (Compute Capability 5.0 oder höher) auch AMD-GPUs über ROCm v7 oder Vulkan und Macs über Apples Metal beschleunigen. Unterstützte GPU-Modelle und Treiberversionen sind genau festgelegt. Prüfen Sie auf der offiziellen Seite, ob Ihre GPU in der Liste steht.

#Einsteiger#Prompts

Weiterlesen