KI lokal betreiben und damit Romane verfassen: nötige Hardware und 5 Schritte
Mit einem PC mit etwa 16 GB RAM können Sie eine KI zum Romanschreiben kostenlos lokal betreiben. Das Manuskript verlässt Ihren Rechner nicht, und Sie können beliebig oft neu schreiben lassen. Wie gut die KI schreibt, hängt aber von der Leistung des PCs und vom Modell ab. Dieser Artikel führt Sie Schritt für Schritt von der Frage, ob Ihr PC reicht, bis zum ersten geschriebenen Kapitel.

Das Wichtigste
- Mit etwa 16 GB RAM lässt sich eine KI zum Romanschreiben mit kostenlosen Tools (LM Studio, Ollama usw.) lokal ausprobieren
- Zuerst RAM und den dedizierten Grafikspeicher (VRAM) prüfen. Mit kleinen Modellen anfangen und vergleichen, wie natürlich das Deutsch klingt
- Die Textmenge, die sich das Modell merken kann (Kontextlänge), ist kurz: jedes Mal Figurenblatt und Zusammenfassung der letzten Szene mitgeben und eine Szene nach der anderen schreiben lassen
- Wer veröffentlichen oder verkaufen will, prüft die Nutzungsbedingungen (Lizenz) jedes Modells auf der Seite der verwendeten Version
Was heißt es, eine KI zum Romanschreiben lokal zu betreiben?
Eine KI lokal zu betreiben bedeutet, die textgenerierende KI (ein großes Sprachmodell, kurz LLM) auf dem eigenen PC zu installieren und den Roman komplett auf diesem Rechner schreiben zu lassen. KIs im Browser wie ChatGPT oder Claude schicken Ihre Eingaben an die Server des Anbieters und bekommen von dort die Antwort zurück. Lokal übernimmt Ihr eigener PC diese Berechnung.
Kurz gesagt: Mit einem PC mit etwa 16 GB RAM können Sie es noch heute mit kostenlosen Tools ausprobieren. Wie gut die KI schreibt, hängt allerdings stark von der Leistung des PCs und vom gewählten Modell ab. In diesem Artikel prüfen wir zuerst, ob Ihr PC reicht, installieren dann die Tools und lassen schließlich ein erstes Kapitel schreiben.
Wer sich für die lokale Variante entscheidet, hat meist einen dieser drei Gründe:
- Der Text verlässt den Rechner nicht: Ein Manuskript, das noch niemand gelesen hat, oder ein heikles Thema lässt sich schreiben, ohne es an einen fremden Server zu schicken
- Keine Nutzungsgrenzen im Blick behalten: Egal wie oft Sie neu schreiben lassen, kein Dienst zählt mit (Strom und Rechenzeit des PCs kostet es trotzdem)
- Schreiben ohne Internet: Manche Tools laufen auch ganz ohne Netz, sobald das Modell einmal heruntergeladen ist

Dafür gibt es auch drei Hürden: Der PC braucht eine gewisse Leistung, Tool und Modell müssen Sie selbst installieren, und wie gut das Deutsch wird, hängt vom Modell ab – der Text klingt also nicht immer so natürlich wie erhofft. Den Unterschied versteht man leicht, wenn man sich vorstellt, dass Cloud-KIs Ihnen genau diese drei Hürden abnehmen.
Zuerst prüfen: Kann Ihr PC eine KI lokal betreiben?
Als Erstes zählt der Arbeitsspeicher (RAM). LM Studio, ein Tool mit grafischer Oberfläche, empfiehlt in seinen offiziellen Systemanforderungen sowohl für Windows als auch für Mac mindestens 16 GB. Beim Mac werden Geräte mit Apple Silicon unterstützt (offiziell M1 bis M4); Intel-Macs werden derzeit nicht unterstützt. Unter Windows empfiehlt es außerdem mindestens 4 GB dedizierten Speicher (VRAM) auf der Grafikkarte (GPU) (am 15. November 2026 auf der offiziellen Seite geprüft).
Unter Windows sehen Sie die RAM-Größe unter „Einstellungen“ → „System“ → „Info“. Den dedizierten Speicher der GPU finden Sie im Task-Manager unter „Leistung“ → „GPU“.
Beim Mac teilt sich die GPU den Arbeitsspeicher mit der CPU. Überspringen Sie dort die GPU-Frage und achten Sie nur auf die Speichergröße.
Werfen Sie auch einen Blick auf die „Größe“ des Modells. Zahlen wie „4B“, „12B“ oder „31B“ in der Modellbeschreibung geben die Anzahl seiner inneren Bausteine (Parameter) an: Je größer, desto besser schreibt es meist, desto mehr Speicher braucht es aber auch. Die offizielle Gemma-Seite von Google nennt zum Beispiel folgenden Speicherbedarf, um die auf 4 Bit komprimierten Versionen zu laden.
| Größe | Auf 4 Bit komprimierte Version | Für welchen PC? |
|---|---|---|
| Klein (etwa 2B bis 4B) | Etwa 3 bis 5 GB | Auch auf einem Laptop mit 16 GB RAM gut zu testen |
| Mittel (etwa 12B) | Etwa 7 GB | Mit einer GPU mit viel dediziertem Speicher oder einem Mac mit Speicherreserve |
| Groß (etwa 26B bis 31B) | Etwa 14 bis 18 GB | Mit einer GPU mit großem dediziertem Speicher oder einem Mac mit viel Speicher |
Diese Werte gelten nur für das Modell selbst. Die offizielle Seite schreibt auch, dass bei längeren Gesprächen zusätzlich Speicher für den bisherigen Textverlauf hinzukommt. Da das je nach Version und Tool schwankt, prüfen Sie es vor der Installation auf der Seite des Modells.
Zwei Arten von Tools: App mit Oberfläche oder Kommandozeile
Es gibt viele Tools, um Modelle lokal laufen zu lassen. Einsteiger nutzen vor allem die folgenden zwei. Bei beiden lassen sich die Modelle direkt im Tool herunterladen.
| LM Studio | Ollama | |
|---|---|---|
| Bedienung | In der App ein Modell auswählen und ihm schreiben | Start auch per App möglich, im Mittelpunkt steht aber die Bedienung per Kommandozeile |
| Systeme | Windows, Mac (Apple Silicon), Linux | Windows, Mac, Linux |
| Verlassen Daten den PC? | Laut Anbieter werden bei lokalen Modellen weder Unterhaltungen noch Dokumente nach außen gesendet | Laut Anbieter sieht der Betreiber bei lokaler Nutzung weder Eingaben noch Daten |
| Ohne Internet | Laut Anbieter läuft alles offline, wenn das Modell vorher heruntergeladen wurde | Zum Herunterladen des Modells ist Internet nötig |
| Worauf achten | Es gibt auch kostenpflichtige Cloud-Funktionen; Preise auf der offiziellen Seite prüfen | Man kann auch Modelle wählen, die in der Cloud laufen; wer nur lokal arbeiten will, wählt ein lokales Modell |
Beide bieten auch Cloud-Funktionen, die auf den Servern des Anbieters laufen. Wenn Ihr Ziel ist, dass nichts den Rechner verlässt, sollten Sie vor der Nutzung unbedingt prüfen, ob das gewählte Modell wirklich lokal ist. Ollama bietet außerdem eine Einstellung, mit der sich die Cloud-Funktionen abschalten lassen, um rein lokal zu arbeiten.
5 Schritte bis zum ersten Kapitel
Wenn das Tool feststeht, gehen Sie in dieser Reihenfolge vor. Auf die Reihenfolge kommt es bei den Schritten 4 und 5 an: Mit den Standardeinstellungen kann sich ein lokales Modell lange Texte unter Umständen nicht merken. Legen Sie daher zuerst die Länge fest und lassen Sie dann schreiben.
- 1Tool von der offiziellen Seite installieren
- 2Ein kleines Modell herunterladen und testen, ob es läuft
- 3Eine kurze Szene auf Deutsch schreiben lassen und prüfen, wie natürlich sie klingt
- 4Festlegen, wie viel Text sich das Modell merken kann (Kontextlänge)
- 5Zuerst das Figurenblatt mitgeben, dann eine Szene nach der anderen schreiben lassen
Schritt 1 und 2 dienen dazu, mit einem kleinen Modell zu prüfen, ob „es läuft“. Auch die offizielle Schnellstartanleitung von Ollama nimmt die kleinste Version eines Modells als Beispiel, und selbst diese ist rund 7 GB groß. Die „etwa 3 bis 5 GB“ aus der Tabelle oben beziehen sich auf das Laden einer auf 4 Bit komprimierten Version – das ist nicht dasselbe wie die Version, die das Tool herunterlädt. Prüfen Sie vorher den freien Speicherplatz auf Ihrem PC.
In Schritt 3 verlangen Sie nicht gleich ein langes Kapitel, sondern eine kurze Szene, etwa: „Auf einem verregneten Bahnsteig treffen sich zwei Menschen nach zehn Jahren wieder, in etwa 200 Wörtern“. Wenn Sie dieselbe Anweisung zwei oder drei Modellen geben und vergleichen, sehen Sie schnell, welche gut Deutsch können. Klingt der Text holprig, geht es schneller, auf ein größeres Modell umzusteigen oder dieses Werk gleich mit einer Cloud-KI zu schreiben.
In Schritt 4 ist mit der „Textmenge, die sich das Modell merken kann“ gemeint, wie viel Text die KI auf einmal lesen kann. Laut der offiziellen Dokumentation von Ollama liegt die Standardeinstellung bei 4k (etwa 4.000 Tokens; ein Token ist die Einheit, in der die KI Text zählt), wenn der dedizierte GPU-Speicher unter 24 GiB (etwa 26 GB) liegt. Je länger, desto mehr Speicher wird gebraucht. Erhöhen Sie den Wert daher schrittweise passend zu Ihrem PC.
In Schritt 5 fügen Sie zuerst das Figurenblatt mit den Figuren und den festen Regeln der Geschichte ein und lassen dann eine Szene nach der anderen schreiben. Warum, erklärt der nächste Abschnitt.
Prompt-Beispiel für eine lokale KI
Beim Schreiben eines langen Romans mit einem lokalen Modell ist das größte Problem, dass es „vergisst, was vorher festgelegt wurde“. Ist die Textmenge, die es sich merken kann, gering, rutschen Namen und Hintergründe vom Anfang mit wachsendem Austausch aus dem Bereich, den es lesen kann.
Um ein Gefühl für die Längen zu bekommen, haben wir die japanischen Kapitel der auf Original Novel veröffentlichten Werke gezählt: Der Median eines Kapitels entspricht etwa 1.900 Wörtern, und die Hälfte der Kapitel liegt zwischen etwa 1.600 und 2.100 Wörtern (14. November 2026, 227 Kapitel; gemessen in japanischen Schriftzeichen und in Wörter umgerechnet). Ein gehaltvolles Kapitel umfasst also schon allein rund 2.000 Wörter. Kommen Figurenblatt, Zusammenfassung der bisherigen Kapitel und das neue Kapitel zusammen, reicht die Standardlänge unter Umständen nicht aus.
Beschränken Sie jeden Prompt deshalb auf drei Teile: „kurzes Figurenblatt + Zusammenfassung der letzten Szene + die Szene, die diesmal geschrieben wird“. Ersetzen Sie die ___ vor der Nutzung.
Du bist ein deutschsprachiger Romanautor. Halte dich an das folgende Figurenblatt und schreibe nur eine einzige Szene. [Figurenblatt] - Hauptfigur: ___ (Alter / Lieblingsspruch „___“ / Sprachstil: ___) - Gegenüber: ___ (Beziehung zur Hauptfigur) - Schauplatz: ___ (Zeit, Ort, Jahreszeit) - Darf sich nicht ändern: ___ [Zusammenfassung der letzten Szene (höchstens 3 Zeilen)] ___ [Diese Szene schreiben] Szene, in der ___ ___ tut. Etwa 400 Wörter. Viel Dialog; ende mit einem Satz, der neugierig auf die Fortsetzung macht. Füge keine Namen oder Ereignisse hinzu, die nicht im Figurenblatt stehen.
Die fertigen Szenen fügen Sie selbst nacheinander in eine Textdatei ein. Der Trick: Für die nächste Szene geben Sie nicht den ganzen Text mit, sondern eine Zusammenfassung. Ist ein Kapitel fertig, lassen Sie die Handlung in drei Zeilen zusammenfassen und ergänzen sie im Figurenblatt als „Feststehendes“. So kommt es in späteren Kapiteln seltener zu Widersprüchen.
Vor der Veröffentlichung: Nutzungsbedingungen des Modells prüfen
Auch wenn sie kostenlos herunterladbar sind, haben lokal genutzte Modelle jeweils eigene Nutzungsbedingungen (Lizenzen). Wer nur für sich schreibt, muss wenig beachten. Wer aber auf einer Schreibplattform veröffentlicht oder ein Buch verkauft, sollte diese drei Punkte auf der Seite des Modells prüfen:
- Ist die kommerzielle Nutzung erlaubt?: Manche Modelle stehen unter einer allgemeinen, breit nutzbaren Lizenz, andere haben eigene Bedingungen
- Gibt es eine Kennzeichnungspflicht?: Manche verlangen beim Weitergeben des Modells oder eines Produkts, das es enthält, einen Namenshinweis oder eine Kopie der Bedingungen
- Welche Nutzungen sind verboten?: Manche legen gesondert eine „Nutzungsrichtlinie“ fest, deren Einhaltung Bedingung ist
Auf der Download-Seite von Googles Gemma 4 ist zum Beispiel die allgemeine Lizenz Apache 2.0 angegeben. Metas Llama 3.1 hat eine eigene Lizenz, die unter anderem verlangt, die Nutzungsrichtlinie einzuhalten und beim Weitergeben des Modells „Built with Llama“ anzuzeigen. Außerdem heißt es in den Gemma-Nutzungsbedingungen, die getrennt von Gemma 4 unter anderem für frühere Versionen gelten, dass Google keine Rechte an den mit Gemma erzeugten Ausgaben beansprucht. Die Bedingungen ändern sich von Version zu Version, prüfen Sie daher die Seite der verwendeten Version. Das Urheberrecht an KI-geschriebenen Texten und die KI-Regeln der einzelnen Schreibplattformen sind ein eigenes Thema, getrennt von den Modellbedingungen.
KI lokal betreiben oder Website im Browser: Was wann?
Die Stärke der lokalen Variante: Das Manuskript bleibt auf dem eigenen Rechner, und Sie können beliebig oft neu schreiben lassen. Wer den eigenen Text Stück für Stück fortsetzen lassen oder unterwegs ohne Internet schreiben möchte, findet dafür keinen gleichwertigen Ersatz.
Dafür müssen Sie sich um alles selbst kümmern: die Pflege des Figurenblatts, die Illustrationen, die Übersetzung in andere Sprachen. Original Novel ist eine Website im Browser, die genau diesen Teil übernimmt. Was das Prompt-Beispiel in diesem Artikel von Hand erledigt – „das Figurenblatt jedes Mal mitgeben“ –, macht die Website für jedes Werk im Hintergrund, und vor der Veröffentlichung prüft eine KI jedes Kapitel auf Widersprüche zu früheren Kapiteln und falsche Namen.
Sie können auch aufteilen: lokal für Manuskripte, die Sie frei am eigenen Rechner umschreiben wollen, die Website für Geschichten, bei denen Sie auch die Pflege der Hintergründe abgeben und die von anderen gelesen werden sollen. Haben Sie vor allem Werke, die den Rechner nicht verlassen sollen, probieren Sie zuerst die lokale Variante; wollen Sie schnell etwas Lesefertiges, starten Sie mit der Website – das spart Aufwand.
Geschichten lesen, die eine KI geschrieben hat
Mehr: Geschichten lesen, die eine KI geschrieben hat ›Geschichten, die eine KI auf dieser Website anhand eines Figurenblatts geschrieben hat. Sortiert nach Beliebtheit.
Quellen (Abrufdatum)
- System RequirementsLM Studio / Englisch / Abgerufen am 18.11.2026
- LM Studio Privacy PolicyLM Studio / Englisch / Abgerufen am 18.11.2026
- QuickstartOllama / Englisch / Abgerufen am 18.11.2026
- Local FAQOllama / Englisch / Abgerufen am 18.11.2026
- Context lengthOllama / Englisch / Abgerufen am 18.11.2026
- Gemma 4 model overviewGoogle AI for Developers / Englisch / Abgerufen am 18.11.2026
- Gemma Terms of UseGoogle AI for Developers / Englisch / Abgerufen am 18.11.2026
- Llama 3.1 Community License AgreementMeta / Englisch / Abgerufen am 18.11.2026
Häufige Fragen
Ist eine lokal betriebene KI kostenlos?
Bei LM Studio gehört die lokale Nutzung von Modellen zum kostenlosen Funktionsumfang, und Ollama ist unter der MIT-Lizenz veröffentlicht. Viele Modelle lassen sich ebenfalls kostenlos herunterladen. Beide Tools haben aber auch kostenpflichtige Cloud-Funktionen, und Preise wie Bedingungen können sich ändern. Prüfen Sie das auf den offiziellen Seiten.
Kann ein Laptop ohne GPU einen Roman schreiben?
Laut der offiziellen Dokumentation von Ollama läuft es unter Linux auf der CPU, wenn keine NVIDIA-GPU gefunden wird, und es gibt eine Einstellung, um nur die CPU zu nutzen. LM Studio empfiehlt unter Windows dagegen mindestens 4 GB dedizierten Grafikspeicher, und wie schnell der Text entsteht, hängt von der Leistung des PCs ab. Am sichersten ist es, zuerst das kleinste Modell eine kurze Szene schreiben zu lassen und nach Tempo und Natürlichkeit des Textes zu entscheiden.
Läuft eine lokale KI auch auf dem Smartphone?
Es gibt kleine Modelle speziell für Smartphones, und die offizielle Gemma-Seite von Google nennt auch den Speicherbedarf der Smartphone-Versionen. Für einen langen Roman ist ein PC aber besser geeignet, wegen der Textmenge, die sich das Modell merken kann, und wegen des Tempos. Wenn Sie es auf dem Smartphone versuchen, beginnen Sie mit dem Entwurf einer kurzen Szene.
Sind Romane einer lokalen KI schlechter als mit ChatGPT und Co.?
Das hängt stark von der Größe des Modells ab und davon, wie viel Deutsch es gelernt hat. Modelle, die klein genug für einen Heim-PC sind, können im Vergleich zu großen Cloud-Modellen weniger natürlich formulieren. Am zuverlässigsten ist es, beiden dieselbe Anweisung zu geben und das zu wählen, was besser zu Ihrem Werk passt.
Funktionieren auch GPUs von anderen Herstellern als NVIDIA (z. B. AMD)?
In manchen Fällen ja. Laut der offiziellen Dokumentation von Ollama lassen sich neben NVIDIA-GPUs (Compute Capability 5.0 oder höher) auch AMD-GPUs über ROCm v7 oder Vulkan und Macs über Apples Metal beschleunigen. Unterstützte GPU-Modelle und Treiberversionen sind genau festgelegt. Prüfen Sie auf der offiziellen Seite, ob Ihre GPU in der Liste steht.



