Truyện tranhTìm truyệnSách của tôiTạo
Đang viết|
Viết truyện với AI

Cách chạy AI local (trên máy tính của bạn) để viết truyện: cấu hình cần có và 5 bước

Đọc khoảng 11 phútBan biên tập Original Novel

Nếu máy tính có khoảng 16GB RAM, bạn có thể chạy AI local viết truyện ngay trên máy mình bằng công cụ miễn phí. Bản thảo không rời khỏi máy, và bạn viết lại bao nhiêu lần cũng được. Tuy vậy, viết được đến đâu còn tùy cấu hình máy và model. Bài này đi lần lượt từ việc kiểm tra máy có chạy được không cho đến khi AI viết xong một chương.

Nhân vật bước ra từ cuốn sách điều khiển một cỗ máy viết bản thảo nằm gọn trong chiếc máy tính nhỏ, các trang bản thảo chỉ xoay vòng bên trong hộp mà không ra ngoài

Ý chính

  • Máy có khoảng 16GB RAM là đã có thể thử AI viết truyện chạy local bằng công cụ miễn phí (LM Studio, Ollama…)
  • Việc đầu tiên là xem RAM và bộ nhớ riêng của GPU (VRAM). Thử model nhỏ trước, rồi đọc so sánh độ tự nhiên của câu văn tiếng Việt
  • Độ dài model nhớ được (context length) ngắn, nên mỗi lần hãy đưa hồ sơ thiết lập và tóm tắt cảnh trước, rồi cho viết từng cảnh một
  • Nếu định đăng hay bán truyện, hãy kiểm tra điều kiện sử dụng (giấy phép) của từng model trên trang của đúng phiên bản bạn dùng

Chạy AI local viết truyện là gì?

Chạy AI local nghĩa là cài AI tạo văn bản (mô hình ngôn ngữ lớn, còn gọi là LLM) vào máy tính của bạn và cho nó viết truyện hoàn toàn bên trong máy. Những AI dùng qua trình duyệt như ChatGPT hay Claude sẽ gửi những gì bạn gõ lên máy chủ của công ty rồi trả lời lại. Khi chạy local, chính máy tính của bạn đảm nhận phần tính toán đó.

Nói ngắn gọn: máy có khoảng 16GB RAM là có thể thử ngay hôm nay bằng công cụ miễn phí. Có điều, viết được đến đâu sẽ khác nhau rất nhiều tùy cấu hình máy và model bạn chọn. Bài này sẽ đi lần lượt: trước hết xem máy bạn có chạy được không, sau đó cài công cụ, rồi cho AI viết một chương.

Người chọn chạy local thường có 3 lý do sau.

  • Những gì bạn viết không rời khỏi máy: bản thảo chưa cho ai xem, hay đề tài khó nói với người khác, đều viết được mà không gửi lên máy chủ bên ngoài
  • Không phải lo giới hạn số lần: cho viết lại bao nhiêu lần cũng không bị tính vào số lượt dùng của dịch vụ nào (nhưng vẫn tốn tiền điện và thời gian của máy)
  • Không có mạng vẫn viết được: có những công cụ chạy được cả ở nơi không có sóng, miễn là bạn đã tải model về từ trước
Trong một căn chòi trên núi không có sóng điện thoại, nhân vật bước ra từ cuốn sách ngồi trước laptop và đang viết tiếp bản thảo
Hình 1. Tải model về trước thì ở nơi không có mạng vẫn viết tiếp được

Đổi lại, cũng có 3 điều phiền. Máy cần có cấu hình tương đối; bạn phải tự cài công cụ và model; và khả năng viết tiếng Việt tùy vào model, nên đôi khi câu văn không tự nhiên như bạn mong. Cứ hình dung rằng AI trên đám mây là nơi công ty gánh giúp bạn 3 việc này, sẽ dễ thấy sự khác biệt.

Trước hết, kiểm tra máy của bạn có chạy được không

Thứ cần xem đầu tiên là RAM. LM Studio, công cụ dùng bằng giao diện, khuyến nghị trong yêu cầu hệ thống chính thức là từ 16GB trở lên cho cả Windows lẫn Mac. Với Mac, chỉ hỗ trợ chip Apple Silicon (trang chính thức ghi M1–M4); Mac chạy chip Intel hiện chưa được hỗ trợ. Trên Windows, công cụ này còn khuyến nghị bộ nhớ riêng (VRAM) của linh kiện xử lý đồ họa (GPU) từ 4GB trở lên (kiểm tra trên trang chính thức ngày 15/11/2026).

Trên Windows, vào "Cài đặt" → "Hệ thống" → "Giới thiệu" để xem dung lượng RAM. Bộ nhớ riêng của GPU xem ở "Trình quản lý tác vụ" → "Hiệu suất" → "GPU".

RAM từ 16GB trở lên? Có Không VRAM của GPU từ 4GB trở lên? Thử model nhỏ nhất Chậm, gượng → dùng AI đám mây Có Không Thử model nhỏ rồi mở rộng sang model cỡ vừa Thử model nhỏ và kiểm tra tốc độ ra chữ
Hình 2. Đánh giá máy của bạn có chạy được không (các con số là khuyến nghị trong yêu cầu hệ thống của LM Studio, chỉ mang tính tham khảo)

Mac dùng chung bộ nhớ giữa CPU và GPU, nên hãy bỏ qua câu hỏi về GPU và chỉ xét dung lượng RAM.

Cũng nên xem "kích thước" của model. Những con số như "4B", "12B", "31B" trong phần mô tả model là số lượng thành phần bên trong (tham số); model càng lớn thì thường viết càng hay, nhưng đổi lại càng tốn bộ nhớ. Ví dụ, trang chính thức của Gemma (Google) đưa ra mức bộ nhớ cần để nạp bản đã nén xuống 4 bit như sau.

Kích thước model và mức bộ nhớ cần để nạp (cột giữa theo trang chính thức "Gemma" của Google, kiểm tra ngày 15/11/2026; cột phải là ước lượng dựa trên đó)
Kích thướcBản nén 4 bit (ước lượng)Gợi ý cho máy của bạn
Nhỏ (khoảng 2B–4B)Khoảng 3–5GBDễ thử ngay cả trên laptop 16GB RAM
Vừa (khoảng 12B)Khoảng 7GBCần GPU có nhiều bộ nhớ riêng, hoặc Mac còn dư RAM
Lớn (khoảng 26B–31B)Khoảng 14–18GBCần GPU có bộ nhớ riêng lớn, hoặc Mac nhiều RAM

Các con số này chỉ là phần để chứa bản thân model. Trang chính thức cũng ghi rằng cuộc trò chuyện càng dài thì phần bộ nhớ để ghi nhớ càng tăng thêm. Con số còn thay đổi theo phiên bản và công cụ, nên hãy kiểm tra trên trang của model trước khi cài.

Có 2 loại công cụ: ứng dụng có giao diện và công cụ dòng lệnh

Có nhiều công cụ để chạy model trên máy. Người mới thường dùng 2 công cụ dưới đây. Cả hai đều cho tải model ngay bên trong công cụ.

2 công cụ tiêu biểu để chạy local (kiểm tra trên trang chính thức của từng công cụ ngày 15/11/2026)
LM StudioOllama
Cách dùngChọn model trên giao diện ứng dụng rồi trò chuyệnCó thể bắt đầu từ ứng dụng, nhưng chủ yếu chạy bằng dòng lệnh
Máy dùng đượcWindows, Mac (Apple Silicon), LinuxWindows, Mac, Linux
Dữ liệu có ra khỏi máy khôngCho biết khi dùng model local, cuộc trò chuyện và tài liệu không bị gửi ra ngoài máyCho biết khi chạy local, bên vận hành không xem nội dung bạn gõ hay dữ liệu của bạn
Khi không có mạngCho biết nếu tải model trước thì mọi thứ chạy offlineCần mạng khi tải model
Lưu ýCũng có tính năng đám mây trả phí. Giá hãy xem trên trang chính thứcCó thể chọn cả model chạy trên đám mây. Nếu chỉ muốn dùng trong máy, hãy chọn model local

Cả hai đều có tính năng đám mây chạy trên máy chủ của công ty. Nếu mục đích là "không để dữ liệu ra khỏi máy", điều quan trọng là kiểm tra trước khi dùng xem model bạn chọn có phải model local không. Ollama còn có thiết lập tắt tính năng đám mây để chỉ dùng trong máy.

5 bước để AI viết xong một chương

Chọn xong công cụ thì làm theo thứ tự dưới đây. Thứ tự quan trọng ở bước 4 và 5: với thiết lập ban đầu, model local đôi khi không nhớ hết được văn bản dài, nên hãy chọn độ dài trước rồi mới cho viết.

  1. 1Cài công cụ từ trang chính thức
  2. 2Tải một model nhỏ về và thử xem có chạy không
  3. 3Cho viết một cảnh ngắn bằng tiếng Việt, xem câu văn có tự nhiên không
  4. 4Chọn độ dài model nhớ được (context length)
  5. 5Đưa hồ sơ thiết lập trước, cho viết từng cảnh một
Cài đặtĐánh giáViết
Hình 3. Các bước để AI chạy local viết xong một chương

Bước 1 và 2 là để xác nhận máy "chạy được" bằng một model nhỏ. Hướng dẫn bắt đầu chính thức của Ollama cũng lấy ví dụ bằng bản model nhỏ nhất, vậy mà dung lượng tải về vẫn khoảng 7GB. Con số "khoảng 3–5GB" trong bảng trên là lượng bộ nhớ để nạp bản nén 4 bit, nên khác với dung lượng bản mà công cụ tải về. Hãy xem trước dung lượng trống của máy.

Ở bước 3, đừng vội yêu cầu cả một chương dài; hãy cho viết một cảnh ngắn kiểu "cảnh hai người gặp lại nhau sau 10 năm ở nhà ga trong mưa, khoảng 200 từ". Đưa cùng yêu cầu cho 2–3 model rồi đọc so sánh, bạn sẽ thấy ngay model nào viết tiếng Việt tốt hay kém. Nếu câu văn không tự nhiên, đổi sang model lớn hơn, hoặc quyết định viết tác phẩm đó bằng AI đám mây sẽ nhanh hơn.

"Độ dài model nhớ được" ở bước 4 là lượng văn bản AI đọc được trong một lần. Theo tài liệu chính thức của Ollama, nếu bộ nhớ riêng của GPU dưới 24GiB (khoảng 26GB) thì thiết lập ban đầu là 4k (khoảng 4.000 token; token là đơn vị AI dùng để đếm văn bản). Càng tăng độ dài càng tốn bộ nhớ, nên hãy tăng dần cho hợp với máy.

Ở bước 5, dán hồ sơ thiết lập tóm gọn nhân vật và các quy ước lên đầu, rồi cho viết từng cảnh một. Lý do sẽ giải thích ở phần tiếp theo.

Prompt mẫu để đưa cho AI chạy local

Khi viết truyện dài bằng model local, rắc rối lớn nhất là AI "quên những gì đã quyết định trước đó". Nếu độ dài model nhớ được ngắn, cuộc trò chuyện càng dài thì tên và thiết lập bạn đưa lúc đầu càng bị đẩy ra ngoài phạm vi model đọc được.

Để có khái niệm về độ dài: khi đếm các chương tiếng Nhật trong những tác phẩm đã đăng trên Original Novel, trung vị độ dài một chương là 3.806 ký tự tiếng Nhật (khoảng 1.900 từ), và một nửa số chương nằm trong khoảng 3.215–4.126 ký tự (khoảng 1.600–2.100 từ) (ngày 14/11/2026, 227 chương). Một chương đọc cho đã thì riêng nó đã gần 2.000 từ. Cộng hồ sơ thiết lập, tóm tắt các chương trước và cả chương mới, có khi độ dài theo thiết lập ban đầu sẽ không đủ.

Vì vậy, mỗi lần chỉ đưa prompt gồm 3 phần: "hồ sơ thiết lập ngắn + tóm tắt cảnh ngay trước + một cảnh cần viết lần này". Hãy thay các chỗ "…" rồi dùng.

Bạn là một nhà văn viết bằng tiếng Việt. Hãy tuân thủ hồ sơ thiết lập dưới đây và chỉ viết đúng một cảnh.

[Hồ sơ thiết lập]
- Nhân vật chính: … (tuổi / câu cửa miệng "…" / cách xưng hô: "…")
- Nhân vật kia: … (quan hệ với nhân vật chính)
- Bối cảnh: … (thời đại, địa điểm, mùa)
- Những điều không được thay đổi: …

[Tóm tắt cảnh ngay trước (tối đa 3 dòng)]
…

[Cảnh cần viết lần này]
Cảnh … làm …. Khoảng 400 từ.
Nhiều thoại, kết thúc bằng một câu khiến người đọc tò mò muốn biết tiếp.
Không thêm tên hay sự kiện không có trong hồ sơ thiết lập.
Hình 4. Mẫu prompt cho model có độ dài nhớ được ngắn

Các cảnh viết xong, bạn tự dán nối vào một tệp văn bản. Mẹo là khi yêu cầu cảnh tiếp theo, hãy đưa bản tóm tắt chứ không đưa toàn văn. Viết xong một chương thì cho AI tóm tắt chương đó trong 3 dòng, rồi thêm vào hồ sơ thiết lập như "những điều đã quyết định"; nhờ vậy các chương sau ít bị mâu thuẫn hơn.

Trước khi đăng truyện, hãy xem điều kiện sử dụng của model

Model dùng local dù tải miễn phí thì điều kiện sử dụng (giấy phép) cũng khác nhau tùy model. Nếu chỉ viết để tự đọc thì ít phải lo, nhưng nếu đăng lên trang truyện hay in thành sách để bán, hãy kiểm tra 3 điều sau trên trang của model đó.

  • Có được dùng cho mục đích thương mại không: có model dùng giấy phép phổ biến cho phép dùng rộng rãi, cũng có model kèm điều kiện riêng
  • Có quy định ghi tên không: có model yêu cầu ghi tên hoặc kèm bản sao điều kiện khi phân phối chính model đó hay sản phẩm có tích hợp model
  • Những cách dùng bị cấm: có model đặt riêng "chính sách sử dụng" và lấy việc tuân thủ làm điều kiện

Ví dụ, Gemma 4 của Google được ghi trên trang phân phối là dùng giấy phép phổ biến Apache 2.0. Llama 3.1 của Meta dùng giấy phép riêng, yêu cầu tuân thủ chính sách sử dụng và ghi "Built with Llama" khi phân phối model, cùng một số điều khác. Ngoài ra, khác với Gemma 4, điều khoản sử dụng Gemma áp dụng cho các phiên bản trước đó nói rằng Google không đòi quyền đối với nội dung tạo ra bằng Gemma. Điều kiện thay đổi theo từng phiên bản, nên hãy kiểm tra trên trang của đúng phiên bản bạn dùng. Bản quyền của văn bản viết bằng AI, và quy định về AI của từng trang đăng truyện, là chuyện riêng, tách khỏi điều kiện của model.

Nên dùng AI local hay trang web trên trình duyệt?

Thế mạnh của AI local là bản thảo không rời khỏi máy, và bạn viết lại bao nhiêu lần cũng được mà không phải lo số lượt. Với người muốn AI viết tiếp truyện của mình từng chút một, hay muốn viết khi đang di chuyển không có mạng, đây là cái lợi không gì thay được.

Mặt khác, quản lý hồ sơ thiết lập, tranh minh họa, cho đến dịch sang ngôn ngữ khác, bạn đều phải tự ghép lại. Original Novel là trang web trên trình duyệt đảm nhận phần đó. Việc "lần nào cũng đưa hồ sơ thiết lập" mà bạn làm bằng tay với prompt mẫu trong bài này, trang web làm ngầm cho từng tác phẩm, và trước khi đăng mỗi chương, AI kiểm tra mâu thuẫn với các chương trước cũng như lỗi tên.

Bạn cũng có thể chia ra: bản thảo muốn tự do viết lại thì dùng local, còn truyện muốn giao luôn việc quản lý thiết lập và cho người khác đọc thì dùng trang web. Nếu có nhiều tác phẩm không muốn để bản thảo ra ngoài, hãy thử local trước; nếu muốn có ngay dạng đọc được, hãy thử trang web trước, như vậy sẽ đỡ công hơn.

Đọc thử truyện do AI viết

Xem thêm: Đọc thử truyện do AI viết ›

Đây là những truyện AI viết trên trang này, có tham chiếu hồ sơ thiết lập. Sắp xếp theo lượt đọc.

Nguồn tham khảo (ngày kiểm tra)

  1. System RequirementsLM Studio / tiếng Anh / Kiểm tra ngày 18/11/2026
  2. LM Studio Privacy PolicyLM Studio / tiếng Anh / Kiểm tra ngày 18/11/2026
  3. QuickstartOllama / tiếng Anh / Kiểm tra ngày 18/11/2026
  4. Local FAQOllama / tiếng Anh / Kiểm tra ngày 18/11/2026
  5. Context lengthOllama / tiếng Anh / Kiểm tra ngày 18/11/2026
  6. Gemma 4 model overviewGoogle AI for Developers / tiếng Anh / Kiểm tra ngày 18/11/2026
  7. Gemma Terms of UseGoogle AI for Developers / tiếng Anh / Kiểm tra ngày 18/11/2026
  8. Llama 3.1 Community License AgreementMeta / tiếng Anh / Kiểm tra ngày 18/11/2026

Câu hỏi thường gặp

AI chạy local có miễn phí không?

LM Studio tính việc chạy model trên máy của bạn vào phần sử dụng miễn phí, còn Ollama được phát hành theo giấy phép MIT. Nhiều model cũng tải về miễn phí. Tuy nhiên, cả hai công cụ đều có tính năng đám mây trả phí, và giá cũng như điều kiện có thể thay đổi, nên hãy kiểm tra trên trang chính thức.

Laptop không có GPU có cho AI viết truyện được không?

Tài liệu chính thức của Ollama có ghi rằng trên Linux, nếu không tìm thấy GPU NVIDIA thì sẽ chạy bằng CPU, và cũng có thiết lập để chỉ chạy bằng CPU. Nhưng LM Studio khuyến nghị trên Windows nên có GPU với bộ nhớ riêng từ 4GB trở lên, và tốc độ ra chữ sẽ thay đổi theo cấu hình máy. Cách chắc chắn nhất là cho model nhỏ nhất viết một cảnh ngắn, xem tốc độ và độ tự nhiên của câu văn rồi mới quyết định.

Điện thoại có chạy được AI local không?

Có những model được làm nhỏ riêng cho điện thoại, và trang chính thức của Gemma (Google) cũng ghi mức bộ nhớ cần cho các bản dành cho điện thoại. Tuy vậy, để viết truyện dài thì PC phù hợp hơn, xét về độ dài model nhớ được lẫn tốc độ. Nếu thử trên điện thoại, hãy bắt đầu từ bản nháp của một cảnh ngắn.

Truyện viết bằng AI local có kém hơn so với ChatGPT và các dịch vụ khác không?

Chênh lệch phụ thuộc nhiều vào kích thước model và lượng tiếng Việt mà model đã học. Những model đủ nhỏ để chạy trên máy tính gia đình có thể viết kém tự nhiên hơn so với các model lớn trên đám mây. Cách chắc nhất là đưa cùng một yêu cầu cho cả hai, rồi chọn bên hợp với tác phẩm của bạn.

GPU không phải NVIDIA (như AMD) có dùng được không?

Có trường hợp dùng được. Theo tài liệu chính thức của Ollama, ngoài GPU NVIDIA (compute capability 5.0 trở lên), GPU AMD có thể chạy nhanh qua ROCm v7 hoặc Vulkan, còn máy Mac qua Metal của Apple. Các mẫu GPU và phiên bản driver được hỗ trợ được quy định khá chi tiết, nên hãy kiểm tra trên trang chính thức xem GPU của bạn có trong danh sách không.

#người mới bắt đầu#prompt

Đọc thêm