Bạn biết viết code. Bạn đã nghe về LLM API. Bạn thử đọc tài liệu rồi đóng tab lại. “Đếm token”. “Cửa sổ ngữ cảnh”. “Temperature”. “System prompt”. Những cái tên model nghe như robot trong Star Wars —GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro. Mỗi bài hướng dẫn đều ném các thuật ngữ này vào bạn. Không bài nào giải thích chúng có nghĩa là gì. Tất cả đều giả định bạn đã biết. Thế là bạn copy-paste một đoạn code. Nó chạy —kiểu như vậy. Bạn không hiểu vì sao. Bạn không thể chỉnh sửa. Và bạn chắc chắn không biết nó có an toàn để đưa lên sản xuất hay không. Một request API trông giống hệt request khác, cho đến khi bạn gặp một lỗi khó hiểu, một phản hồi bị lỗi, hoặc một hóa đơn mà bạn không lường trước.
Hướng dẫn này bắt đầu từ con số không. Không giả định kiến thức. Không biệt ngữ mà không giải thích. Từ “API key là gì” đến “ứng dụng của tôi đang chạy trong sản xuất”. Mỗi khái niệm đều có code chạy được. Mỗi khối code đều chạy nếu bạn copy-paste. Kết thúc bài, bạn sẽ có ứng dụng LLM thực sự đầu tiên —và biết chính xác vì sao nó hoạt động.
LLM API là gì —và chúng thực sự hoạt động như thế nào
Phiên bản 30 giây. LLM API là một HTTP endpoint. Bạn gửi văn bản đến, nó trả văn bản về. Đằng sau endpoint là một mô hình ngôn ngữ lớn —mạng nơ-ron được huấn luyện trên hàng tỷ tài liệu— chạy trên các cụm GPU. Bạn không cần hiểu model hoạt động bên trong như thế nào, giống như bạn không cần hiểu hệ thống phun nhiên liệu để lái xe.
Đây là điều xảy ra khi code của bạn gọi client.chat.completions.create():
Your code —HTTP POST to api.tokspan.com/v1 —GPU cluster processes your text —JSON response —your codeMột vòng khứ hồi thường mất 1–5 giây, tùy thuộc vào lượng văn bản bạn gửi và model bạn dùng.
Token, không phải từ. LLM không đếm từ. Chúng đếm token —khoảng 0.75 từ mỗi token trong tiếng Anh. “The quick brown fox” là 4 từ nhưng 5 token. Một bài viết 1,000 từ là khoảng 1,300 token. Điều này quan trọng vì bạn trả tiền theo token: token đầu vào (thứ bạn gửi) rẻ hơn token đầu ra (thứ model tạo ra). Một request điển hình với prompt 200 token và phản hồi 500 token có giá từ $0.0001 (model rẻ nhất) đến $0.015 (model đắt nhất).
Cửa sổ ngữ cảnh —model có thể “nhìn” bao nhiêu. Mỗi model có kích thước đầu vào tối đa, đo bằng token. Vào năm 2026, hầu hết các model hàng đầu hỗ trợ 1 triệu token —khoảng 750,000 từ, tương đương toàn bộ bộ ba Chúa tể những chiếc nhẫn. Khi lịch sử hội thoại + system prompt + tin nhắn người dùng vượt giới hạn này, API trả về lỗi. Bạn xử lý bằng cách cắt bớt tin nhắn cũ hoặc tóm tắt cuộc hội thoại.
Temperature —model “sáng tạo” đến mức nào. Temperature nằm trong khoảng từ 0 đến 2. Ở mức 0, model luôn chọn token tiếp theo có xác suất cao nhất —xác định, dự đoán được, tốt cho code và câu trả lời thực tế. Ở mức 1, nó lấy mẫu rộng hơn —đa dạng hơn, tốt cho viết sáng tạo. Ở mức 2, nó trở nên khó dự đoán —thỉnh thoảng hữu ích cho việc động não, thường chỉ là kỳ lạ. Mặc định trong hầu hết API: 1.0. Hãy bắt đầu từ đó.
Tin nhắn hệ thống và người dùng. Mỗi request đều có một mảng messages. Tin nhắn “system” đặt hành vi của model: “Bạn là trợ lý lập trình hữu ích. Trả lời bằng TypeScript. Giữ câu trả lời dưới 100 từ.” Tin nhắn “user” là câu hỏi hoặc yêu cầu thực tế. Model phản hồi dựa trên cả hai.
Tiêu chuẩn tương thích OpenAI. Năm 2020, mỗi LLM API có một định dạng riêng. Đến năm 2026, 90% tuân theo định dạng Chat Completions API của OpenAI —/v1/chat/completions với các tham số model, messages và temperature. Điều này có nghĩa là bạn có thể dùng SDK Python của OpenAI với gần như mọi nhà cung cấp bằng cách đổi hai dòng: base_url và api_key. Sự tiêu chuẩn hóa này là điều quan trọng nhất mà người mới cần hiểu —nó có nghĩa là bạn không bị ràng buộc vào bất kỳ nhà cung cấp nào.
Chọn model đầu tiên: đừng suy nghĩ quá nhiều
Thị trường model choáng ngợp —hơn 180 lựa chọn tính đến giữa năm 2026. Đây là khung quyết định giúp bạn xuyên qua tất cả.
Bắt đầu miễn phí. Nâng cấp khi chạm giới hạn.
- Gói miễn phí: Google Gemini 2.5 Flash qua Google AI Studio (1,500 request/ngày, không cần thẻ tín dụng). Gói miễn phí của Groq (Llama 3.3 70B với 300 token/giây). GLM-4.7 Flash (miễn phí vĩnh viễn, ngữ cảnh 128K). Bắt đầu tại đây. Xây dựng nguyên mẫu. Kiểm chứng ý tưởng.
- Gói tiết kiệm ($0.10–$0.50 mỗi triệu token): DeepSeek V4 Flash là lựa chọn hàng đầu —$0.14/$0.28, chất lượng code trong khoảng 1 điểm so với GPT-4o. Với chưa đến $10/tháng, bạn có thể chạy một chatbot sản xuất xử lý hàng nghìn hội thoại.
- Gói cao cấp ($2–$30 mỗi triệu): GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro. Dùng khi tác vụ đòi hỏi độ sâu suy luận tối đa hoặc khi một câu trả lời sai tốn kém hơn request API.
Gợi ý model nhanh cho người mới:
| Bạn đang xây dựng gì | Bắt đầu với | Vì sao |
|---|---|---|
| Chatbot | DeepSeek V4 Flash | $0.14/M, xử lý hội thoại tự nhiên |
| Trình tạo code | DeepSeek V4 Pro | 92% HumanEval, $0.44/M |
| Trình phân tích tài liệu | Gemini 2.5 Flash | Ngữ cảnh 1M, có gói miễn phí |
| Trợ lý viết lách | GPT-5.4 Mini | $0.75/M, chất lượng văn xuôi tốt |
| ”Chỉ muốn thử” | Gemini Flash (miễn phí) | Không tốn phí, không cấu hình, 1,500 req/ngày |
Lợi thế của nền tảng tổng hợp đối với người mới. Truy cập trực tiếp nhà cung cấp đòi hỏi tạo tài khoản riêng cho từng model bạn muốn thử. Mỗi nơi có yêu cầu khu vực, bước xác minh và khoản nạp tối thiểu riêng. Nền tảng tổng hợp cho bạn một tài khoản, một API key và quyền truy cập mọi model trong bảng trên —kể cả các model miễn phí. Bạn có thể thử GPT-5.5, Claude và Gemini song song mà không cần tạo ba tài khoản hay nạp $15 số dư tối thiểu. Đó là con đường năm phút từ “tôi tò mò” đến “tôi có phản hồi”.
Request API đầu tiên của bạn: Python + Node.js
Python —10 dòng.
# Install: pip install openai
from openai import OpenAI
client = OpenAI(
base_url="https://api.tokspan.com/v1",
api_key="ts-your-key-here" # Get yours at api.tokspan.com/sign-in
)
response = client.chat.completions.create(
model="deepseek-v4-flash",
messages=[
{"role": "system", "content": "You are a helpful assistant. Keep answers under 50 words."},
{"role": "user", "content": "What is an API key?"}
]
)
print(response.choices[0].message.content)Node.js —10 dòng.
// Install: npm install openai
import OpenAI from 'openai';
const client = new OpenAI({
baseURL: "https://api.tokspan.com/v1",
apiKey: "ts-your-key-here"
});
const response = await client.chat.completions.create({
model: "deepseek-v4-flash",
messages: [
{ role: "system", content: "You are a helpful assistant. Keep answers under 50 words." },
{ role: "user", content: "What is an API key?" }
]
});
console.log(response.choices[0].message.content);Hiểu đối tượng phản hồi. Các trường chính bạn sẽ dùng:
response.choices[0].message.content—phản hồi văn bản của model (thứ bạn hiển thị cho người dùng)response.choices[0].finish_reason—vì sao model dừng:"stop"(kết thúc tự nhiên),"length"(chạm giới hạn max_tokens),"content_filter"(bị bộ lọc an toàn chặn)response.usage.prompt_tokens—đầu vào của bạn tiêu thụ bao nhiêu tokenresponse.usage.completion_tokens—đầu ra tiêu thụ bao nhiêu tokenresponse.usage.total_tokens—tổng của cả hai
Lỗi thường gặp của người mới và ý nghĩa:
| Lỗi | Điều gì đã xảy ra | Cách xử lý |
|---|---|---|
401 Unauthorized | API key sai hoặc thiếu | Kiểm tra key. Đảm bảo nó chưa hết hạn. |
429 Too Many Requests | Chạm giới hạn tốc độ | Giảm tốc độ. Thêm logic retry với backoff. |
403 Forbidden | Vùng không được hỗ trợ hoặc key thiếu quyền | Dùng endpoint tổng hợp để truy cập rộng hơn. |
500 Internal Server Error | Sự cố phía nhà cung cấp | Retry với backoff. Nếu kéo dài, đổi model. |
context_length_exceeded | Đầu vào quá dài | Cắt lịch sử hội thoại hoặc dùng model có ngữ cảnh lớn hơn. |
Hiểu giá trước khi nhận hóa đơn $500 bất ngờ
Câu hỏi mà mọi lập trình viên đặt ra sau request API thành công đầu tiên: “cái này tốn bao nhiêu?”
Cách tính phí token hoạt động. Mỗi model tính phí riêng cho token đầu vào (văn bản bạn gửi —prompt, lịch sử hội thoại, tin nhắn hệ thống) và token đầu ra (văn bản model tạo ra). Token đầu vào rẻ hơn vì cần ít tính toán hơn. Token đầu ra đắt hơn vì model tạo chúng từng cái một.
Ví dụ với GPT-5.5 ở mức $5.00/M đầu vào và $30.00/M đầu ra: một request với 500 token đầu vào và 1,000 token đầu ra có giá (500/1,000,000 × $5) + (1,000/1,000,000 × $30) = $0.0025 + $0.03 = $0.0325.
Chi phí ẩn khiến người mới bất ngờ. Reasoning token —chuỗi suy luận nội bộ mà các model như GPT-5.5 và Claude Opus tạo ra trước khi trả lời— được tính theo mức giá đầu ra nhưng không bao giờ xuất hiện trong phản hồi. Một request hiển thị 500 token đầu ra có thể đã tiêu thụ 1,500 reasoning token phía sau hậu trường. Request $0.015 của bạn thực chất tốn $0.045.
Chiều dài prompt tăng dần là yếu tố chi phí thầm lặng khác —prompt “phân loại đơn giản” 200 token của bạn phình to thành 2,500 token khi bạn thêm ví dụ theo thời gian. Hãy rà soát prompt hàng tháng.
Ước tính chi phí. Một quy tắc hữu ích: xác định token trung bình mỗi request (đầu vào + đầu ra), nhân với khối lượng request hàng ngày, rồi dùng bảng giá trong hướng dẫn so sánh giá mọi model của chúng tôi để tính chi phí hàng tháng. Một chatbot xử lý 200 hội thoại/ngày với 1,500 token mỗi hội thoại dùng DeepSeek V4 Flash tốn khoảng $2.50/tháng.
Cùng khối lượng đó với GPT-5.5 tốn khoảng $270/tháng. Lựa chọn model —chứ không phải khối lượng request— chi phối hóa đơn của bạn trong hầu hết ứng dụng.
Cảnh báo ngân sách. Đặt giới hạn ngân sách cứng ở cấp nền tảng trước khi triển khai. Một vòng lặp không kết thúc gọi API mỗi vòng có thể đốt $100 token trong lúc bạn đang uống cà phê. Giới hạn ngân sách tự động chặn sự tiêu hao này. Hầu hết nền tảng tổng hợp hỗ trợ giới hạn chi tiêu theo key —đặt $10 cho phát triển, $100 cho staging và ngân sách sản xuất của bạn cho sản xuất.
Để hiểu đầy đủ về kinh tế token —giá đầu vào so với đầu ra, reasoning token, phụ phí cửa sổ ngữ cảnh và cách ước tính chi phí— bài viết này đã bao quát mọi thứ ở trên. Quản lý key và bảo mật trong sản xuất được trình bày riêng trong hướng dẫn bảo mật toàn diện của chúng tôi.
Từ nguyên mẫu đến sản xuất: checklist 8 điểm
Nguyên mẫu của bạn hoạt động. Bạn đã có phản hồi. Đây là những gì bạn cần trước khi người dùng thực tế chạm vào nó.
1. Chuyển API key vào biến môi trường. Không bao giờ hardcode key trong tệp mã nguồn. Một lần git push lên repo công khai với key bị hardcode có thể dẫn đến hàng nghìn đô la sử dụng trái phép trong vài giờ. Dùng os.environ.get("TOKSPAN_API_KEY") hoặc process.env.TOKSPAN_API_KEY. Thêm .env vào .gitignore.
2. Thêm xử lý lỗi. Timeout mạng, giới hạn tốc độ và sự cố nhà cung cấp đều xảy ra. Mỗi request API cần try/except xử lý 429 (backoff và retry), 5xx (retry với model khác) và timeout (retry một lần rồi thoát lỗi một cách nhẹ nhàng). Một chuỗi fallback ba dòng —thử model A, nếu lỗi thử model B, nếu lỗi trả về lỗi— ngăn “chatbot sập” trở thành vấn đề người dùng nhìn thấy được.
3. Triển khai streaming. Phản hồi không streaming khiến người dùng chờ 3–8 giây trước khi thấy bất cứ điều gì. Streaming hiển thị token đầu tiên trong 0.3–0.8 giây. Khác biệt về hiệu suất cảm nhận là rất lớn. Đặt stream=True và lặp qua các chunk —cùng chi phí, UX tốt hơn nhiều.
4. Thêm giới hạn tốc độ phía bạn. Bảo vệ ngân sách khỏi các vòng lặp chạy không kiểm soát. Một token bucket đơn giản giới hạn request ở mức 60/phút chỉ tốn 10 dòng code và ngăn cơn hoảng loạn sáng thứ Hai “tôi để script chạy qua đêm”.
5. Thiết lập logging. Ghi log mọi request: dấu thời gian, model, token tiêu thụ, chi phí và ID người dùng. Khi CFO hỏi “hóa đơn API $800 này là gì”, bạn đưa ra con số chính xác theo người dùng, tính năng và model —trước khi câu hỏi được nói xong.
6. Cấu hình model dự phòng. Nếu model chính trả lỗi quá 30 giây, tự động chuyển sang dự phòng. Người dùng không biết và không quan tâm model nào phục vụ yêu cầu của họ —họ chỉ quan tâm phản hồi đến nơi.
7. Quản lý phiên bản prompt. Coi prompt như code. Lưu trong hệ thống quản lý phiên bản. Kiểm tra thay đổi trước khi triển khai. Một điều chỉnh prompt tưởng chừng nhỏ có thể tăng gấp 3 lần tiêu thụ token hoặc thay đổi chất lượng đầu ra theo cách không lường trước.
8. Giám sát chi phí hàng ngày. Không phải hàng tháng. Một bất thường $10/ngày phát hiện vào thứ Ba là vấn đề $50. Bất thường tương tự bị bỏ lỡ đến cuối tháng là vấn đề $300. Thiết lập bản tóm tắt chi phí hàng ngày chỉ mất 10 giây để đọc.
Con đường tắt qua nền tảng tổng hợp
Mỗi mục trong checklist trên bạn đều có thể tự xây dựng. Hoặc —với mục 2, 5, 6 và 8— thứ mà nền tảng tổng hợp cung cấp sẵn. Fallback tự động. Logging chi phí tích hợp. Tóm tắt sử dụng hàng ngày. Quản lý giới hạn tốc độ ở cấp nền tảng.
Đối với lập trình viên độc lập hoặc đội nhóm nhỏ, câu hỏi không phải “tôi có thể xây dựng thứ này không?” mà là “tôi nên dành tuần đầu tiên để xây dựng hạ tầng LLM, hay dành nó để xây dựng sản phẩm của mình?” Câu trả lời của nền tảng tổng hợp: hãy xây dựng sản phẩm. Hạ tầng đã sẵn sàng.
Khi nào nên dùng trực tiếp: bạn cần các chứng nhận tuân thủ doanh nghiệp cụ thể mà nền tảng của bạn không có. Bạn vận hành ở quy mô mà phần chênh lệch giá token của nền tảng (nếu có) vượt quá chi phí xây dựng và duy trì gateway riêng. Bạn có đội ngũ hạ tầng ML chuyên trách. Với tất cả những người khác, khởi đầu năm phút của nền tảng tổng hợp vượt trội so với hai tuần thiết lập hạ tầng khi dùng trực tiếp.
Câu hỏi thường gặp
Tôi có cần thẻ tín dụng để bắt đầu dùng LLM API không?
Không, với các gói miễn phí (Google AI Studio, Groq, GLM-4.7 Flash) hoặc nền tảng tổng hợp chấp nhận phương thức thanh toán thay thế (Alipay, WeChat, PayPal). Xem hướng dẫn LLM API rẻ nhất của chúng tôi để biết chi tiết đầy đủ về các gói miễn phí.
Ngôn ngữ lập trình nào tốt nhất cho LLM API?
Python có hỗ trợ SDK tốt nhất và cộng đồng lớn nhất. JavaScript/TypeScript xếp thứ hai sát sao. Cả hai đều hoạt động tốt. Dùng ngôn ngữ mà đội của bạn đã biết. API là HTTP + JSON —bất kỳ ngôn ngữ nào có HTTP client đều gọi được.
Chạy một dự án nhỏ tốn bao nhiêu?
$5–20/tháng cho một dự án cá nhân với mức sử dụng vừa phải (50–200 request/ngày). Nền tảng tổng hợp cho phép bạn bắt đầu với số dư trả trước $5 —không cam kết hàng tháng. Hướng dẫn khởi đầu nhanh TokSpan của chúng tôi mô tả quy trình thiết lập chính xác.
Sự khác biệt giữa GPT-5.5 và GPT-5.4 là gì?
GPT-5.5 là model hàng đầu mới nhất ($5/$30 mỗi 1M token) với điểm benchmark cao nhất. GPT-5.4 thế hệ cũ hơn nhưng rẻ gấp 2 ($2.50/$15). Với hầu hết tác vụ —tóm tắt, phân loại, code đơn giản— GPT-5.4 đáng giá hơn. Dùng GPT-5.5 khi tác vụ đòi hỏi độ sâu suy luận tối đa.
Tôi có thể đổi model sau này mà không viết lại ứng dụng không?
Có, nếu bạn dùng mẫu SDK của OpenAI. Chỉ cần đổi một tham số model=. Nền tảng tổng hợp làm điều này trở nên đơn giản —mọi model đều khả dụng qua cùng một endpoint. Kiểm thử model mới trong sản xuất bằng cách đổi một dòng cấu hình, chứ không phải một kho mã nguồn.
Request LLM API đầu tiên của bạn chỉ mất 10 dòng code. Checklist sản xuất của bạn có 8 điểm. Khoảng cách giữa chúng là kinh nghiệm —và cách nhanh nhất để thu hẹp là gửi request thứ hai với một model khác, cùng SDK, và quan sát phản hồi phân kỳ như thế nào.
Đến lượt bạn: mở terminal. Dán ví dụ Python 10 dòng từ phần “Request API đầu tiên”. Đổi chuỗi model từ "deepseek-v4-flash" thành "gpt-5.5". Gửi cả hai. So sánh độ trễ, phong cách đầu ra và chi phí. Đó là bài tập năm phút dạy bạn về lựa chọn model nhiều hơn bất kỳ bảng giá nào.
Gửi request so sánh đầu tiên của bạn —một endpoint, mọi model chính, không mất chi phí ban đầu.