LLM API 入門指南：從第一個請求到正式上線

你會寫程式。你聽過 LLM API。你試著讀官方文件，然後關掉了分頁。「Token 計數」「上下文視窗」「Temperature」「系統提示詞」。還有那些聽起來像星際大戰機器人的模型名稱——GPT-5.5、Claude Opus 4.8、Gemini 3.1 Pro。每篇教學都直接把這些名詞丟給你，卻不解釋它們的意思。每一篇都假設你已經懂了。於是你複製貼上一段範例。它跑起來了——大概吧。你不知道為什麼。你改不動它。你更不確定它能不能安心上線。每一個 API 請求看起來都差不多，直到你碰上一道莫名其妙的錯誤、一段亂掉的回應，或是一張出乎意料的帳單。

這份指南從零開始。不預設任何背景知識。沒有不附說明的術語。從「什麼是 API Key」到「我的 App 上線了」。每個概念都有能跑的程式碼。每個程式碼區塊複製貼上就能執行。讀到最後，你會擁有一支真正可用的 LLM App——而且確切知道它為什麼能運作。

什麼是 LLM API——實際上是怎麼運作的

30 秒快速版。 LLM API 就是一個 HTTP 端點。你把文字送過去，它把文字回傳。端點背後是一座大型語言模型——在數十億份文件上訓練出來的神經網路——運行在 GPU 叢集上。你不需要理解模型內部怎麼運作，就像開車不需要懂燃油噴射一樣。

當你的程式呼叫 client.chat.completions.create() 時會發生這些事：

Your code —HTTP POST to api.tokspan.com/v1 —GPU cluster processes your text —JSON response —your code

一趟來回通常 1～5 秒，取決於你送了多少文字、用了哪台模型。

Token，不是單字。 LLM 不數單字，而是數 Token——英文大約 0.75 個單字等於 1 個 Token。「The quick brown fox」是 4 個單字，卻是 5 個 Token。一篇 1,000 字的文章大約是 1,300 個 Token。這很重要，因為你是按 Token 付費：輸入 Token（你送出的文字）比輸出 Token（模型生成的文字）便宜。一個 200 Token 提示詞加上 500 Token 回應的典型請求，價格介於 $0.0001（最便宜的模型）到 $0.015（最貴的模型）之間。

上下文視窗——模型能「看到」多少。 每台模型都有輸入上限，以 Token 計算。到了 2026 年，多數旗艦模型支援 100 萬個 Token——大約 75 萬個單字，相當於整部《魔戒》三部曲。當你的對話紀錄加上系統提示詞與使用者訊息超過這個上限，API 就會回傳錯誤。做法是刪掉舊訊息，或把對話做摘要。

Temperature——模型有多「有創意」。 Temperature 的範圍是 0 到 2。設為 0 時，模型永遠選擇機率最高的下一個 Token——穩定、可預測，適合寫程式與事實型回答。設為 1 時取樣範圍更廣——變化更多，適合創作。設為 2 時會變得難以預測——偶爾適合腦力激盪，通常只是怪。多數 API 的預設值是 1.0。就從這裡開始。

系統訊息與使用者訊息。 每次 API 呼叫都有一個 messages 陣列。「系統」訊息設定模型的行為：「你是一位好用的程式設計助理。請用 TypeScript 回答。回答控制在 100 字以內。」「使用者」訊息則是你真正的問題或請求。模型會同時根據兩者回應。

OpenAI 相容標準。 2020 年的時候，每家 LLM API 都有自己的格式。到了 2026 年，90% 都遵循 OpenAI 的 Chat Completions API 格式——/v1/chat/completions，帶有 model、messages、temperature 參數。這代表你幾乎可以在任何供應商上使用 OpenAI 的 Python SDK，只要改兩行：base_url 和 api_key。這個標準化是初學者最需要理解的一件事——它代表你不會被綁死在任何一家供應商。

選擇第一台模型：別想太多

模型市場令人眼花撩亂——2026 年中已有超過 180 個選項。這裡是一套能幫你理出頭緒的決策框架。

從免費的開始。碰到上限再升級。

• 免費方案：Google AI Studio 上的 Google Gemini 2.5 Flash（每天 1,500 次請求，不需信用卡）。Groq 的免費方案（Llama 3.3 70B，每秒 300 Token）。GLM-4.7 Flash（永久免費，128K 上下文）。從這裡開始，做出原型、驗證想法。
• 預算方案（每百萬 Token $0.10～$0.50）：DeepSeek V4 Flash 是首選——$0.14/$0.28，程式品質只比 GPT-4o 差 1 分。每月不到 $10，就能跑一個處理數千筆對話的正式聊天機器人。
• 效能方案（每百萬 Token $2～$30）：GPT-5.5、Claude Opus 4.8、Gemini 3.1 Pro。當任務需要最深的推理深度，或答錯的代價高過 API 呼叫本身時使用。

給初學者的快速模型建議：

你想做什麼	先從這台開始	為什麼
聊天機器人	DeepSeek V4 Flash	$0.14/M，對話自然
程式產生器	DeepSeek V4 Pro	92% HumanEval、$0.44/M
文件分析器	Gemini 2.5 Flash	1M 上下文、有免費方案
寫作助理	GPT-5.4 Mini	$0.75/M、散文品質佳
「只是想試試」	Gemini Flash（免費）	零成本、零設定、每天 1,500 次

對初學者來說，聚合平台是一大優勢。 直接跟供應商打交道，每一台模型都要另外申請帳號。一個要支援地區的信用卡。另一個要中國的手機號碼。還有一個有 $5 的最低儲值。聚合平台給你一個帳號、一把 API Key，就能用上面表格裡的所有模型——包括免費的。你可以並排比較 GPT-5.5、Claude 和 Gemini，不用申請三個帳號，也不用先儲值 $15。這就是從「我有點好奇」到「我拿到回應了」的五分鐘路徑。

你的第一個 API 請求：Python + Node.js

Python——10 行程式。

# Install: pip install openai
from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokspan.com/v1",
    api_key="ts-your-key-here"  # Get yours at api.tokspan.com/sign-in
)

response = client.chat.completions.create(
    model="deepseek-v4-flash",
    messages=[
        {"role": "system", "content": "You are a helpful assistant. Keep answers under 50 words."},
        {"role": "user", "content": "What is an API key?"}
    ]
)

print(response.choices[0].message.content)

Node.js——10 行程式。

// Install: npm install openai
import OpenAI from 'openai';

const client = new OpenAI({
    baseURL: "https://api.tokspan.com/v1",
    apiKey: "ts-your-key-here"
});

const response = await client.chat.completions.create({
    model: "deepseek-v4-flash",
    messages: [
        { role: "system", content: "You are a helpful assistant. Keep answers under 50 words." },
        { role: "user", content: "What is an API key?" }
    ]
});

console.log(response.choices[0].message.content);

看懂回應物件。 你會用到的關鍵欄位：

• response.choices[0].message.content——模型的文字回應（你要顯示給使用者看的）
• response.choices[0].finish_reason——模型為什麼停下來："stop"（自然結束）、"length"（到達 max_tokens 上限）、"content_filter"（被安全過濾器擋下）
• response.usage.prompt_tokens——你的輸入消耗了多少 Token
• response.usage.completion_tokens——輸出消耗了多少 Token
• response.usage.total_tokens——兩者合計

初學者常見錯誤與它們的意思：

錯誤	發生什麼事	怎麼處理
401 Unauthorized	API Key 錯誤或沒帶	檢查 Key，確認沒有過期。
429 Too Many Requests	觸發速率限制	放慢速度，加上退避重試（backoff）。
403 Forbidden	地區不受支援或權限不足	改用聚合端點取得更廣泛的存取。
500 Internal Server Error	供應商端問題	退避後重試，持續發生就換模型。
context_length_exceeded	輸入太長	刪減對話紀錄，或改用更大上下文的模型。

在收到 $500 帳單前先搞懂計費

每個開發者在第一次成功呼叫後都會問：「這到底要花我多少錢？」

Token 計費是怎麼運作的。 每台模型分別對輸入 Token（你送出的文字——提示詞、對話紀錄、系統訊息）與輸出 Token（模型生成的文字）收費。輸入比較便宜，因為需要的運算較少。輸出比較貴，因為模型必須一個一個生成。

以 GPT-5.5 為例（輸入 $5.00/M、輸出 $30.00/M）：一個 500 輸入 Token + 1,000 輸出 Token 的請求是 (500/1,000,000 × $5) + (1,000/1,000,000 × $30) = $0.0025 + $0.03 = $0.0325。

會嚇到初學者的隱藏成本。 推理 Token（reasoning tokens）——GPT-5.5、Claude Opus 這類模型在回應前生成的內部思考鏈——照輸出費率計費，卻永遠不會出現在回應裡。一個顯示 500 個可見輸出 Token 的請求，背後可能消耗了 1,500 個推理 Token。你以為 $0.015 的請求，實際上是 $0.045。

提示詞長度膨脹是另一個沉默的推手——你原本 200 Token 的「簡單分類」提示詞，隨著一次次加入範例，會長到 2,500 Token。請每個月檢查一次自己的提示詞。

成本估算。 一個好用的經驗法則：算出每個請求的平均 Token 數（輸入＋輸出），乘上每日請求量，再用我們所有模型的價格比較指南裡的價格表算每月成本。用 DeepSeek V4 Flash 跑一個每天 200 筆對話、每筆 1,500 Token 的聊天機器人，每月大約 $2.50。

同樣的量改用 GPT-5.5，每月大約 $270。對大多數應用來說，決定帳單金額的不是請求量，而是模型選擇。

預算警示。 上線之前，先在平台層級設好硬性預算上限。一支沒寫終止條件的迴圈，每跑一次就呼叫一次 API，可能在你喝咖啡的十分鐘裡燒掉 $100 的 Token。預算上限會自動止血。多數聚合平台支援每個 Key 的消費上限——開發環境設 $10、正式環境前的測試設 $100、正式環境就設你的生產預算。

關於 Token 經濟學的完整說明——輸入與輸出計費、推理 Token、上下文視窗加價、成本估算方法——這篇文章已經全部涵蓋。正式環境的 Key 管理與安全性，則寫在完整的資安指南裡。

從原型到上線：8 大檢查清單

你的原型能跑了，也拿到回應了。這是讓真實使用者碰到它之前，你需要完成的項目。

1. 把 API Key 移到環境變數。 絕對不要把 Key 寫死在原始碼裡。只要一次 git push 到公開倉庫、裡面藏著寫死的 Key，幾個小時內就可能被盜刷數千美元。改用 os.environ.get("TOKSPAN_API_KEY") 或 process.env.TOKSPAN_API_KEY。把 .env 加進 .gitignore。

2. 加上錯誤處理。 網路逾時、速率限制、供應商停機，這些都會發生。每次 API 呼叫都需要 try/except：處理 429（退避重試）、5xx（換模型重試）、逾時（重試一次後優雅失敗）。一條三行的備援鏈——先試模型 A，例外就試模型 B，再例外就回傳錯誤——能避免「聊天機器人掛了」變成使用者看得見的問題。

3. 實作串流。 非串流回應要讓使用者乾等 3～8 秒才看到內容。串流則能在 0.3～0.8 秒內顯示第一個 Token。體感效能差距非常明顯。設 stream=True 然後逐塊讀取——成本一樣，UX 卻好得多。

4. 在自己這端加上速率限制。 保護預算不被失控的迴圈吃光。一個把請求限制在每分鐘 60 次的簡單 Token Bucket，只要 10 行程式，就能擋掉「我把腳本丟著跑了一整晚」的週一早晨恐慌。

5. 設定記錄。 記錄每一次 API 呼叫：時間戳、模型、消耗 Token、成本、使用者 ID。當財務長問你「這張 $800 的 API 帳單是什麼」，你能在使用者、功能、模型三個維度拉出精確數字——連問題都還沒問完。

6. 設定備援模型。 如果主要模型連續 30 秒回傳錯誤，自動切到備援。使用者不知道也不需要知道是哪台模型回應的——他們只在乎回應有沒有到。

7. 把提示詞納入版本控制。 把提示詞當程式碼對待：放進版本控制，上線前測試改動。一個看似微不足道的提示詞調整，可能讓 Token 消耗變三倍，或讓輸出品質出現意料之外的變化。

8. 每天盯成本。 不是每個月。星期二發現的 $10/天異常是 $50 的問題；同樣的異常拖到月底才發現，就變成 $300 的問題。建立一份 10 秒就能掃完的每日成本摘要。

聚合平台這條捷徑

上面清單的每一項，你都可以自己做。或者——第 2、5、6、8 項——聚合平台本來就內建。自動備援、內建成本記錄、每日用量摘要、平台層級的速率限制管理。

對個人開發者或小團隊來說，問題不是「我能不能自己蓋」，而是「我該把第一個禮拜花在蓋 LLM 基礎設施，還是花在開發我的產品」。聚合平台的答案是：做你的產品。基礎設施已經在那裡了。

什麼時候該直接接供應商：你需要平台沒有的特定企業合規認證；你的規模大到平台的 Token 加價（如果有的話）超過自己建 gateway 的成本；你有一支專職的 ML 基礎設施團隊。除此之外的所有人，聚合平台五分鐘的開始，都勝過直接對接兩週的基礎設施建置。

常見問題

開始用 LLM API 需要信用卡嗎？

如果用免費方案（Google AI Studio、Groq、GLM-4.7 Flash），或支援替代支付（Alipay、WeChat、PayPal）的聚合平台，就不需要。完整的免費方案說明請見最便宜的 LLM API 指南。

哪種程式語言最適合 LLM API？

Python 的 SDK 支援與社群最完整。JavaScript/TypeScript 緊接在後。兩者都很好用。用你們團隊已經熟悉的語言就好。API 就是 HTTP + JSON，任何有 HTTP client 的語言都呼叫得了。

跑一個小專案要花多少錢？

用量中等（每天 50～200 次請求）的個人專案，每月 $5～20。聚合平台可以用 $5 的預付餘額起步，沒有月費承諾。詳細設定步驟請看TokSpan 快速入門指南。

GPT-5.5 跟 GPT-5.4 差在哪？

GPT-5.5 是最新的旗艦模型（每 1M Token $5/$30），基準測試分數最高。GPT-5.4 落後一個世代，但便宜一半（$2.50/$15）。對大多數任務——摘要、分類、簡單程式——GPT-5.4 更划算。需要最大推理深度時才用 GPT-5.5。

以後可以不用改寫 App 就換模型嗎？

可以，只要你用的是 OpenAI SDK 的寫法。改一個 model= 參數字串就行。聚合平台讓這件事更簡單——所有模型共用同一個端點。在正式環境測試新模型，改一行設定就好，不用動任何一支程式。

你的第一個 LLM API 呼叫花了 10 行程式。你的上線檢查清單有 8 項。填補中間差距的是經驗——而最快的補法，就是送出第二個呼叫：換一台模型、用同一個 SDK，然後觀察回應怎麼分道揚鑣。

輪到你了：打開終端機，貼上「你的第一個 API 請求」那一節的 10 行 Python 範例，把 "deepseek-v4-flash" 改成 "gpt-5.5"，兩個都送出。比較延遲、輸出風格和成本。這個五分鐘練習教會你的模型選擇知識，比任何價格表都多。

送出你的第一次比較呼叫——一個端點、所有主要模型、零前期成本。