模型行為詞條 5-09

Token 與費用Tokens & Cost

也常叫做:Token、Token 用量、計費單位

你可能會這樣說

使用付費的 AI 服務,帳單上出現的是 Token 用量而不是字數;也聽說上下文長度、費用通通跟 Token 有關。想弄懂它到底是什麼、怎麼估算花費。

白話解釋

Token 是模型處理文字的最小單位:一段文字會先被切成小片段——可能是一個字、半個詞或一個標點——模型讀的和計費的都是這些片段。

為什麼要切?因為模型不直接認得整個字,只認得片段對應的編號;大致上,中文一兩個字算一個 Token,英文大約四個字元算一個,貼一大包程式碼,用量很快就噴上去。

計費分輸入與輸出兩段:你送出的和它生成的分開算,輸出通常貴好幾倍——所以叫它重寫整頁,遠比只改一段燒錢。

親手試試

輸入 tokens(中文約 2 字=1)
輸出 tokens
輸出單價若 3 倍,占這次費用的百分比

叫它重貼整份檔案,輸入瞬間翻倍;只請它改一段,輸出省好幾倍。

圖 5-9 字數換算 tokens:輸出單價比較貴,別叫它整篇重寫。

這樣對 AI 說

中文就可以
之後合作請幫我控制 Token 用量:
1. 回覆只給需要修改的段落,不要重貼整份檔案。
2. 沒被點名的檔案不要重複引用。
3. 說明控制在五行內,篇幅留給程式碼。
4. 當我的指令會大量消耗用量時,先提醒更省的替代方案。

同一課的其他詞