模型行為詞條 5-09
Token 與費用Tokens & Cost
也常叫做:Token、Token 用量、計費單位
你可能會這樣說
使用付費的 AI 服務,帳單上出現的是 Token 用量而不是字數;也聽說上下文長度、費用通通跟 Token 有關。想弄懂它到底是什麼、怎麼估算花費。
白話解釋
Token 是模型處理文字的最小單位:一段文字會先被切成小片段——可能是一個字、半個詞或一個標點——模型讀的和計費的都是這些片段。
為什麼要切?因為模型不直接認得整個字,只認得片段對應的編號;大致上,中文一兩個字算一個 Token,英文大約四個字元算一個,貼一大包程式碼,用量很快就噴上去。
計費分輸入與輸出兩段:你送出的和它生成的分開算,輸出通常貴好幾倍——所以叫它重寫整頁,遠比只改一段燒錢。
親手試試
叫它重貼整份檔案,輸入瞬間翻倍;只請它改一段,輸出省好幾倍。
這樣對 AI 說
中文就可以
之後合作請幫我控制 Token 用量: 1. 回覆只給需要修改的段落,不要重貼整份檔案。 2. 沒被點名的檔案不要重複引用。 3. 說明控制在五行內,篇幅留給程式碼。 4. 當我的指令會大量消耗用量時,先提醒更省的替代方案。