iPAS AI 應用規劃師初級 115 年第二次 科二 第 4 題 詳解

115 年第二次 科二 生成式 AI 應用與規劃

在使用API串接生成式AI服務時，Token會影響模型的計費。請問下列何者最正確敘述Token在LLM應用中的意義？

1. AToken是模型將文字切分後的基本單位，通常與字詞或子詞對應，文件長度與Token數量具有一定關聯性

   只講斷詞定義，沒回應長度上限與計費，答得不夠到位。

2. BToken是模型用來表示整段文字語意的向量單位，用於理解輸入內容的語意結構

   表示整段語意的向量是嵌入向量的工作，非 Token。

3. CToken的數量會影響模型的輸入輸出長度與計費，而上下文長度受限於模型可處理的最大Token數量（正確答案）

   同時涵蓋計費單位與上下文視窗上限，最貼合題幹情境。

4. DToken只影響模型的運算速度，不影響API的使用成本

   Token 直接決定 API 費用，說不影響成本明顯錯誤。