iPAS AI 應用規劃師初級 114 年第四次 科一 第 28 題 詳解
114 年第四次 科一 人工智慧基礎概論 · 考點:機器學習基本原理
對非常長的輸入序列進行推理(Inference),Transformer模型推理的主要計算瓶頸通常是什麼?
- A模型輸出層產生文本的過程,因為每生成一個詞都必須重新訓練整個模型一次
推理不會重新訓練模型,敘述本身違反基本流程。
- B詞嵌入(Embedding)查找操作,因為其時間複雜度隨詞彙表大小指數級增長
詞嵌入只是查表,成本固定且極低。
- CSoftmax函數的計算,因為對每個Token都需要執行繁重的運算
Softmax對每個Token是線性成本,非主要瓶頸。
- D自注意力層的計算和其記憶體使用,因為注意力矩陣的大小隨序列長度呈平方級增長(正確答案)
注意力矩陣為序列長度的平方,記憶體與算力同時爆增。
正確答案:D
考自注意力機制的計算複雜度與長序列推理瓶頸。 問模型效能瓶頸時,先鎖定隨輸入長度非線性成長的運算結構。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
機器學習基本原理
- 114 年第四次 科一 第 32 題在統計推論中,若樣本來自母體但呈現明顯偏態分布,且樣本數有限,下列哪一項策略最能減少推估母體參數的偏誤?
- 114 年第四次 科一 第 36 題某電商資料團隊要協助行銷部門規劃再行銷策略。目前取得資料包含使用者點擊、購買紀錄、流量來源與轉換率。若資料團隊希望先進行…
- 114 年第四次 科一 第 39 題某醫院計畫開發住院日數預測模型,以協助病房調度。多數病人的住院日數集中在3–7天,但仍有少數重症患者因治療需求而住院日數…
- 114 年第四次 科一 第 47 題在訓練神經網路時,為了提升模型收斂速度與穩定性,避免梯度消失或梯度爆炸,下列哪一種做法最常被使用?
- 115 年第三次 科一 第 18 題某公共衛生研究中心建置民眾健康資料分析平台,提供研究人員查詢各地區慢性病患者的統計資訊。為防範研究人員透過多次查詢不同條…