iPAS AI 應用規劃師初級 115 年第一次 科一 第 41 題 詳解

115 年第一次 科一 人工智慧基礎概論 · 考點:資料整理與分析流程

在大型語言模型(LLM)的效能優化中,Flash Attention常被用來改善Transformer注意力機制的運算效率。關於Flash Attention的主要效益,下列敘述何者最正確?

  1. A透過忽略影響較小的注意力權重,減少模型需要計算的關聯數量,以降低運算成本

    忽略小權重屬稀疏注意力,會改變計算結果。

  2. B透過調整注意力計算與資料處理方式,減少中間結果的儲存需求,進而改善速度與資源使用效率(正確答案)

    分塊計算並減少中間矩陣讀寫,正解。

  3. C透過增加注意力計算的並行程度,使模型可同時處理更多注意力頭部

    多頭平行是原始架構本來就有的特性。

  4. D透過將注意力結果暫存於高速快取記憶體,以避免重複計算造成延遲

    重點不是快取結果,而是不產生完整中間矩陣。

正確答案:B

考 Flash Attention 對 Transformer 注意力運算的實際優化原理。 看到模型加速題,先分清楚是「改動演算法結果」還是「只改記憶體存取方式」。

用刷8題準備 iPAS AI 應用規劃師初級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

資料整理與分析流程

  1. 115 年第一次 科一 第 44 題某零售業者建立顧客行為預測模型,資料集中包含「年消費金額」、「平均單筆交易金額」及「會員年資」等數值型特徵。資料分析顯示…
  2. 115 年第一次 科一 第 48 題某物流公司想導入AI以提升營運效率,評估不同資料型態與模型架構。下列哪一種應用情境最適合採用卷積神經網路(Convolu…
  3. 114 年第四次 科一 第 2 題下列哪一種特徵工程技巧,最適合將「星期幾」和「24小時制時間」這兩個欄位結合,以預測通勤時間?
  4. 114 年第四次 科一 第 3 題關於ETL(Extract-Transform-Load),下列敘述何者為正確?
  5. 114 年第四次 科一 第 5 題在機器學習中,「偏差與變異權衡(Bias-Variance Tradeoff)」主要用來解決下列哪一類型的問題?