T05

資料投毒

Data Poisoning

簡短答案

攻擊者在訓練資料中注入惡意樣本,使模型學習錯誤行為的攻擊方式。

深入解釋

投毒攻擊可使模型在特定觸發條件下(後門攻擊)或整體上(降低準確率)表現異常。影響 AI 供應鏈安全,使用公開資料集訓練時需注意。

實際案例

在公開圖像資料集中注入標記錯誤的樣本,使訓練後的模型特定圖片辨識失敗。

本頁為 AIATCL 備考用非官方內容;考試資訊請以主辦單位公告為準。