T05

模型竊取攻擊

Model Stealing Attack

簡短答案

攻擊者透過大量查詢 AI 服務 API,逆向複製出功能相似模型的攻擊方式。

深入解釋

即使 API 只回傳預測結果,攻擊者仍能從輸入輸出對推斷模型行為。防禦方式包含限制查詢頻率、添加輸出噪聲、監控異常查詢模式。

實際案例

競業公司大量查詢某 AI 翻譯服務,使用回應結果訓練出功能相似的自有模型。

本頁為 AIATCL 備考用非官方內容;考試資訊請以主辦單位公告為準。