新知特寫

首頁> 新知特寫> 深偽技術的挑戰與因應策略
深偽技術的挑戰與因應策略 Artificial Realities: Mitigations against Deepfakes
隨著社交媒體成為主要的新聞來源,深偽技術(deepfakes)帶來了前所未有的挑戰。這種技術利用人工智慧生成逼真的虛假音頻和影像,迅速擴散,嚴重威脅公眾信任和資訊安全。加拿大智庫國際治理創新中心 (CIGI)的一篇研究報告(Artificial Realities: Mitigations against Deepfakes)顯示,重度依賴社交媒體的用戶更容易相信虛假訊息,而深偽技術的普及加劇了這一問題。深偽技術能創造出真假難辨的內容。即使技術水準有限的個體,也能生成並散佈深偽內容,擴大了其影響範圍。為因應此威脅,報告提出了四種主要的緩解策略:(1) 立法和監管措施:各國政府已開始關注深偽問題。例如,美國於2023年推出《深偽問責法》(DEEPFAKES Accountability Act),要求AI生成內容標示水印,禁止冒充個人,並提供法律救濟。加州和德州等也制定了相關法律,以保護選舉過程和防止非自願色情內容。然而,跨國追蹤和言論自由的挑戰依然存在。(2) 社交媒體平台政策:Meta走在前列,不僅移除深偽內容,還與第三方事實檢查機構合作,並啟動了深偽檢測挑戰。然而其他平台如X(前Twitter)和YouTube等平台主要依賴用戶標註和報告,但其政策範圍較窄,缺乏針對虛假訊息的明確政策,且在提升自動檢測能力方面的合作仍不足。(3) 技術解決方案:深偽檢測工具利用機器學習來識別AI生成的內容。例如,Intel的FakeCatcher通過分析血流顏色變化來檢測照片的真實性。內容來源驗證技術如「內容來源和真實性聯盟」(C2PA)則通過元數據加密來驗證內容來源。但這些技術的實施面臨平台採用和設備兼容等挑戰。(4)社會韌性(Resilience)建設:增強社會韌性是長期應對深偽技術的關鍵。提升數位素養教育和批判性思維,使個體更具抵禦深偽內容的能力。此外,報告的政策建議綜整如下:(1)立法機構:修訂或引入法律,保護個人和組織免受深偽技術之害,並推動數位素養教育。(2)社交媒體平台:擴大深偽內容政策範圍,並平衡用戶和平台間的責任。(3)技術公司:創建研究網絡,限制新技術發現的公開,以免被不法者濫用。
2024/08/22
https://www.cigionline.org/publications/artificial-realities-mitigations-against-deepfakes/
Centre for International Governance Innovation (CIGI)
賴允政