新知特寫

首頁> 新知特寫> 新加坡於AI行動高峰會中宣布三項推動AI安全的新舉措
新加坡於AI行動高峰會中宣布三項推動AI安全的新舉措 Singapore Announces New AI Safety Initiatives at the Global AI Action Summit in France
新加坡於2025年2月10-11日參加巴黎AI行動高峰會(AI Action Summit, AIAS),並在會議中宣布三項強化人工智慧(AI)安全的新舉措。三項舉措包括:(1)推動全球AI安全認證先導計畫(Global AI Assurance Pilot):新加坡資訊通信媒體發展局(Infocomm Media Development Authority, IMDA)與AI驗證基金會(AI Verify Foundation)將合作推動該計畫,邀請AI測試公司與正部署生成式AI應用的企業合作,旨在建立AI安全測試的最佳實踐,促進AI測試市場發展,並為全球AI治理提供實務建議。(2)發布大型語言模型(LLMs)安全測試報告:新加坡與日本透過國際AI安全研究所網絡(AI Safety Institute Network)合作,針對十種語言的LLMs及五類AI風險進行測試,並於高峰會中發布相關報告。(3)發布2025年新加坡AI安全紅隊演練挑戰賽評估報告(Singapore AI Safety Red Teaming Challenge Evaluation Report 2025):IMDA於2024年11月舉辦AI安全紅隊演練(Red Teaming)挑戰賽,匯聚來自亞太地區的350多名專家,針對四款LLMs測試其AI偏見與漏洞,IMDA已將競賽結果彙整成評估報告並於高峰會中正式發表。
2025/02/11
https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2025/singapore-ai-safety-initiatives-global-ai-summit-france
Infocomm Media Development Authority (IMDA)
張曉琪