新知特寫

首頁> 新知特寫> 隨著人工智慧聊天機器人用於心理健康領域,監管需求愈加迫切
隨著人工智慧聊天機器人用於心理健康領域,監管需求愈加迫切 Need for Regulation Is Urgent as AI Chatbots Are Being Rolled Out to Support Mental Health
加拿大智庫(Centre for International Governance Innovation, CIGI)撰文指出世界衛生組織(World Health Organization,WHO)數據顯示,新冠疫情首年全球焦慮與憂鬱增加 25%,約十億人受精神疾病影響。而近年來生成式人工智慧蓬勃發展,這些工具成為無法負擔專業心理治療費用者的低成本替代方案。然而,臨床研究顯示,專用於治療心理的人工智慧(AI)聊天機器人可能為部分患者帶來正面療效,51% 的憂鬱症患者在與其互動後表示症狀有所改善。但是,專為醫療環境設計的聊天機器人,與通用型聊天機器人之間有著巨大差異。通用型聊天機器人可能冒充心理治療師並迎合使用者情緒,進而惡化其心理健康狀況。雖然人工智慧可在心理健康服務資源稀缺時提供關鍵支持,但其應用必須像其他醫療設備一樣,接受同等嚴格的管制與監督。同時,弱勢群體在缺乏監管情況下依賴人工智慧替代心理治療的風險亦不容忽視。隨著人工智慧聊天機器人在全球推廣愈趨普及,文章建議各國政府需對其使用方式進行監管,並禁止一般聊天機器人冒充心理健康專業角色。
2025/08/14
https://www.cigionline.org/articles/need-for-regulation-is-urgent-as-ai-chatbots-are-being-rolled-out-to-support-mental-health/
Centre for International Governance Innovation
黃士庭