新知特寫

首頁> 新知特寫> 意向經濟崛起,人工智慧可能操控人們的線上決策
意向經濟崛起,人工智慧可能操控人們的線上決策 AI Tools May Soon Manipulate People’s Online Decision-Making, Say Researchers
劍橋大學的研究指出,人工智慧(AI)工具可能操控線上使用者的決策,影響範圍涵蓋購物選擇至政治投票,引發對AI技術對個人意圖與社會公平影響的關注。根據英國《衛報》(The Guardian)報導,「意向經濟」(Intention Economy)的新概念,核心在於AI助理能理解、預測並操控人類意圖,並將這些資訊出售給企業。劍橋大學未來智慧中心(LCFI)的研究團隊認為,意向經濟或將取代「注意力經濟」(Attention Economy),成為下一代數位商業模式。 LCFI技術歷史學家Jonnie Penn博士表示:「數十年來,注意力是網際網路的核心貨幣。社群媒體平台如Facebook和Instagram依賴用戶的注意力來驅動經濟。但若不加規範,意向經濟可能將人類的動機視為新貨幣,掀起一場圍繞人類意圖的淘金熱潮。」 研究警告,這類市場可能影響公平選舉、自由媒體及市場競爭等重要社會價值,需及早採取監管措施以避免成為其「意外後果」的受害者。 研究指出,大型語言模型(LLMs),如支撐ChatGPT的技術,能根據「意向、行為及心理數據」來「預測和引導」使用者。例如,AI可能透過與用戶的日常互動,詢問:「今晚想看《蜘蛛人》電影嗎?」或是進一步引導:「你提到感到疲憊,要我幫你訂那張電影票嗎?」 廣告商亦可利用生成式AI工具製作量身定制的廣告內容。例如,Meta開發的AI模型「西塞羅」(Cicero)在桌遊《外交》(Diplomacy)中展現了人類水準的推測與預測意圖能力。研究警告,這類模型可藉由對話收集更多個人資訊,並調整輸出以更有效達成特定目標。 未來,企業可能利用AI技術拍賣使用者的意圖,例如預訂餐廳或機票需求,並將現有的人類行為預測產業轉化為「高度量化、動態且個性化的形式」。 報告引述Nvidia執行長黃仁勳的發言,他指出AI模型能「根據情境推斷用戶的意圖與需求,並以最佳方式呈現信息」。這凸顯了AI技術所帶來的巨大商業潛力與潛在風險。 研究呼籲,需及早建立監管框架,以防AI驅動的意向經濟對個人自由與社會價值造成負面影響。
2025/01/02
https://www.theguardian.com/technology/2024/dec/30/ai-tools-may-soon-manipulate-peoples-online-decision-making-say-researchers
The Guardian
賴允政