科技議題

首頁> 科技議題 - 智慧科技> 生成式AI:史丹佛AI研究中心的觀點
生成式AI:史丹佛AI研究中心的觀點 Generative AI: Perspectives from Stanford HAI
2023/03
Stanford Institute for Human-Centered Artificial Intelligence
https://hai.stanford.edu/sites/default/files/2023-03/Generative_AI_HAI_Perspectives.pdf
生成式AI是人工智慧下的一個分支,它可以根據你給出的提示寫出文章或是畫出一幅圖,甚至是寫出一首歌,這些AI都是透過一個基礎模型,進行龐大的數據訓練之後,以此執行各種下游任務。這類模型勢必可以為社會帶來許多幫助,無論是補充勞動力或是幫助我們提高創造力與生產力,但它同時也會帶來風險,例如放大我們已有的偏見抑或是對資訊的不信任感。下列將說明生成式AI於各項領域之應用。

一、醫療領域:
  在醫學研究領域,生成式AI不僅可以充當醫生的助手,幫助醫生在第一次遇見這位病人時便已經充分掌握病人的狀況,甚至可以創建“合成”對照患者,使臨床試驗更高效,加快新藥物和診斷方法的研發速度。然而,如果基於與實際患者人群不一致的資料生成,合成患者數據可能產生偏差,所以在選擇生成患者資料時,需謹慎並仔細檢查可能導致不同影響的偏見。
  在醫學教育領域,生成式AI能夠創建非常真實的模擬患者,使學生獲得更多的實踐經驗,並為他們提供幾乎無限的案例進行練習。這將有助於提高醫學生的臨床技能和專業素養。最近美國聯邦立法賦予患者以數位形式訪問其完整醫療記錄的權利,因此,患者越來越多機會遇到包含晦澀醫學術語的複雜臨床文件,當患者從診所返回家時,AI可以生成定制的患者教育材料,以適當的閱讀水準解釋他們的護理計劃。
  生成式AI同時也有助於解決訓練數據稀少的機器學習問題,結果表明,這些模型產生的合成訓練數據可以增加真實訓練數據,提高診斷準確性,幫助檢測和治療罕見疾病,通過模擬數據的生成,可以提高AI模型在這些特殊情況下的性能。然而,生成式AI在醫學領域的事實正確性問題仍然存在,為了確保生成的醫學解釋準確可靠,我們需要加強對生成式AI模型的監管和改進。

二、科學領域:
  在蛋白質生成模型方面,這些模型可以幫助我們找到新型蛋白質,從而研發新型有效的藥物。在量子領域,生成式AI能讓我們更好地瞭解材料科學和量子化學,推動科學界的發展。此外,生成式AI模型在大規模流體力學模擬方面具有很大應用潛力,這將有助於我們更深入地瞭解氣候變化及其影響。生成AI模型將在科學家與AI系統的合作中發揮重要作用,進一步拓展人類所能理解的領域,最終,科學家希望將AI與神經科學相結合,以進一步探索物理世界對心智世界的直接影響。
  近年來,AI的創造力逐漸滲透到人類生活中,為了解AI在各領域的能力和風險,科學家最近開發了一個名為HELM的評估工具,對30多個著名語言模型進行全面評估,該工具將進一步幫助科學家們更好地指導政策制定,確保AI在未來發展過程中不會對人類帶來威脅和危害。

三、人文與社會科學領域
  人工智慧AI正迅速發展,為各行各業帶來深刻變革,AI導師為學生提供個性化學習體驗,專業設計師則可利用AI生成模型進行拓展和完善,幫助他們探索更多創意或完善初始概念的細節。
  生成式AI使基於語言的交互變得越來越普遍,帶來許多激動人心的機遇,無論是書面還是口頭,成為與日常計算系統互動的更常見方式,特別是在外出或眼睛和雙手在忙碌時,想像一下一個能夠真正理解你並試圖完成任務的助手,而不僅僅是回答有關天氣或音樂簡單查詢的Alexa、Siri或Google助手。但這也伴隨著風險,例如AI軟體工具的偏見,2016年,全美範圍內使用的一款基於AI的軟件工具被證明對黑人美國人存在偏見,該工具用於預測刑事被告是否有再犯的可能。我們需要確保設計這些工具以獲得最佳的結果,為獲得最佳結果,我們需深入分析並設計這些系統。
  在2018年,佳士得拍賣行以43.5萬美元成交的AI合成藝術作品《艾德蒙·貝拉米的肖像》,引發對AI對創意產業意義的討論。生成式AI實現了各種藝術形式,但也帶來創意歸屬、真實性、版權等問題。此外,它還可能對社會產生影響。我們需通過公眾討論和政策制定引導AI技術的發展。
  在哥倫比亞一個貧困的自閉症患者治療費用的案件中,法官向ChatGPT諮詢可能有利的司法裁決,他認為,生成式AI可以“優化撰寫判決的時間”。
  這可能是第一個將生成式AI納入司法程序的案例。然而,這也揭示了生成式AI在司法領域的問題和風險,一方面是民眾不一定接受此類判決產生的過程,另一方AI有可能捏造事實或是產生幻覺,或許,正如ChatGPT所說,“法官在裁決法律案件時不應使用ChatGPT。”至少目前還不應該。
  AI基礎模型的進步帶來了很多機遇,但也可能使真假辨析變得困難,對創意產業構成威脅。生成式AI在市場行銷、銷售、產品開發等方面提供了巨大的機會,但同時也需要關注和解決相應的問題。
  在過去二十年中,電腦技術主要影響了受教育程度較低的工人,而生成式AI則有可能影響許多主要由高薪人士(包括作家、高管、企業家、科學家和藝術家)完成的工作,這可能扭轉過去在不平等方面資訊技術和人工智慧的一些影響,到目前為止,人們對這方面進行了許多猜測和個案分析,但還沒有太多系統性的實證證據。在史丹佛數字經濟實驗室,我們正在整理可能受到生成式AI影響的經濟活動清單,並估算它們在經濟中所占的比重。這些技術可能帶來集中財富和權力的風險,也可能促進更多人創造價值。AI技術的影響取決於技術人員、經理人、企業家、政策制定者以及其他人的選擇,生成式語言模型在重塑行業工作方式方面具有巨大潛力。過去,生成視覺化圖表需要分析師花費幾個小時進行搜索和編寫程式碼,而現在AI可以在幾秒鐘內完成這項任務。同樣,生成式語言模型能夠幫助市場行銷和文案撰寫人員創造更好的措辭和短語。
  儘管AI模型不能像人類作家一樣創作出高水準文章,但它們能夠產生相當稱職的散文。良好的寫作能力一直被視為人類成就和專業素養的核心和重要組成部分,而如今卻要面臨AI的挑戰,生成式AI將為人類帶來更多創意幫助,但也可能改變行業和工作方式,進一步提高生產力和生活品質。
  人工智慧的革命正帶來強大的自動寫作工具,這些工具可以提高人類在專業環境中的表現。隨著技術的發展,生成式AI可以大大降低進入門檻,讓更多人有創造力的機會,並為各行各業帶來機遇。

四、教育領域
  在教育環境中,這些大型語言模型可能對學生的表現產生負面影響,並削弱他們的創造力,因此,開發者和政策制定者應制定社區規範,限制自動寫作工具在教育場合的使用,以防止其潛在的不良影響。
  雖然大型語言模型在教育領域具有巨大潛力。透過這些模型,學生可以自定進度進行學習,探索他們感興趣的話題,並突破傳統課程的學科界限,然而,目前的AI模型可能存在有害或易產生錯覺的問題,應謹慎應對,有幾種方法可以減少這些風險,例如將模型與學習者隔離,讓模型從一組預先策劃的回應中進行選擇,或者用模型來模擬學生反應以培訓新教師。此外,限制模型僅提出蘇格拉底式的問題(一種有邏輯的反詰式提問),或者利用人類回饋進行強化學習以訓練模型,也是可行的選擇。
  總之,在利用大型語言模型推動教育創新的同時,我們需要密切關注其潛在風險,確保在保護學生創造力和學習品質的前提下,善加利用這些技術。

高飛
英文