科技議題

首頁> 科技議題 - 智慧科技> 未來系列:網路安全、新興技術與系統風險
未來系列:網路安全、新興技術與系統風險 Future Series :Cybersecurity, Emerging Technology and Systemic Risk
2020/11
World Economic Forum (WEF)
http://www3.weforum.org/docs/WEF_Future_Series_Cybersecurity_emerging_technology_and_systemic_risk_2020.pdf
一、網路空間的動態
近年網路空間動態改變快速,數據、儲存量及處理系統規模增加;通信及數據處理速度增快且相互連通性變好。
新興的數位科技帶來許多好處,如:
1. 幫助減少全球碳足跡、 能源輸送將得到優化、工業流程和運輸和物流系統將運作效率提高。
2. 機器人技術發展可減少人類暴露於危險工作環境、減少人為疏失。
3. 加速藥品的研發、治療方式更加個人化。
4. 精準農業提高糧食生產量。
5. 新興的技術有改善財務狀況促進經濟發展。
本報告介紹關於網路空間動態的變革性的前瞻技術包括:完整的連線網絡(ubiquitous connectivity)、人工智慧及機器學習、量子電腦、身份和訪問管理(identity and access management)。我們須思考因應以上科技發展,如何提升網路安全並防堵新興網路犯罪手法。
二、完整的連線網絡
全球相互連接的設備網絡數量迅速增加,各個單位關係互相依存。但在網路安全上形成新的挑戰。包括資訊傳遞的安全性及準確性與系統、設備之間的合作能力。這種新興的通信環境的核心是5G技術,此技術提供明顯更快,更可靠的行動通信,並可連接大量的設備。數位化帶來無處不在的連接性,這樣複雜的連線網絡也衍伸出下列議題:
1.系統性的風險
相互連接範圍擴大意味潛在的攻擊面擴大,網路安全性的風險提高。產業聯盟(Industry alliances)正建立共用的安全性原則、可互相操作的解決方案和設備安全性認證。建立合乎數位化時代標準的要求、並與政府合作發展數位安全通用原則、國際政策建議和國際規範。
2.缺乏透明度和保證
產業或組織要對自己的服務負責,但其所依賴的服務的安全性和可用性保障未得到充分且透明的定義。因此需在供應鏈中建立基本的信任級別,並清楚定義何處發生責任轉移,以便負責人員在了解其責任的情況下進行責任轉移。對於扮演關鍵角色的參與者必要給予參與執照,提供參與者的安全保證和負責的基礎。需要執照才能操作,並要遵守法規要求。
3.運行中的差距
在這些新興系統中,當前的風險控制可能不足以解決問題。重要的是要確保新一代網絡安全功能的發展不會被快速增長的風險所超越。
4.完整的連線對營運能力的挑戰
包括組織中及組織間的認證方式、威脅判定、風險管理、新系統的安全性測試、資訊的分享、事故的預防及反應、鑑識追蹤及驗證、感應器數據的完整性及連線網路中的分割問題。

三、人工智慧(AI)
全球正在對AI研發進行大量投資,尤其是使用機器學習技術。人工智慧依賴演算法,但這些演算法的設計及開發缺乏安全性的保障。因此需要新的方法來保護AI的開發流程及使用,並使防禦者能夠因應AI攻擊者的威脅。AI的安全原則涵蓋安全設計、生命週期管理和事件管理。提供更強大的保證機制的基礎,以支持AI相關的網絡風險管理。
攻擊者能應用從AI竊取的數據中獲得更多資訊,透過使用AI改進網絡攻擊方式製造更大的危害,因此數據為重要的目標。AI產生的影片,圖像和音頻變得越來越複雜,能令人相信並難辨真假。攻擊者可能會利用這一機會來產生假新聞和可操縱的消息,扭曲大眾認知並改變政治或經濟結果。
從長遠來看攻擊型AI可能會創造出全新的攻擊方式。攻擊者將通過改變演算法和提供給他們的數據的完整性,試圖操縱或破壞組織的流程以及社會基礎設施。網絡攻擊者使用AI之特色:
1. 速度和規模:攻擊者將能夠加快並擴大其行動,威脅的範圍可能會擴大。
2. 精準度:攻擊者將透過深度學習來預測受害者的弱點並利用機會進行更精確的攻擊。
3. 隱形:攻擊者將利用AI來逃避檢測和消除:“隱形”。
人工智慧也可用來防禦攻擊。透過分析(例如威脅分類)來維護防禦者。攻擊者可以使用AI來預測防禦者的行動。此外基於複雜概率的演算法和大量數據做出的決策可能缺乏「可解釋性」,使領導人要無法核實或證明其正確性。建立對AI攻擊有效的防禦工具,有以下幾點方式:
1. 鼓勵防禦技術的採用:政府和企業領導人鼓勵負擔得起的市場上現有的和新興的防禦技術。
2. 實踐方針:需要一種可指導網絡安全實踐的運營框架。
3. 技能,教育和溝通能力:董事會對於相關知識的認知及教育。
為AI開發安全管理方式,通過政府,組織,技術供應商和學術界之間的合作加以識別和整理。需要鼓勵採取安全的開發做法,這可能需要支持標準化和法規制定,需要涵蓋的原則包括:
1. 安全設計:人工智慧系統需要加強對抗破壞技術的能力。並可被解釋的使負責演算法的人員能夠使用。
2. 生命週期管理:需要嚴格且動態地審查演算法,並進行版本控制。
3. 事件管理:負責AI算法輸出的人員將需要能夠檢測出演算法何時被操縱,做出反應並減輕危害。

四、 量子運算
量子電腦利用量子物理學定律來處理訊息,可進行傳統電腦無法處理的任務,投資者正在量子研究和開發上進行大量投資。量子演算法有潛力帶來重大進步和變革,例如:量子可以應用於分子模擬、加速藥物發現、材料科學進步、金融服務中的優化問題、航空航天技術、並可能改善AI能力等。
主要的網絡安全風險是由量子計算對當前廣泛採用的非對稱密碼學的影響所構成的。一個功能強大且經過錯誤校正的量子電腦可解決一些傳統電腦難以處理的數學問題,其中許多密碼學方法都依賴於這些數學方法的難處理性。因此量子電腦技術有可能破壞目前使用的密碼安全性。如果企業和政府或他們所依賴的組織和供應商未做好準備,他們可能無法確保其所依賴的交易和數據的機密性,完整性和可用性。
另有數據具「立即下載,稍後解密」的風險:對手現在可以收集現在存在的數據,以備將來解密。
量子技術具有增加國家安全的潛力。目前一些國家正大力發展量子技術。資源可能集中在少數先進國家,全球競爭和保護主義可能干擾國際合作和公平獲取的風險。因此擴大了安全性和工業能力方面的不對稱性,如不能公平獲得技術,擁有量子能力的國家可能會利用它們創造戰略優勢,而其他國家則陷入「量子貧困」。重要的是要確保在世界範圍內公平地使用該技術,以釋放這些利益,並避免國家之間安全性和工業能力的不對稱性擴大。
企業領導層須建立量子素養,教育領導者了解量子技術的發展及其可能為組織帶來的潛在利益和風險。各國政府和業界需要共同製定其發展主權量子能力的投資戰略;定期重新審查其安全,並由負責機構監控風險的出現。並建立一支具有足夠專業知識以開發安全的量子技術的硬體和軟體的隊伍。
隨著量子電腦科技之發展,企業領導者將需要能夠解決對其組織的風險,尤其是:
1. 確保對加密資產進行充分的管理,並製定適當的時間表以過渡到量子安全加密。借助對資產壽命的了解,評估對密碼安全性對組織資產的威脅性。
2. 在評估風險時考慮組織的依存關係(即企業對企業(B2B)或產品、供應商的相應活動)
3. 在了解潛在的安全風險以及如何處理這些風險。決定是否將採用量子計算的潛在優勢納入業務模型中。
面對即將到來的量子過渡(quantum transition)和潛在的未來威脅,需要製定一套正確的標準。並確保世界各地的技術標準化與治理工作之間保持正確的一致性水平,以避免差異阻礙國際合作

五、結論
面對未來的主要技術,目前管理網絡風險的個人和集體方法可能改變。目前網絡安全性已有改善,但日益增加的複雜性、速度、規模和相互依賴性將削弱當前的許多防禦。社群間需要合作以提高在網路安全上的防禦性,並設計、開發有效的解決方案:
1. 需要推廣安全標準以幫助確保整個企業功能之間的互相操作性,並包括監管標準和適當的基礎架構開發。
2. 產業和政府領導層需採取政策行動,加強不同組織之間的信任和透明度。
3. 國際社會須採取干預措施,以確保解決安全問題並能夠包容新興技術的發展。
4. 需要開發新的模型及資訊共享框架,在面對日益複雜的技術環境時提供情勢回報。
5. 開發工具保護AI及高級機器學習技術及設備,並一併保護正在處理個人數據的個人的隱私。
6. 相關社群需要一同開發量子計算的安全模型,該模型包含演算法的完整性以及能使量子技術與混合計算環境相容。
7. 召集專家討論量子密碼術問題,及負責減輕其衍伸的風險的責任。
8. 需審查和增強現有的網絡安全技能和教育計劃。
9. 需要制定下一代數位身份系統的全球互相操作性信任標準,該標準需能跨系統並保有個人隱私。
10.企業將需與監管機構、決策者合作,以建立明確的責任模型。提供國際業務需求,並支持貿易並減少摩擦。
11.各國需合作提供公平利用網絡安全技術的途徑。應制定框架以識別國家 網絡安全能力以應對新出現的風險。新興技術風險登記冊將有助於此。
12.應通過制定標準並促進法律、法規和營運措施,來打擊網絡犯罪。
黃智暐
英文