歐盟網絡與信息安全局（ENISA）近日發布了題為《建立網絡安全政策發展框架——對自主代理的安全和隱私考慮》的報告，旨在為歐盟成員國提供一個政策制定框架，以應對AI引發的安全和隱私問題。

歐洲委員會在對數字單一市場戰略的中期審查中指出，建立歐洲科學和工業優勢以及發展創新企業是保持其在人工智能技術、平臺和應用程序領域領先地位的重要措施。2018年年中，歐盟提出了一項關于人工智能的歐洲倡議，旨在推動人工智能在社會經濟各個方面的應用，為人工智能帶來的社會經濟變革做好準備，并確保為基于人工智能的應用程序建立適當的道德和法律框架。

報告首先對人工智能和自主代理技術進行了討論。如今人工智能技術已經應用到醫療、駕駛、金融、制造、社交等各個領域，涉及到深度學習、知識表達、決策系統和大數據等不同技術。在不同的應用領域中，人工智能技術設計了多種多樣的自主代理來智能地執行工作。

這些自主代理在自主程度和操作環境上有很大的差異，相應的安全性和隱私考慮也會有所不同。報告隨后介紹了常見的安全和隱私需求。安全方面的需求和挑戰主要有檢測系統中運行的惡意或未授權的自主代理、自主代理代碼的劫持和濫用、對代理系統傳感器的干擾、自主代理執行代碼的透明性和可審計性，以及對各類安全原則的遵守。隱私方面的需求和挑戰則包括數據的最小化收集、數據保留和保護方法、數據聚合和重新調整用途以及人工智能算法帶來的處理過程不透明性。

在過去幾年中，人工智能為各種應用領域提供了巨大的潛力和可能性，但也帶來了許多挑戰。由于創新的快節奏，期望對每項技術進步都專門立法是不可行的。必須采取更廣泛的方法來平衡所有利益相關方的權益，同時為新挑戰提出解決方案。基于對人工智能眾多應用領域的分析，報告指出，制定網絡安全政策框架應遵循兩個主要原則：

1

包容性原則

2

具體來說，該框架應該促進技術標準和規范的制定和采用；鼓勵最佳安全實踐和經驗的交流推廣；促進利益相關方的協同和合作關系。

報告最后總結了在制定政策發展框架過程中所面臨的主要挑戰，包括：

1

自主系統的關鍵就是能夠處理大量數據，因此必須使用確保關鍵安全特性包括可用性、機密性、完整性和可審計性的設計方法來構思、設計和實現自主系統，并在其從初始部署、維護到退役的整個生命周期中確保支持這些安全屬性。

2

人工智能和自主代理領域的快速發展，催生了系統及產品建立、設計和開發過程中對協調方法和指南的需求。開發人員可以從這些指南中識別和克服已知的安全和隱私挑戰。這些指南可通過最佳實踐、安全需求基線自愿標準的開發來得出。

3

自主代理系統常常需要做出一些復雜的決策，并面臨與人權、尊嚴和非歧視等相關的倫理問題。解決這一困境需要一種跨學科和協調的方法。歐盟委員會已發布了正式版的人工智能道德準則，提出了實現可信賴人工智能的七個要素，分別是：人的能動性和監督；穩健性和安全性；隱私和數據管理；透明度；多樣性、非歧視性和公平性；社會和環境福祉；問責制。