翻開流淌中國文明的書卷，我們驚訝的發(fā)現(xiàn)，在兩千多年前，智者們便以古老的筆觸勾勒出驚心動魄的機械化生命，喚醒了人們對機器智慧與生命的原始的遐思。《史記》描繪了機械獸、精巧器械的神奇故事；《莊子》中思辨了人與機器的辨析；《列子》中討論了制造人造人的可能。《山海經(jīng)》中描繪了機關獸、神奇造物的奇幻場景。
隨著科技的進步和現(xiàn)代文明的發(fā)展，中國當代科幻文學也涌現(xiàn)出一批富有想象力和啟迪性的作品。在劉慈欣的科幻小說《三體》系列中，虛擬現(xiàn)實游戲“三體”為讀者展現(xiàn)了一個充滿智能生命和宇宙文明的廣袤宇宙。而在王晉康的小說《人工智能時代的公民》中，作者設想了一個未來社會，人工智能已經(jīng)成為社會的一部分，引發(fā)了對于人工智能與人類關系、權益道德和相關風險的討論和思考。
真實案例，利弊相依
4月20日中午，好友通過微信視頻聯(lián)系郭先生，聲稱需要430萬保證金并請求借用郭先生公司賬戶進行轉(zhuǎn)賬。未核實款項到賬，郭先生不加懷疑地轉(zhuǎn)了430萬給好友。后來才發(fā)現(xiàn)被智能AI換臉和擬聲技術詐騙。
10分鐘被騙430萬，人工智能深度內(nèi)容合成模糊了真實與虛假的邊界。然而，在內(nèi)容產(chǎn)業(yè)上，AI換臉有它的優(yōu)勢和價值，比如在《三千鴉殺》《了不起的兒科醫(yī)生》《長安十二時辰》等影視作品中，都因為原演員問題，部分角色用到了AI換臉技術，極大地降低了拍攝成本。
首先，從國家層面來說，其算法和數(shù)據(jù)驅(qū)動性質(zhì)可能導致暴力沖突和意識形態(tài)滲透的風險。虛假內(nèi)容的生成可能誤導公眾輿論，而惡意使用該技術可能加劇國際關系的緊張和誤判。此外，濫用生成式人工智能可能對國家安全造成直接威脅，包括攻擊基礎設施和進行網(wǎng)絡犯罪。
其次，從社會層面來說，數(shù)據(jù)壟斷和道德操縱的風險最大，可能導致創(chuàng)新受阻、市場失衡和社會分裂。在私權利方面，增加犯罪可能性和侵犯用戶隱私也是潛在的風險。舉例來說，虛假信息生成和個人數(shù)據(jù)泄露可能導致誤導公眾、身份盜用和信任破裂。人工智能技術的進步可能引發(fā)一場前所未見的錯誤信息海嘯，因為這類工具非常擅長對任何事情做出令人信服的敘述，其標準的語法和完美的邏輯足夠迷惑大多事外群體。例如，ChatGPT編造了一個真實教授的性騷擾丑聞，然后以一篇假的《華盛頓郵報》文章的形式為其說法提供證據(jù)，并為其創(chuàng)建了引用。
但不可置否的是，人工智能技術的進步產(chǎn)生了革命性意義，其具有跨界、橫向、打通的能力。這種能力使得人工智能技術在醫(yī)療、金融、制造等領域的應用得到了前所未有的提升。
抽絲剝繭：剖析潛在動因
正如上文所述，目前生成式人工智能損害隱蔽、破壞性大，只有先思考風險背后的動因才能更好的提出相關治理性意見。
（一）現(xiàn)行法律制度不足
法律制度不成熟是導致人工智能風險的一個重要原因。在行政責任方面，政府雖然能對生成式人工智能進行監(jiān)管，但僅仰賴行政監(jiān)管無法充分規(guī)制。生成式人工智能的算法運作機制難以解釋，增加了政府監(jiān)管的成本。此外，數(shù)據(jù)流動涉及多個主體，現(xiàn)有機制無法聯(lián)動不同部門展開數(shù)據(jù)監(jiān)管協(xié)作，也無法在數(shù)據(jù)跨境中與其他國家機構(gòu)進行協(xié)作，缺乏協(xié)同治理的可能性。在民事責任方面，相關實踐和理論研究都還不充分?，F(xiàn)有的數(shù)據(jù)治理范式主要側(cè)重于采用著作權和反不正當競爭等途徑保護數(shù)據(jù)權益，但無法規(guī)制生成內(nèi)容。同時，生成式人工智能的侵權行為隱蔽且后果嚴重，采用人格權利保護路徑也無法消除已產(chǎn)生的影響。此外，生成式人工智能涉及知識產(chǎn)權、反壟斷和生成內(nèi)容歸屬等新問題，還涉及底層數(shù)據(jù)和算法問題，且涉及公平公正等價值判斷問題。算法黑箱下的舉證困難也是現(xiàn)有民法體系難以規(guī)制生成式人工智能的原因。在刑事法律方面，雖然存在一些具體條款能夠規(guī)制，但存在著缺陷。例如，現(xiàn)有的虛假信息罪僅局限于特定情況，無法適用于生成式人工智能的內(nèi)容生成方式。同時，煽動顛覆國家政權罪的構(gòu)成要件與生成式人工智能的互動形式不完全吻合。
（二）準入門檻低且統(tǒng)一治理原則缺失
由于其低準入門檻，許多人都可以輕松獲取和使用相關工具和算法，而無需深入了解其潛在風險。比如，在日常生活中，不少網(wǎng)友體驗過娛樂性的AI換臉。早在2019年，一款名為“ZAO”的AI換臉軟件就曾風靡網(wǎng)絡，只需上傳一張照片就能讓普通人成為影視劇的男女主角，出演經(jīng)典電影片段、甚至跟偶像飆戲，受到眾多網(wǎng)友的體驗追捧。
另一方面，由于人工智能領域缺乏統(tǒng)一治理原則，相關法律、道德和倫理問題得不到一致解決，增加了風險的復雜性。舉例來說，數(shù)據(jù)隱私和安全問題是人工智能應用中的重要考慮因素。如果缺乏統(tǒng)一的治理原則，個人數(shù)據(jù)可能被濫用、泄露或未經(jīng)授權的訪問，給用戶帶來損害。此外，面部識別技術在安全監(jiān)控、身份驗證等領域有廣泛應用，但缺乏統(tǒng)一的原則和限制，可能導致濫用和侵犯隱私的行為。
（三）公眾對新技術的新鮮感與知識空白
公眾常常對人工智能技術的新穎性產(chǎn)生興奮和好奇，而更關注其帶來的創(chuàng)新和便利。然而，這種新鮮感往往使人們忽視了其中潛在的風險和負面影響。例如，人工智能換臉技術能制作逼真的虛擬視頻，但也帶來了身份偽造、隱私侵犯等潛在風險。公眾往往更傾向于關注其在娛樂、社交網(wǎng)絡等方面的趣味性，而對其中的倫理和社會問題關注不夠。
此外，公眾對人工智能技術的知識相對匱乏也是導致風險的因素之一。雖然人工智能技術受到廣泛關注，但社會群體對于其具體的工作原理、算法和數(shù)據(jù)處理過程等方面的了解仍有限，難以準確評估其潛在風險和局限性。
賦技于治：相關保障措施
盡管人工智能的潛力存在很大的不確定性，但它可以降低勞動成本和提高生產(chǎn)率，甚至生成與人類創(chuàng)造成果無法區(qū)分的內(nèi)容，并能打破人機溝通障礙，反映出具有潛在巨大宏觀經(jīng)濟影響的重大進步，如何利用人工智能將社會推向新的繁榮是值得每個人思考的問題。
從國際角度來說，國外科學家呼吁暫停對更強大的AI系統(tǒng)的開發(fā)，中國出臺生成式人工智能服務管理新規(guī)，都是在人工智能獲得關鍵突破的關鍵時點，針對人工智能可能的風險隱患，采取理智的防范措施。人工智能的監(jiān)管需要國際社會經(jīng)過評估，劃出統(tǒng)一的、清晰的安全底線，供各國共同遵守。
從本國的視角來看，各部門應信息共享，加強監(jiān)管。去年12月，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，對人臉生成、人臉替換等都有明確約束。國家相關部門應繼續(xù)聯(lián)合對各種出現(xiàn)的新情況進行規(guī)制。同時，相關部門應去思考如何構(gòu)建一個既能占領全球技術高地、又能避免壟斷的國家級算力基礎設施；如何構(gòu)建一個資源可共享、商業(yè)可持續(xù)、監(jiān)管可包容、金融機構(gòu)和科技公司可受益的金融算力生態(tài)圈。
提高準入門檻可以通過完善平臺審核機制和加強機制認證這兩個角度考慮。平臺審核包括對開發(fā)者和供應商的背景調(diào)查，對算法和數(shù)據(jù)集的評估，以及對潛在風險和漏洞的審查。而建立人工智能技術的資質(zhì)認證和許可制度可以確保只有具備必要資質(zhì)和能力的實體才能開展相關業(yè)務。
明確懲治的相關群體是減少相關違法事件的重要一環(huán)。首先應責令發(fā)布者更改刪除相關不當內(nèi)容；其次應責令MCN機構(gòu)承擔作為內(nèi)容創(chuàng)作和管理的中介平臺的責任，引導其加強對創(chuàng)作者和內(nèi)容的審核與監(jiān)督；再次平臺方也需要承擔部分責任，因為作為提供人工智能技術服務的平臺，他們有義務嚴格管理平臺內(nèi)容，加強違法內(nèi)容的監(jiān)測和處理，以保護用戶權益和社會公共利益；同時數(shù)據(jù)提供者和數(shù)據(jù)供應商也應敲響警鐘，確保提供的數(shù)據(jù)合法可靠，避免違法數(shù)據(jù)和技術被濫用，以維護其安全和合規(guī)性。
如何通過全平臺矩陣的方式提升公眾的數(shù)字素養(yǎng)、自我保護意識和法制意識對于降低人工智能風險至關重要。這需要相關宣傳部門在日常生活中加強對于數(shù)字知識和安全意識的宣傳，同時引導公眾群體掌握自己的權益和維權途徑，提升維權能力，遇到問題及時向相關執(zhí)法機構(gòu)報案。
深度合成的驚艷表現(xiàn)昭示了生成式人工智能帶來的技術革新，市場為之沸騰的同時，人工智能的相關風險逐漸顯現(xiàn)，人類可以享受人工智能帶來的繁榮未來，但不能沉醉于“AI之夏”，毫無準備地陷入秋天。思考如何引導變革性技術遠離極端、大規(guī)模且各種新型的風險，轉(zhuǎn)向造福生活是我們的必由之路。
?
