今年7月，中央政治局召開會議，分析研究當前經濟形勢，部署下半年經濟工作。會議強調，要推動數字經濟與先進制造業、現代服務業深度融合，促進人工智能安全發展。圍繞人工智能安全發展的一系列問題，學習時報高端智庫版組織了此次三方筆談。 

 

做好人工智能發展的風險防範

中國科學技術信息研究所黨委書記、所長 科技部新一代人工智能發展研究中心主任 趙志耘

 

　　當前，ChatGPT類大模型加速了數字世界和物理世界的深度融合，引領人工智能進入新的發展階段。與此同時，人工智能固有的不確定性、不透明性、難以解釋、事實性錯誤等能力局限，對經濟發展、國際政治和全球治理等方面帶來深遠影響，引發了全球對大模型廣泛應用安全風險的熱議。如何應對人工智能風險並把握人工智能發展的戰略主動，有效保障國家安全，已成為我國國家安全治理的重要議題。

 

　　大模型技術引發新的安全風險和治理挑戰。隨着技術的更新疊代，人工智能的應用門檻持續降低，伴隨着誤用濫用情況的增加，經濟社會領域的多重安全風險也在交織疊加。

 

　　一是放大私隱信息泄露風險。當前，人工智能開發者和服務提供者可能利用用戶數據進行優化訓練，但相關服務條款卻並未對數據使用做出解釋說明，可能涉及在用戶不知情情況下收集個人信息、商業秘密等，安全風險較為突出。為保護個人信息安全，部分歐洲國家對大模型進行了嚴格監管和審查，甚至考慮禁止ChatGPT等人工智能應用。

 

　　二是輿論引導與文化滲透風險。在輿論和文化領域，人工智能技術可被用於算法引導、平台滲透、網絡監控、內容生成等信息處理環節，由大模型驅動的文本創作工具可能產生頗具影響力或說服力的信息，使得虛假信息不易被識破，負面輿情傳播速度加快，進而導致侵犯他人合法權益、擾亂經濟秩序和社會秩序，甚至危害國家安全和社會公共利益。

 

　　三是情報軍事領域應用的新威脅。人工智能的自動生成代碼功能使黑客技術的習得過程更為容易，使網絡攻防的更新頻率大幅提升。利用ChatGPT類大模型可以幫助機器學習識別更加複雜的文本及實體，或將擴大無人軍用智能無人裝備的應用，增大軍事對峙摩擦，對國家安全帶來嚴峻挑戰。

 

　　加快推進人工智能安全治理。面對人工智能技術快速發展、風險持續蔓延的形勢，增強人工智能的安全性成為國際組織、各國政府及產業界等共同關注的議題。

 

　　我國高度重視人工智能安全問題，不斷加強人工智能發展的潛在風險研判和防範，建立健全人工智能安全治理體系，對人工智能技術本身所致的內生安全、人工智能應用中的衍生安全以及影響和決定人工智能前景的發展安全問題進行系統性治理，確保人工智能安全、可靠、可控。

 

　　2017年，國務院發佈《新一代人工智能發展規劃》，對人工智能治理工作進行了專門部署，並要求建立人工智能安全監管和評估體系。我國不斷完善數據安全、網絡安全、人工智能等相關法律制度建設，為新技術的快速應用奠定法律基礎。研究制定算法推薦、深度合成、生成式人工智能等領域的管理規定，對人工智能發展進行引導和規範，保障相關技術產品的有序發展。先後發佈《新一代人工智能治理原則——發展負責任的人工智能》《新一代人工智能倫理規範》，為人工智能技術的開發和應用設定道德約束，促使人工智能更好地服務於人類。此外，我國也積極參與全球人工智能治理，堅持倫理先行、和平利用、安全可控等治理原則，呼籲加強對人工智能軍事應用的監管，以負責任的態度促進人工智能安全治理。

 

　　推動形成人工智能安全治理的強大合力。儘管已開展一系列治理行動，但人工智能安全治理還面臨諸多全球共性難題。人工智能技術目前並不具備較強的可解釋性、準確性和真實性，難以完全實現人工智能治理所倡導的透明度、可靠性和安全性。如何在創新發展和有效監管之間取得平衡也是各國普遍面臨的問題。既要避免過度監管阻礙技術發展，也要防止管理力度不夠而引發嚴重問題。

 

　　當前，人工智能影響下的國際科技、經濟及政治領域發生衝突的可能性日益增大。我國正處在人工智能技術快速發展的階段，必須堅持貫徹總體國家安全觀，構建多元參與、協同共治的人工智能治理機制，調動各主體參與治理的積極性，促進人工智能與經濟社會健康有序融合，以高水平科技安全保障國家總體安全。一是建立健全人工智能安全治理機制。堅持審慎監管、開放包容原則，強化風險研判和監測預警，完善科技倫理審查和監管制度。二是增強法治保障能力。加快推進人工智能立法，開展生成式人工智能、信息安全利用等法律問題研究，建立追溯和問責機制，清晰界定人工智能相關主體權利、義務及責任邊界，從而保障各類群體的合法權益。三是增強人工智能技術治理能力。強化人工智能數據安全、私隱保護等技術研發，強化對人工智能算法和模型的審計監管和對人工智能系統安全性測試評估，增強抗系統性風險能力。四是增強國際安全合作能力。倡導以人為本、智能向善理念，在《中國關於規範人工智能軍事應用的立場文件》等基礎上，發揮聯合國、G20、上合組織等多邊機制的作用，拓展人工智能安全共識，避免人工智能濫用帶來的安全風險。

 

推進大模型賦能數智化應用健康發展

中國科學院自動化研究所副所長 曾大軍

 

　　近年來，大模型技術飛速發展，極大提升了全球人工智能技術發展和應用疊代速度，被認為是“邁向通用人工智能的里程碑技術”。面對新一輪大模型引領的人工智能變革，加快推進大模型賦能數智化應用健康發展具有重要意義。

作為最成功的一類大模型，大語言模型是一種包含大規模參數、使用大量文本數據訓練出來的深度學習模型，展現了大模型的能力和基本技術框架。目前，這一技術思路和框架已被用來處理圖像、視頻等多模態數據，並被推廣應用於機械人控制與智能決策等場景。各類大模型正處於迅猛發展之中，眾多高科技企業紛紛投身大模型建設，圍繞大模型已經形成相對成熟的技術框架，但產品和生態尚在發展形成之中。總體而言，大模型的技術發展歷程相比以往任何人工智能技術都更迅猛，其影響力也是史無前例的。

 

　　大模型的“大”主要體現在3個方面，即模型參數規模大、訓練數據規模大和算力消耗需求大。模型參數方面，當前主流大模型的參數規模通常在千億甚至萬億級別，遠遠大於以往的各類深度學習模型。訓練數據方面，大模型在前期訓練階段和後期調優階段都需要海量的數據支撐，例如引爆大模型範式的聊天機械人ChatGPT，預訓練數據量達到了45TB，其研發公司還在拉丁美洲等地區招募了約1000名員工，專門從事與大模型相關的訓練數據標註工作。算力需求方面，根據有關市場調查機構估計，ChatGPT的運行需要上萬片最先進的圖形處理晶片同時工作，耗電量巨大。

 

　　大模型已經展現出驚人的能力，基於大語言模型的聊天機械人是以人機對話為接口的高效信息獲取、智能處理和內容生成工具，能夠實現高質量的信息整合、翻譯和簡單的問題求解與規劃。其受到全社會廣泛關注，主要是它已經初步具備通用人工智能的部分特性，包括通順的自然語言生成、全領域的知識體系覆蓋、跨任務場景的通用處理模型、通暢的人機交互接口。當然，聊天機械人只是大模型的起點，大模型未來的發展趨勢也已初見端倪。

 

　　第一，大模型有望引領諸多行業的數智化創新發展。大模型的學習模式類似人類大腦，通過學習不同的數據，能夠形成多樣化的能力，不需要按照任務開發定製化的算法。通過自然的人機交互，智能化地解決複雜問題和實現輔助決策，推動各行業體系變革和生態發展。例如，未來的信息系統可以由領域用戶通過與大模型的交互直接搭建和維護，“用戶即程式設計師”，顛覆信息系統研發和應用範式。

 

　　第二，領域專用和輕量化大模型是當前技術研究的重點。大模型雖然已經展現出諸多優勢，但依然存在可靠性差、訓練數據依賴、因果推理能力弱、搭建成本高等短板，在部分領域深度應用上的表現弱於專用小模型。為了更充分地發揮大模型優勢，金融、教育、醫療等領域專用大模型已取得了階段性成果，有望促進各項專業能力的湧現。

 

　　第三，大模型有望發展成為更加通用的人工智能。大模型起步於文本信息處理，現已涵蓋圖片、音視頻等多模態數據。在不久的將來，大模型將超越信息域，結合硬件設施，發展成為與物理和人類世界互動的具象智能，逐步縮小與真正的“通用人工智能”的差距。

 

　　雖然大模型展現的能力已經讓全社會看到了通用人工智能的曙光，但當前大模型也有一定的局限性。一方面，由於大模型自身結構和機制漏洞，有被惡意攻擊的風險；另一方面，大模型自身的知識表達和學習模式還存在缺陷，導致其回答中經常出現“幻覺”，如常識性錯誤、杜撰內容等。

 

　　推進大模型賦能數智化應用健康發展，應堅持規劃引領、需求帶動、應用導向、安全為基，引導、扶持和監督大模型在更廣泛的領域應用中長計遠慮、紮實落地、穩步推進。

 

　　首先，掌握技術主動權，加快自主可控的國產大模型全鏈條建設。依託我國現有的人工智能人才基礎，構建面向大模型與通用人工智能技術的平台和隊伍。加大晶片、大數據、人工智能等產業的投入與整合力度，保障“海量數據”“頂尖人才”“算力支撐”的落地，推進我國全階段自主可控大模型建設，掌握大模型技術發展的主動權和話語權。大力支持國產大模型的下游技術攻關和產品推廣，促進國產大模型產品的應用落地和疊代升級。

 

　　其次，深化大模型應用生態建設，構建“通用大模型+專用小模型”的成熟應用生態。早在大模型產生之前，基於領域經驗歸納和業務知識構建的“小模型”已經廣泛應用於各行業。應充分認識並應用好大模型和傳統小模型各自的特性，在推廣大模型產品的同時進一步推進小模型技術的升級和應用，發揮好小模型輕量級、高效率、善於解決特定問題的優勢，逐步推進大小模型融合的應用生態。

 

　　最後，建立健全大模型安全審查制度與法律體系，從源頭規避大模型發展風險。推動建立行之有效的數據審查機制和接入許可規範，從源頭把控大模型內容安全性，並主動參與全球人工智能模型使用規範的標準制定。同時，對於大模型可能產生的風險進行合理評估與審核，如歧視、仇恨言論、私人信息泄露、虛假信息、協助犯罪等。

 

鍛長補短 打造人工智能產業新優勢

安徽省合肥市人大常委會副主任，合肥高新區黨工委書記、管委會主任 宋道軍

 

　　隨着國內外大模型相繼發佈，全球掀起了人工智能發展新浪潮，開啟了通用人工智能賦能千行百業的路徑，引領人工智能產業創新發展。我國人工智能發展在產業規模、應用場景等方面具有一定競爭優勢，但算法、算力、數據和安全方面存在明顯短板。

近年來，合肥充分發揮人才、科創和產業融合發展優勢，堅持創新驅動、平台支撐、開放共享、生態賦能，人工智能創新能力領先、產業聚鏈成群、綜合實力躋身全國前列。接下來，推進人工智能安全發展，將以創新引領、鍛長補短為主線，全力打造國內領先、國際一流的人工智能創新策源、要素供給、場景應用和安全治理高地。

 

　　打造創新策源高地，迸發產業動能。我國人工智能領域核心技術創新較少，大模型研發所用的算法及相關核心技術絕大部分仍來自國外，國內自研訓練工具與國際主流相比仍存在一定差距，需在技術創新上取得新突破，打造產業發展核心動力和競爭力。一是不斷集聚和依託來自中國科大、國家實驗室、綜合性國家科學中心等戰略科技力量的人工智能高能級創新平台和高層次領軍人才團隊，聚焦基礎理論研究、關鍵核心技術、核心支撐部件等領域，推動核心算法、GPU晶片、雲計算等關鍵技術突破，構建自主可控大模型技術體系。二是推動類腦智能技術突破，研究神經網絡學習、知識推理等創新計算模型和方法，構建新的通用人工智能發展路徑。三是推動量子計算技術研發，突破量子比特操控、量子模擬加速、量子編譯等核心技術，推動量子計算商用進程。

 

　　打造要素供給高地，強化產業支撐。我國智能算力基礎薄弱，GPU晶片面臨“卡脖子”難題，可用於人工智能計算的智能算力嚴重不足，分佈分散且異構嚴重，統一調度難度大，缺乏大規模公益性開放算力平台；訓練數據供給不足，中文語音、詞彙和語法多樣複雜，數據量雖大但數據質量參差不齊，數據清洗和數據標註難度較高，需在算力和數據支撐上開展統籌建設和有效積累。一是支持相關龍頭企業聯合攻關，構建千P智能算力集群，實現國產算力訓練性能完全對標國際領先企業，突破大模型訓練算力底座的“卡脖子”難題。二是推動大規模高質量多渠道數據資源獲取、無監督預訓練數據清洗、人機協同的多模態眾包數據標註平台研發，構建100TB以上超大規模多模態多語種數據資源，爭創國家級數據訓練基地。三是推動國產GPU、自然語言處理、數據挖掘、深度學習等領域企業集聚，構建自主可控產業鏈體系。

 

　　打造場景應用高地，提升產業能級。龐大人口基數產生的海量數據和背後的巨大市場需求，是我國人工智能產業發展得天獨厚的優勢，需加速全時全域場景探索應用。一是推動“科研探索+”應用示範，充分發揮人工智能技術在文獻數據獲取、實驗預測、結果分析等方面的作用，支持域內高校院所與人工智能企業聯合設立科研合作專項，研發科學智能計算模型，充分挖掘分析實驗數據，學習、模擬、預測和發現各種現象與科學規律，爭取在量子信息、可控核聚變、深空探測等領域實現創新突破。二是推動“千行百業+”應用示範，推動國產大模型賦能地域聚力發展的產業地標，在相關重點產業開展大模型應用示範，推出新能源和智能網聯汽車、工業互聯網、智能家居等行業大模型，並形成一批可複製推廣的細分領域應用解決方案和標杆型示範應用案例。

 

　　打造安全治理高地，優化產業環境。當前，我國人工智能安全監管面臨一些挑戰。數據保護方面，用戶信息泄露和濫用涉及的網絡和數據安全技術有待突破，數據保護相關法律制度不完善；算法安全方面，對算法偏見、算法設計公正性和普適性的監管仍存在不足，需堅持統籌發展和安全，加強風險防控。一是高水平、高標準建設“中國（合肥）安全谷”，爭取在AI大模型網絡、數據安全、算法安全、雲安全等關鍵技術領域取得重大突破，形成一批具有全國競爭力的網絡與數據安全核心產品和解決方案，全面提升網絡和數據安全防護能力。二是完善風險防控和處置機制，遵守人工智能發展有關法律法規、倫理規範和技術標準，實行設計問責和應用監督並重的雙層監管結構，防範和打擊數據濫用、侵犯用戶私隱等行為。

 

　　總之，打造人工智能產業新優勢，需在技術、要素、場景和安全等多方面充分整合調度資源，各方合力推進。國家層面應重點支持大模型領域重大研發攻關項目，適度超前佈局綠色智能的多層次算力設施體系，加強數據標準體系建設和完善數據交易機制，加快制定人工智能安全領域標準規範，鼓勵地方和企業積極探索創新通用人工智能場景應用，推動我國人工智能產業發展形成新優勢、取得新進步。

 

原標題：人工智能如何發展更安全
學習時報
責任編輯：鄭繼民
頁面編輯：蘇偉