中國工業報記者   曹雅麗

在人工智能技術迅猛發展的今天，安全問題已成為制約其健康發展的關鍵瓶頸。從大模型自身的安全漏洞到利用AI進行的網絡攻擊，再到AI系統被攻擊引發的連鎖反應，人工智能面臨的安全挑戰日益嚴峻。如何構建高可靠的人工智能安全體系，既用AI驅動安全又保障AI自身安全，成為業界關注的焦點。

2025年全國兩會期間，全國政協委員、奇安信科技集團股份有限公司（以下簡稱“奇安信”）董事長齊向東圍繞“目前人工智能發展面臨哪些嚴峻安全問題？通過哪些維度或體系提升人工智能的安全能力？地方政府在構建人工智能產業生態方面如何取得顯著成效？如何在人工智能創新發展的競爭中展現強大的實力和獨特優勢？”等問題進行詳細介紹。

“我總結，人工智能發展面臨的安全問題大致可以分三類。”齊向東表示，第一類是人工智能大模型自身的安全問題。開發風險、數據風險、應用風險和基礎環境風險這四大安全風險比較突出。

開發方面，開源大模型要重點防范代碼缺陷和預留后門等問題；應用方面要防“內鬼”對訓練數據投毒，進行模型篡改、配置篡改；數據方面，要小心內部配置錯誤和弱口令等造成的數據庫暴露；基礎環境方面要重點關注云、API、傳統設備漏洞等等。

“目前，已有團隊發現DeepSeek存在嚴重漏洞，并可借此獲取后端隱私數據、API密鑰、操作元數據，盡管漏洞很快被修補，但是根據我們的經驗，新漏洞會不斷被挖掘出來。”齊向東說。

第二類是利用人工智能開展網絡攻擊的問題。人工智能促進了網絡攻擊手段的更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發動海量攻擊打垮已有的網絡安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認知戰、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網絡詐騙，或輸出背離主流價值觀的內容危害認知安全。

第三類是通過攻擊人工智能引發的“網絡攻擊大爆炸”。“未來人工智能會成為社會的基礎設施，當大模型嵌入智慧城市、工控系統、智慧政務等關鍵領域時，會放大漏洞等傳統安全威脅，一旦人工智能大模型遭到攻擊可能會牽一發而動全身，引發社會服務中斷、生產停滯、隱私數據泄露等安全事件。”齊向東表示。

針對這些安全問題，齊向東建議，要從技術保障、制度保障、成果應用三方面入手，系統提升安全能力，確保人工智能安全發展。

第一，建立適配大模型的縱深防御體系，筑牢人工智能的安全根基。齊向東介紹，最近，奇安信發布了業界首個大模型安全整體解決方案大模型安全盾，率先提出“大模型安全紅域”概念。通過構筑覆蓋終端、應用、數據、模型、紅域的多維度核心防護能力，打造適用于人工智能的立體縱深防御體系，并給予威脅情報、大網數據監測等情報賦能，實現“對外防攻擊、對內防內鬼”，為人工智能大模型安全穩定運行保駕護航。

第二，制定大模型安全強制合規要求，夯實人工智能安全發展的制度保障。要明確大模型安全的組織架構，界定安全主體責任，對基礎安全、數據安全、應用系統開發安全、運行安全等方面提出清晰的技術保障要求。同時，做好大模型運行安全監測和內容風控，定期開展安全評估測試，完善應急響應機制，一旦發現異常行為或潛在的安全事件，第一時間進行處置，將安全威脅消除在萌芽狀態。

第三，推廣“AI+安全”創新成果落地，走好提升安全能力的必經之路。這兩年，奇安信安全產品全面AI化進展顯著，“AI+SOC”“AI+天眼”“AI+天擎”“AI+椒圖”等在實際應用中受到來自金融、能源、醫療等領域客戶的廣泛好評；奇安信安全智能體也已經深度接入DeepSeek大模型，在為政企客戶提供威脅研判等多個場景里表現都很卓越。隨著人工智能應用的進一步鋪開，要鼓勵更多產業用上、用好“AI+安全”創新成果，提高千行百業的網絡安全防護效能。

“人工智能產業是高精尖的科創型產業，這種產業的發展壯大往往并不是由權威主導，而是由廣大創業者主導。地方政府應該廣泛發動民間創新創業力量，全面支持科創企業的必要需求，不斷培育、鞏固、發展人工智能競爭新優勢。”齊向東建議。

比如，在技術攻堅期敢投入，做好“風險共擔者”。用政策和資本為人工智能產業護航，不僅可以出臺針對性扶持政策，還可以提供多樣化的資金支持，運用種金融工具激勵創新。在產業成長期精準匹配要素資源，做好“服務者”。用好數智化工具，破除行政壁壘、簡化相應的審批流程，打造AI產業專屬的敏捷治理體系，讓科創企業心無旁騖搞發展。在全球化競爭中搭建協同合作網絡，做好“連接者”。促進產學研用深度融合，推動科研成果從實驗室走向市場，并以更加主動的姿態嵌入區域化、全球化的產業鏈條，占據關鍵節點位置，推動人工智能產業邁向更高發展層次。