2025年10月28日，修改后的《中華人民共和國網(wǎng)絡(luò)安全法》正式公布。其中，第二十條首次增設(shè)了人工智能條款，明確提出“完善人工智能倫理規(guī)范，加強風(fēng)險監(jiān)測評估和安全監(jiān)管，促進人工智能應(yīng)用和健康發(fā)展”。同時，修改后的《網(wǎng)絡(luò)安全法》加大了對AI安全問題的監(jiān)管與處罰力度：關(guān)鍵信息基礎(chǔ)設(shè)施運營者若因 AI 安全事件導(dǎo)致喪失、造成嚴重后果，將面臨更為嚴厲的法律責(zé)任。修改后的法律擬于2026年1月1日正式施行。對于所有AI技術(shù)的研發(fā)者、提供者和使用者，這一階段不僅是理解法規(guī)、完善內(nèi)部管理體系的窗口期，更是主動構(gòu)建安全防線、實現(xiàn)合規(guī)落地的重要時期。
AI時代的新型安全挑戰(zhàn)日益凸顯
隨著大語言模型的飛速發(fā)展，人工智能技術(shù)與應(yīng)用已深入教育、金融、醫(yī)療、政務(wù)等關(guān)鍵領(lǐng)域。然而，AI系統(tǒng)的“數(shù)據(jù)黑箱”特性和復(fù)雜的算法機制，導(dǎo)致其安全問題難以像傳統(tǒng)軟件一樣通過“打補丁”的簡單方式被修復(fù)，而是需要從數(shù)據(jù)、網(wǎng)絡(luò)、應(yīng)用及供應(yīng)鏈等多個層面進行系統(tǒng)性排查與治理。
在應(yīng)用層，AI系統(tǒng)與其他應(yīng)用系統(tǒng)一樣，面臨安全漏洞方面的威脅，基礎(chǔ)設(shè)施易成為攻擊目標；在數(shù)據(jù)層，模型訓(xùn)練數(shù)據(jù)可能被污染或濫用，誘發(fā)“數(shù)據(jù)投毒”和隱私泄露問題；在網(wǎng)絡(luò)層，開放的API易成為暴力破解和未授權(quán)訪問的入口，威脅服務(wù)可用性；在供應(yīng)鏈層，開源組件的安全隱患也不容忽視，一旦第三方依賴組件被植入后門，風(fēng)險甚至?xí)U散至整個產(chǎn)業(yè)生態(tài)。
這些風(fēng)險交織疊加，使得AI系統(tǒng)的安全性、可靠性和可控性面臨嚴峻考驗。如何系統(tǒng)性地開展安全測試評估，識別并修復(fù)安全隱患，已成為AI從業(yè)者必須面對的核心問題。
永信至誠「數(shù)字風(fēng)洞」構(gòu)建AI產(chǎn)業(yè)的“數(shù)字健康管理體系”
面向復(fù)雜的AI安全治理場景，永信至誠創(chuàng)新提出“原生安全”理念，將AI系統(tǒng)視為一個“有機體”，以“數(shù)字健康”的理念進行全生命周期管理，從AI系統(tǒng)的內(nèi)在架構(gòu)、數(shù)據(jù)處理、算法訓(xùn)練及工作流程等源頭構(gòu)建安全能力，使安全成為系統(tǒng)原生屬性。
基于這一理念，永信至誠依托「數(shù)字風(fēng)洞」產(chǎn)品體系，構(gòu)建覆蓋AI系統(tǒng)全生命周期的數(shù)字健康管理方案，系統(tǒng)開展風(fēng)險測評與安全驗證，助力企業(yè)實現(xiàn)AI系統(tǒng)的原生安全。
圍繞AI系統(tǒng)及應(yīng)用在不同生命周期的安全需求場景，永信至誠「數(shù)字風(fēng)洞」數(shù)字健康管理方案提供以下核心能力：
1.建立AI系統(tǒng)資產(chǎn)臺賬
相比其他數(shù)字系統(tǒng)，AI系統(tǒng)的數(shù)字資產(chǎn)更加復(fù)雜，且隨著系統(tǒng)的不斷迭代，數(shù)字資產(chǎn)的規(guī)模還在不斷增加，因此在AI大模型整個生命周期內(nèi)，需要通過“上帝視角”對AI大模型的相關(guān)資產(chǎn)進行系統(tǒng)管理。
建立資產(chǎn)臺賬：通過「數(shù)字風(fēng)洞」系統(tǒng)建立AI大模型構(gòu)建的數(shù)字系統(tǒng)相關(guān)資產(chǎn)臺賬，如數(shù)據(jù)、接口、中間件、云資源等，梳理訪問權(quán)限、落實責(zé)任人等；
動態(tài)管理資產(chǎn)臺賬：對迭代過程中新增的資產(chǎn)實施動態(tài)建檔管理，為安全防護奠定基礎(chǔ)。
2、全場景安全測試評估
圍繞AI系統(tǒng)及應(yīng)用在不同場景面臨的數(shù)據(jù)安全、內(nèi)容安全、系統(tǒng)安全、供應(yīng)鏈安全等方面開展多維測試評估與驗證，確保AI系統(tǒng)可靠性。
網(wǎng)絡(luò)與系統(tǒng)安全測評：測試通信加密、訪問控制、端口安全、抗DDoS防護等能力；檢查系統(tǒng)漏洞并強化身份認證機制，防止越權(quán)操作；
數(shù)據(jù)安全測評：通過專屬測試載荷集，開展漏洞發(fā)現(xiàn)、敏感數(shù)據(jù)檢測與權(quán)限評估，保障數(shù)據(jù)可靠性；提供數(shù)據(jù)風(fēng)險識別與合規(guī)性保障，持續(xù)保護數(shù)據(jù)隱私與合規(guī)使用；
內(nèi)容安全測評：基于AI大模型測評「數(shù)字風(fēng)洞」ISAC24四維測評體系，依托超500萬條安全檢測數(shù)據(jù)與2萬余種攻擊模板，識別仇恨言論、違法誘導(dǎo)等內(nèi)容風(fēng)險，防范越獄攻擊與注入攻擊；
供應(yīng)鏈安全測評：針對AI 系統(tǒng)開源組件開展成分分析；通過代碼審計識別漏洞與惡意代碼；對第三方插件進行權(quán)限審查與惡意行為監(jiān)測；強化API安全測試與訪問管理。
3、全生命周期風(fēng)險閉環(huán)管理
依托「數(shù)字風(fēng)洞」風(fēng)洞時光機子系統(tǒng)，對AI模型構(gòu)建、部署、運營各階段進行場景化風(fēng)險測評與快照留存，支持歷史任務(wù)回溯與復(fù)測，實現(xiàn)風(fēng)險閉環(huán)管理。
4、持續(xù)威脅監(jiān)測響應(yīng)
接入永信至誠「家庭醫(yī)生」服務(wù)，依托永信至誠一線專家團隊，對AI大模型及相關(guān)系統(tǒng)資產(chǎn)進行定期巡檢，同時構(gòu)建對新問題應(yīng)急響應(yīng)與處置機制，保障業(yè)務(wù)安全與連續(xù)性。接入多源威脅情報，及時預(yù)警和處置，防范釣魚仿冒、供應(yīng)鏈攻擊、暗網(wǎng)泄露等風(fēng)險。并基于「數(shù)字風(fēng)洞」構(gòu)建的資產(chǎn)臺賬持續(xù)監(jiān)測依賴項、社交賬號及其他資產(chǎn)潛在安全性。
5、構(gòu)建實時防護“安全圍欄”
基于AI大模型測評「數(shù)字風(fēng)洞」的智能化識別能力，為AI應(yīng)用提供內(nèi)容安全，部署于用戶與AI系統(tǒng)之間，實時過濾惡意指令、越獄嘗試與違規(guī)回復(fù)，對風(fēng)險內(nèi)容進行拒絕應(yīng)答或會話阻斷，提供可靠的實時防護，確保其交互過程的合規(guī)與安全。
在積極參與產(chǎn)業(yè)實踐的同時，永信至誠也致力于推動AI安全標準的制定與落地。永信至誠深度參與了全國網(wǎng)絡(luò)安全標準化技術(shù)委員會（SAC/TC260）牽頭的《政務(wù)大模型應(yīng)用安全規(guī)范》的編寫工作，為政務(wù)大模型在數(shù)據(jù)安全、算法可靠、應(yīng)用合規(guī)等方面提供了關(guān)鍵技術(shù)依據(jù)和測評方法指引。
作為數(shù)字安全測試評估賽道領(lǐng)跑者，網(wǎng)絡(luò)靶場和人才建設(shè)領(lǐng)軍者，永信至誠以“產(chǎn)品乘服務(wù)”創(chuàng)新理念，助力AI企業(yè)實現(xiàn)常態(tài)化安全測評與可持續(xù)性合規(guī)建設(shè)。通過為AI系統(tǒng)建立“數(shù)字健康檔案”，讓安全可監(jiān)測、可量化、可改進，為AI大模型的持續(xù)發(fā)展與應(yīng)用提供有力支撐，保障AI數(shù)字健康，帶給世界安全感。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
