【記者成鈺北京報(bào)道】9月28日，綠盟科技舉辦以“智御新境·安全無界”為主題的大模型安全創(chuàng)新成果（新品）發(fā)布會。當(dāng)前 AI 應(yīng)用風(fēng)險(xiǎn)持續(xù)演進(jìn)，隨 AI 自主性增強(qiáng)，風(fēng)險(xiǎn) “攻擊面” 擴(kuò)大，給安全防護(hù)帶來挑戰(zhàn)。

　　綠盟科技秉持“AI原生安全+智能運(yùn)營”的雙軌理念，提出大模型安全建設(shè)的“一三五”防御理念。該理念以政策法規(guī)、國家標(biāo)準(zhǔn)、行業(yè)要求等為指導(dǎo)依據(jù)，首先開展主體識別工作，明確安全防護(hù)的對象和范圍。借助合規(guī)測評、安全測試、AI紅隊(duì)等多種手段，全面開展安全風(fēng)險(xiǎn)評估，精準(zhǔn)識別出需優(yōu)先處理的特定場景安全風(fēng)險(xiǎn)。

　　在此基礎(chǔ)上，構(gòu)建覆蓋算力、語料、模型、應(yīng)用及第三方組件的縱深防御體系，從多維度開展日常安全運(yùn)營，保障 AI 應(yīng)用穩(wěn)定可靠。

　　基于頂層AI安全治理體系，在推動大模型安全建設(shè)落地過程中，應(yīng)當(dāng)統(tǒng)籌協(xié)調(diào)獨(dú)立部署大模型以及外聯(lián)商業(yè)大模型兩類關(guān)鍵場景。

　　針對大模型安全落地，綠盟統(tǒng)籌獨(dú)立部署、外聯(lián)商業(yè)大模型兩類場景，推出場景化解決方案：前者按訓(xùn)練、部署、應(yīng)用階段梳理風(fēng)險(xiǎn)、落實(shí)責(zé)任；后者區(qū)分 API 與 WEB 外聯(lián)模式，快速部署安全策略，貼合企業(yè)風(fēng)險(xiǎn)管理需求。

　　同時(shí)，綠盟科技還發(fā)布三款核心產(chǎn)品，構(gòu)建“評估－防護(hù)－響應(yīng)”的全生命周期防御體系。

　　大模型安全評估系統(tǒng)。它如同一位“安全體檢官”，能對140余款主流模型進(jìn)行自動化深度掃描，精準(zhǔn)發(fā)現(xiàn)內(nèi)容安全、對抗攻擊、數(shù)據(jù)泄露及組件漏洞等風(fēng)險(xiǎn)，并出具符合國家《生成式人工智能服務(wù)安全基本要求》的評估報(bào)告，為企業(yè)合規(guī)備案提供堅(jiān)實(shí)依據(jù)。

　　AI安全一體機(jī)（清風(fēng)衛(wèi)）。它是軟硬一體的“全能衛(wèi)士”，集成了內(nèi)容安全過濾、敏感數(shù)據(jù)防泄漏、精細(xì)化算力調(diào)度及應(yīng)用層攻擊防護(hù)等核心能力。通過自研“風(fēng)云衛(wèi)”混合模型和三級資源管控機(jī)制，有效防御提示詞注入、模型越獄等高級攻擊，同時(shí)保障資源高效利用，防止模型濫用。

　　輕量敏捷的AI安全圍欄。它作為“實(shí)時(shí)哨兵”，可通過API無縫集成至現(xiàn)有應(yīng)用，提供流式檢測與毫秒級響應(yīng)，對輸入輸出進(jìn)行實(shí)時(shí)風(fēng)險(xiǎn)分析和智能處置，是守護(hù)智能客服、AI助手等交互場景的第一道防線。

　　此外，為助力企業(yè)合規(guī)備案，綠盟打造全流程服務(wù)體系，自研核心工具 “綠盟大模型安全合規(guī)評估系統(tǒng)（LSAS）”；針對大模型生產(chǎn)應(yīng)用風(fēng)險(xiǎn)，推出大模型紅隊(duì)評估服務(wù)，攻防團(tuán)隊(duì)模擬攻擊，系統(tǒng)性發(fā)掘潛在安全漏洞。

（編輯 張暉）