近日，多家網(wǎng)絡(luò)安全上市公司公布網(wǎng)絡(luò)安全領(lǐng)域AI技術(shù)應(yīng)用的新進(jìn)展。綠盟科技、北信源向記者透露AI創(chuàng)新成果，深信服、亞信安全等企業(yè)相繼公布應(yīng)用AI技術(shù)的網(wǎng)絡(luò)安全產(chǎn)品以及市場(chǎng)應(yīng)用。
行業(yè)專家認(rèn)為，AI技術(shù)應(yīng)用在帶來新型安全風(fēng)險(xiǎn)的同時(shí)，也為網(wǎng)絡(luò)安全行業(yè)提升效率、提高產(chǎn)品能力帶來機(jī)遇。
“網(wǎng)絡(luò)安全+AI”成研發(fā)重點(diǎn)
9月23日，記者獲悉，綠盟科技將于近期發(fā)布保護(hù)大模型自身安全的網(wǎng)絡(luò)安全產(chǎn)品，包括AI安全一體機(jī)、AI安全圍欄、大模型安全評(píng)估系統(tǒng)以及相關(guān)的服務(wù)和解決方案。
綠盟科技副總裁宮智介紹，目前綠盟科技通過深入研究AI系統(tǒng)的安全風(fēng)險(xiǎn)，針對(duì)客戶AI系統(tǒng)的不同應(yīng)用模式，提供場(chǎng)景化的產(chǎn)品和服務(wù)，幫助客戶全面提升AI體系的整體安全防護(hù)能力，實(shí)現(xiàn)在線AI系統(tǒng)的安全合規(guī)。
北信源董事、副總裁高曦近日對(duì)記者表示，AI技術(shù)幫助企業(yè)提升開發(fā)效率，完善產(chǎn)品性能。公司已開發(fā)出AI能力平臺(tái)，集成了大模型、開發(fā)工具和知識(shí)庫，可進(jìn)行私有化部署。此外，公司已在金融、能源行業(yè)等領(lǐng)域交付了應(yīng)用AI技術(shù)的相關(guān)軟件產(chǎn)品。
多家網(wǎng)絡(luò)安全上市公司正在積極投入AI技術(shù)研發(fā)。深信服在投資者互動(dòng)平臺(tái)表示，持續(xù)將人工智能技術(shù)與能力融入網(wǎng)絡(luò)安全和云計(jì)算各項(xiàng)產(chǎn)品與服務(wù)中，截至目前已將大模型技術(shù)應(yīng)用到網(wǎng)絡(luò)安全產(chǎn)品，形成安全GPT、融合AI能力的AI防火墻和其他多款安全產(chǎn)品，并計(jì)劃未來繼續(xù)加大對(duì)AI技術(shù)的研發(fā)投入。
天融信表示，公司已在AI+安全、智算云等新方向進(jìn)行布局和投入，目前已形成“云、管、邊、端”全棧安全產(chǎn)品體系與智算云綜合解決方案，并在多行業(yè)實(shí)現(xiàn)規(guī)?；瘧?yīng)用。未來將重點(diǎn)推動(dòng)網(wǎng)絡(luò)安全、智算云產(chǎn)品與人工智能等新興場(chǎng)景的深度融合。
螞蟻集團(tuán)也于近日發(fā)布了融合網(wǎng)絡(luò)安全與AI技術(shù)的創(chuàng)新產(chǎn)品及解決方案。其中，智能眼鏡可信連接技術(shù)框架gPass已與Rokid、小米、夸克、雷鳥等智能眼鏡品牌合作，率先落地“看一下支付”場(chǎng)景。在大模型安全方面，螞蟻集團(tuán)展示了AIGC濫用檢測(cè)、深度偽造防御在內(nèi)的多項(xiàng)解決方案。
另外，啟明星辰表示，其開發(fā)的安星智能體已經(jīng)應(yīng)用于安全運(yùn)營(yíng)、威脅檢測(cè)、數(shù)據(jù)安全等產(chǎn)品或服務(wù)中，顯著提升了產(chǎn)品的能力和服務(wù)的效率。亞信安全稱，上半年，公司AI大模型應(yīng)用與交付業(yè)務(wù)實(shí)現(xiàn)顯著增長(zhǎng)，未來公司將持續(xù)聚焦AI大模型應(yīng)用與交付、5G專網(wǎng)與應(yīng)用、數(shù)智運(yùn)營(yíng)三大增長(zhǎng)引擎，加快簽單節(jié)奏。
AI應(yīng)用帶來安全新挑戰(zhàn)
信息技術(shù)咨詢公司Gartner的報(bào)告顯示，中國(guó)網(wǎng)絡(luò)安全的重點(diǎn)正逐步轉(zhuǎn)向保障人工智能的安全，實(shí)現(xiàn)業(yè)務(wù)轉(zhuǎn)型并加強(qiáng)企業(yè)、機(jī)構(gòu)的韌性。
Gartner高級(jí)研究總監(jiān)陳延全稱，預(yù)計(jì)到2027年，60%的中國(guó)大型企業(yè)將在安全運(yùn)營(yíng)中心采用暴露面管理技術(shù)，以提升事件響應(yīng)效率并減少漏洞。預(yù)計(jì)到2028年，在部署AI技術(shù)的中國(guó)企業(yè)中，60%企業(yè)將實(shí)施協(xié)作式AI防御策略，整合跨職能團(tuán)隊(duì)?wèi)?yīng)對(duì)AI網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，而目前這一比例僅為5%。
綠盟科技副總裁曹嘉表示，企業(yè)應(yīng)用AI大模型時(shí)需警惕提示詞注入、模型被誘導(dǎo)等風(fēng)險(xiǎn)?！半m然這些風(fēng)險(xiǎn)在模型運(yùn)營(yíng)商或開發(fā)廠商中出現(xiàn)的概率較低，但仍需重點(diǎn)關(guān)注。目前，行業(yè)主要依賴電子圍欄技術(shù)來防止模型被誘導(dǎo)輸出違規(guī)內(nèi)容?！辈芗握f，另外云計(jì)算的安全問題須引起重視。
綠盟科技首席創(chuàng)新官劉文懋則提到工具鏈安全的重要性。他解釋稱，在企業(yè)應(yīng)用AI大模型過程中，工具鏈漏洞和配置錯(cuò)誤可能導(dǎo)致嚴(yán)重的數(shù)據(jù)泄露，例如智能體調(diào)用第三方工具時(shí)存在的風(fēng)險(xiǎn)。他呼吁重視軟件供應(yīng)鏈安全，采取加強(qiáng)版本漏洞管理、代碼安全審計(jì)等基礎(chǔ)安全措施。
360集團(tuán)創(chuàng)始人周鴻祎近日公開表示，大模型在帶來機(jī)遇的同時(shí)也帶來了惡意利用、內(nèi)容安全、幻覺問題、提示詞攻擊等風(fēng)險(xiǎn)。大模型既是生產(chǎn)力工具，也可能成為新的攻擊載體和攻擊入口，政府和企業(yè)的數(shù)據(jù)資產(chǎn)、商業(yè)機(jī)密面臨著前所未有的暴露風(fēng)險(xiǎn)，保障AI安全是一項(xiàng)長(zhǎng)期而艱巨的任務(wù)。
奇安信在投資者互動(dòng)平臺(tái)表示，大模型能顯著提升網(wǎng)絡(luò)安全企業(yè)的能力和效率，產(chǎn)生“乘數(shù)效應(yīng)”。該公司認(rèn)為，當(dāng)前政企推廣智能體應(yīng)用的趨勢(shì)，類似于二三十年前普及網(wǎng)站的浪潮。然而，智能體應(yīng)用也帶來了爆炸式增長(zhǎng)的安全風(fēng)險(xiǎn)，因?yàn)樗鼈兺鶕碛衅髽I(yè)內(nèi)網(wǎng)的超級(jí)權(quán)限。奇安信建議企業(yè)加強(qiáng)跨部門協(xié)作，構(gòu)建動(dòng)態(tài)防御體系，特別是部署特權(quán)賬號(hào)管理系統(tǒng)，以應(yīng)對(duì)AI智能體帶來的安全風(fēng)險(xiǎn)。
構(gòu)建AI安全防護(hù)網(wǎng)
在保障AI應(yīng)用安全方面，行業(yè)專家們認(rèn)為，可以從大模型強(qiáng)制備案、構(gòu)建體系化防護(hù)入手，保障企業(yè)應(yīng)用AI過程中的安全。
曹嘉認(rèn)為，AI大模型備案應(yīng)成為強(qiáng)制性要求，模型廠商可以到當(dāng)?shù)鼐W(wǎng)信部門進(jìn)行基礎(chǔ)評(píng)估，提前識(shí)別風(fēng)險(xiǎn)，讓使用者更全面地理解其安全性與可用性。
“與傳統(tǒng)軟件和基礎(chǔ)設(shè)施相比，AI大模型的風(fēng)險(xiǎn)更大、更泛化，必須由專業(yè)安全廠商進(jìn)行持續(xù)投入。未來，大模型的檢測(cè)與防御將走向一體化，客戶需要從產(chǎn)品開發(fā)、代碼審計(jì)等全流程進(jìn)行規(guī)劃。”曹嘉說。
此外，AI大模型的運(yùn)營(yíng)單位可以通過構(gòu)建防護(hù)體系，保障AI應(yīng)用安全。首先開展合規(guī)評(píng)估，對(duì)照監(jiān)管規(guī)定、合規(guī)檢查清單進(jìn)行自查；其次是部署專項(xiàng)防護(hù)，引入AI安全圍欄等技術(shù)，防御新型攻擊，并確保過程可審計(jì)、可追溯；再是考慮引入第三方評(píng)估，定期進(jìn)行滲透測(cè)試和安全評(píng)估，獲取權(quán)威報(bào)告，降低責(zé)任風(fēng)險(xiǎn)。
劉文懋認(rèn)為，AI技術(shù)應(yīng)用將為各行業(yè)帶來爆發(fā)式增長(zhǎng)，但安全問題限制了數(shù)據(jù)流通。他認(rèn)為，通過安全手段建立信任，推動(dòng)數(shù)據(jù)流通，并將AI全面應(yīng)用于各類場(chǎng)景，將為各行業(yè)釋放巨大價(jià)值。（作者 鄭萃穎）
寧公網(wǎng)安備 64010402000050號(hào)
