AI 安全從 " 可選項(xiàng) " 變?yōu)?" 必答題 "

作者／IT 時(shí)報(bào)記者 郝俊慧

編輯／孫妍

提出 " 新三型 " 概念近五年后，中國電信服務(wù)型、科技型、安全型 " 三足鼎立 " 之勢初現(xiàn)端倪。

2020 年回歸 A 股前夕，中國電信首次明確表示，要打造世界一流的 " 三型企業(yè) "，此后 " 云改 "" 數(shù)轉(zhuǎn) ""AI"" 量子 " 等名詞成為中國電信發(fā)展歷程中的不同注腳。而 " 安全 " 始終是最后出現(xiàn)的那塊 " 壓艙石 "。

無論是 " 云、網(wǎng)、邊、端、數(shù)、智、安 " 的一體化優(yōu)勢，還是服務(wù)型、科技型、安全型企業(yè)的 " 新三型概念 "，作為建設(shè)網(wǎng)絡(luò)強(qiáng)國和數(shù)字中國的 " 國家隊(duì) " 與 " 主力軍 "，安全是中國電信的戰(zhàn)略基石，卻又若隱若現(xiàn)。

" 關(guān)于安全，我們做得多，但和大家交流得比較少。" 不久前舉行的數(shù)字中國建設(shè)峰會(huì)智能云生態(tài)大會(huì)上，中國電信董事長柯瑞文在主題發(fā)言中，首次詳細(xì)解讀了中國電信 " 安全型企業(yè) " 的重要建設(shè)成果，" 中國電信發(fā)揮安全型企業(yè)的綜合優(yōu)勢，打造從基礎(chǔ)設(shè)施到數(shù)據(jù)、內(nèi)容、算法和應(yīng)用一體的防護(hù)體系，提供一站式安全運(yùn)營服務(wù) "。

隨后的產(chǎn)品發(fā)布環(huán)節(jié)，中國電信旗下的天翼安全科技有限公司黨委書記、總經(jīng)理劉紫千正式發(fā)布了中國電信的一站式大模型安全能力平臺(tái)。

人工智能等新技術(shù)帶來了前所未有的發(fā)展機(jī)遇，同時(shí)也帶來了前所未有的風(fēng)險(xiǎn)與挑戰(zhàn)。安全已不再只是企業(yè)數(shù)字化建設(shè)的基石與防線，而是關(guān)乎生死存亡的戰(zhàn)略命脈。

為千行百業(yè)構(gòu)建全方位動(dòng)態(tài)防護(hù)體系，實(shí)現(xiàn)人工智能安全、可靠、可控，不僅是中國電信作為 " 國家隊(duì) " 的使命，亦是它在人工智能時(shí)代再次 " 搶占先機(jī) " 的一步明棋。

" 全方位安全護(hù)欄 "

解決 AI 共性問題

當(dāng) 21 世紀(jì)進(jìn)入第 25 個(gè)年頭，時(shí)光的腳步似乎也被人工智能加速了。

盡管距離 OpenAI 發(fā)布 ChatGPT 僅僅過去兩年半，但人工智能的發(fā)展已一日千里：從 1.0 時(shí)代的對話交互，到 2.0 時(shí)代的智能體（Agent），再到 3.0 時(shí)代的具身智能（AI 與硬件結(jié)合）。

然而，每一次 AI 形態(tài)變化都伴隨著交互方式和載體的革新，同時(shí)也帶來了新的安全挑戰(zhàn)。

柯瑞文指出，因語料偏見帶來的文化價(jià)值偏差，因數(shù)據(jù)投喂模型訓(xùn)練推理帶來的敏感信息泄密，因 " 對齊 " 帶來的模型智能體失控的風(fēng)險(xiǎn)，因深度偽造帶來的虛假信息泛濫等問題，正成為 AI 產(chǎn)業(yè)發(fā)展面臨的共性問題。

與此同時(shí)，技術(shù)進(jìn)步與安全防護(hù)之間的博弈也日趨緊張。1.0 時(shí)代，安全防護(hù)聚焦于云端的內(nèi)容安全和 API 防護(hù)；2.0 時(shí)代，隨著智能體向邊緣遷移，邊緣側(cè)的權(quán)限控制成為重點(diǎn)；到了 3.0 時(shí)代，AI 與硬件結(jié)合使得數(shù)據(jù)邊界模糊，而硬件漏洞和載體安全問題也隨之浮出水面。

不過，盡管技術(shù)形態(tài)在變，安全的本質(zhì)未變：" 漏洞必然存在，權(quán)限信任問題、數(shù)據(jù)保護(hù)需求以及攻防對抗的本質(zhì)，始終是 AI 安全的內(nèi)核。" 劉紫千表示。

為了應(yīng)對這些挑戰(zhàn)，經(jīng)過多年布局，天翼安全科技有限公司（以下簡稱中國電信安全）構(gòu)建了從 IaaS（基礎(chǔ)設(shè)施即服務(wù)）、PaaS（平臺(tái)即服務(wù)）、DaaS（數(shù)據(jù)即服務(wù)）到 MaaS（大模型即服務(wù)）和 SaaS（軟件即服務(wù)）的立體化、多層次大模型安全動(dòng)態(tài)防護(hù)體系，并在當(dāng)日大會(huì)上發(fā)布了一站式大模型安全能力平臺(tái)。

該平臺(tái)基于大網(wǎng)測繪和威脅情報(bào)的大模型風(fēng)險(xiǎn)預(yù)警和動(dòng)態(tài)攻防測試技術(shù)的 AI 安全檢測，以及多層次立體化的大模型防護(hù)響應(yīng)能力，形成了智能云全體系的安全防護(hù)。

比如，在 IaaS 層面，中國電信通過部署多重防火墻，實(shí)施實(shí)時(shí)流量監(jiān)控與異常檢測來加固入口，推進(jìn)硬件級安全隔離與完整性校驗(yàn)。

《IT 時(shí)報(bào)》記者在天翼安全科技有限公司官方網(wǎng)站上看到，基于中國電信云網(wǎng)資源優(yōu)勢推出的云堤 DDoS 安全防護(hù)，充分發(fā)揮了電信運(yùn)營商的 " 硬核實(shí)力 "，通過對 1400 余臺(tái)核心路由器、12700 余中繼接口、21400 余邊界接口規(guī)模的關(guān)聯(lián)性流量進(jìn)行監(jiān)控與分析，打造針對 DDoS 攻擊的近源與近目的相結(jié)合、云網(wǎng)邊端多級聯(lián)動(dòng)的分布式 " 導(dǎo)彈防御體系 "，全面精準(zhǔn)識別攻擊，動(dòng)態(tài)調(diào)度遍布全國的超 10T 級防護(hù)容量的清洗中心，在極限場景下抵御境內(nèi)外大規(guī)模 DDoS 攻擊。

云堤原生防護(hù)

在 SaaS 層，中國電信安全提供的零信任安全架構(gòu)，可以利用動(dòng)態(tài)令牌強(qiáng)化認(rèn)證，讓用戶在任意位置對云上業(yè)務(wù)或傳統(tǒng)數(shù)據(jù)中心開展隨時(shí)隨地、低延遲、更安全的動(dòng)態(tài)訪問。

針對新興的 Agent 智能體，中國電信安全也做了周全的考慮。隨著 Agent 逐漸在終端設(shè)備上普及，無論是手機(jī)、電腦還是企業(yè)的邊緣終端，都可以更快更便捷地享受 AI 服務(wù)。然而，不少企業(yè)不敢輕易部署 Agent，也源自安全的考量。

配置不當(dāng)?shù)闹悄荏w可能訪問敏感數(shù)據(jù)或執(zhí)行危險(xiǎn)操作，被篡改的智能體更可能竊取隱私信息或破壞系統(tǒng)穩(wěn)定性。對此，中國電信安全公司推出了對 Agent 智能體工具的監(jiān)控服務(wù)，通過對 Agent 調(diào)用行為的實(shí)時(shí)監(jiān)控、審計(jì)與安全評估，確保其安全可控。

由此，中國電信發(fā)揮安全型企業(yè)的綜合優(yōu)勢，打造了從基礎(chǔ)設(shè)施到數(shù)據(jù)、內(nèi)容、算法和應(yīng)用一體的立體式防護(hù)體系，為企業(yè)構(gòu)建了全方位安全護(hù)欄，不僅有效解決 AI 發(fā)展中的共性問題，在超大型企業(yè)的實(shí)際應(yīng)用中也有著出色表現(xiàn)，成為安全領(lǐng)域的 " 最佳實(shí)踐 "。

超大型企業(yè)的

" 最佳實(shí)踐 "

" 當(dāng)碳基生物和硅基生物形成攻防對抗時(shí)，我們需要盡可能接近 AI 內(nèi)核，才能真正了解這些所謂‘不可解釋’的硅基生物安全邊界在哪里？" 科幻小說是對未來的 " 預(yù)言 "，劉紫千希望能夠成為解讀未來的 " 預(yù)言家 "，只是不同于劉慈欣等科幻作家的 " 空想 "，作為 " 國家隊(duì) " 的中國電信，用實(shí)際行動(dòng)為自己建起了層層藩籬，率先成為安全界的 " 最佳實(shí)踐 "。

如果將此次發(fā)布的人工智能立體式防護(hù)體系細(xì)細(xì)拆解，從中可見中國電信的獨(dú)門秘籍。

在全球通信領(lǐng)域中，中國電信是最早提出向 " 科技型企業(yè) " 轉(zhuǎn)型的電信運(yùn)營商之一，更是首個(gè)成立人工智能研究院的央企，是妥妥的 "AI 國家隊(duì) "。

從通信跨界到人工智能，雖是 " 大象轉(zhuǎn)身 "，中國電信卻跑出了輕盈的步伐，其成功秘訣之一便是，苦練內(nèi)功，讓自己先成為 " 燈塔 "。在打造超大規(guī)模企業(yè)人工智能立體防護(hù)體系時(shí)，中國電信把第一步確定為構(gòu)建高質(zhì)量數(shù)據(jù)集。

在人工智能的算力、算法、數(shù)據(jù)三要素中，越來越多的共識已經(jīng)形成：高質(zhì)量數(shù)據(jù)集的比重越來越高。專業(yè)機(jī)構(gòu)進(jìn)行的魯棒性研究表明，數(shù)據(jù)集規(guī)模與質(zhì)量對于模型安全性的重要性已經(jīng)超過純粹的算力投入。

2023 年 7 月，中國電信安全公司在第二十二屆中國互聯(lián)網(wǎng)大會(huì) AI 安全論壇發(fā)布了業(yè)內(nèi)首個(gè)安全大模型高質(zhì)量數(shù)據(jù)集—— " 阡陌 "。截至目前，" 阡陌數(shù)集 " 已包含 4 大類 22 小類共計(jì) 10 萬億條數(shù)據(jù)，總量達(dá) 20PB，日增 500TB，并建立三級安全風(fēng)險(xiǎn)分類標(biāo)簽體系，覆蓋超百億 token，顯著提高了數(shù)據(jù)安全性。

此外，" 阡陌 " 不僅是保障安全大模型魯棒性、可控性與合規(guī)性的 " 護(hù)城河 "，更是模型訓(xùn)練的 " 糧倉 "。

基于多年積累的高質(zhì)量數(shù)據(jù)集、海量安全知識庫及對網(wǎng)絡(luò)安全運(yùn)營場景的深刻理解，電信安全在 MaaS 模型層，訓(xùn)練出國內(nèi)領(lǐng)先的安全垂類模型——見微安全大模型，其核心數(shù)據(jù)底座正是在 " 阡陌 " 的基礎(chǔ)上，抽取上億條數(shù)據(jù)形成訓(xùn)練集進(jìn)行模型精調(diào)，并拓展了場景應(yīng)用驅(qū)動(dòng)的采集源和 RAG 數(shù)據(jù)，構(gòu)建了上百 TB 的檢索級數(shù)據(jù)庫。

經(jīng)過持續(xù)兩年的數(shù)據(jù)集完善以及與中國電信自身的運(yùn)營生產(chǎn)深度結(jié)合，中國電信已經(jīng)在威脅研判、智能運(yùn)營、安全滲透和代碼審計(jì)等方面形成強(qiáng)大的安全能力。

" 比如，運(yùn)營人員經(jīng)常會(huì)陷入海量的日志告警當(dāng)中而不知所措。我們可以將大量的告警噪聲去掉，識別出需要運(yùn)營人員真正關(guān)注的安全事件。" 劉紫千介紹。

據(jù)《IT 時(shí)報(bào)》記者了解，基于這些能力構(gòu)建的天翼安全大腦，可以通過多模態(tài)數(shù)據(jù)智能分析引擎實(shí)現(xiàn)對全網(wǎng)安全威脅的精準(zhǔn)溯源與實(shí)時(shí)檢測，結(jié)合智能體構(gòu)建自動(dòng)化響應(yīng)機(jī)制，成功將安全事件平均處置時(shí)效壓縮至分鐘級，推動(dòng)安全運(yùn)營模式從 " 人工研判 " 向 "AI 驅(qū)動(dòng) " 的范式升級。天翼安全大腦對大模型的應(yīng)用從簡單 " 專家問答 " 轉(zhuǎn)向 " 多場景深耕 "，真正實(shí)現(xiàn)了深度融合和流程再造。

" 點(diǎn)亮 " 硬幣的另一面

然而，正如硬幣有正反兩面，盡管人工智能的蓬勃發(fā)展為網(wǎng)絡(luò)安全領(lǐng)域的產(chǎn)品創(chuàng)新與運(yùn)營模式帶來革命性機(jī)遇，同時(shí)也對 AI 自身的安全可控提出了嚴(yán)峻挑戰(zhàn)。作為安全領(lǐng)域的 " 國家隊(duì) "，中國電信始終考慮的是，如何在擁抱 AI，賦能安全效率提升的同時(shí)，構(gòu)建堅(jiān)實(shí)的 AI 防護(hù)體系，" 點(diǎn)亮 " 硬幣不被照亮的另一面。

這是一場對 " 硬核技術(shù) " 的正面考驗(yàn)。

2024 年末，人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的頂級國際會(huì)議、第三十八屆神經(jīng)信息處理系統(tǒng)大會(huì)（NeurIPS 2024）落幕，在官方特設(shè)的 " 大語言模型與智能體安全競賽 " 中，電信安全 "CTCT" 戰(zhàn)隊(duì)在 CLAS 智能體安全賽道中斬獲亞軍。這是一場聚焦大型語言模型（LLM）與智能體（Agent）安全性研究的全球角逐，優(yōu)勝者意味著在與劍橋大學(xué)、芝加哥大學(xué)、密歇根大學(xué)、微軟、三星、亞馬遜等 30 支人工智能安全領(lǐng)域研究隊(duì)伍同場 PK 中技高一籌。

這并非一次突如其來的勝利。

智能云生態(tài)大會(huì)主論壇上，柯瑞文首次詳細(xì)介紹了中國電信的安全能力，不僅可以為企業(yè)打造安全的開發(fā)環(huán)境，實(shí)現(xiàn)全量代碼上云，提升代碼掃描、審計(jì)、溯源的能力，構(gòu)筑代碼安全屏障，同時(shí)面向應(yīng)用，構(gòu)建了輸入可防、推理過程可檢測、輸出可控的全方位立體防護(hù)體系。

據(jù)天翼安全科技有限公司總經(jīng)理劉紫千介紹，目前，中國電信已形成三大核心能力，構(gòu)建起 AI 安全防護(hù)閉環(huán)。

首先，基于自研的廣目資產(chǎn)測繪能力和靈犀網(wǎng)絡(luò)原生威脅情報(bào)系統(tǒng)，平臺(tái)可以實(shí)時(shí)監(jiān)控國內(nèi)互聯(lián)網(wǎng)空間開放的基礎(chǔ)大模型應(yīng)用情況，通過大屏可視化呈現(xiàn)，可清晰識別頭部模型的分布態(tài)勢及參數(shù)規(guī)模趨勢，同時(shí)對大模型應(yīng)用的互聯(lián)網(wǎng)暴露面進(jìn)行深度掃描，識別未加密模型、數(shù)據(jù)泄露等傳統(tǒng)網(wǎng)信安全風(fēng)險(xiǎn)，為客戶提供前瞻性風(fēng)險(xiǎn)預(yù)警服務(wù)。

其次，針對 AI 技術(shù)帶來的輸入不可控、輸出難預(yù)測等新型挑戰(zhàn)，平臺(tái)創(chuàng)新構(gòu)建 " 大模型靶場 "，接入國內(nèi)所有主流基礎(chǔ)大模型的各類參數(shù)版本，開展實(shí)時(shí)動(dòng)態(tài)技術(shù)測試。通過模擬攻擊場景（如惡意代碼生成、涉密信息泄露等），平臺(tái)量化評估模型漏洞、權(quán)限管理、數(shù)據(jù)保護(hù)及攻防對抗四大安全本質(zhì)維度，幫助客戶精準(zhǔn)定位風(fēng)險(xiǎn)點(diǎn)并優(yōu)化防護(hù)策略。

據(jù)了解，中國電信提出的 " 端云協(xié)同 " 多層次立體化防護(hù)理念，正從業(yè)務(wù)訪問端（前場）、服務(wù)開放端（中場）至云端資源載體，全方位為企業(yè)構(gòu)建 " 大模型安全護(hù)欄 "。

柯瑞文透露，中國電信將持續(xù)優(yōu)化 AI 治理機(jī)制，構(gòu)建技術(shù)監(jiān)測、風(fēng)險(xiǎn)預(yù)警和應(yīng)急響應(yīng)體系，提升全生命周期安全治理能力，為人工智能的健康發(fā)展保駕護(hù)航。

當(dāng) AI 安全從 " 可選項(xiàng) " 變?yōu)?" 必答題 "，中國電信正以硬核科技為矛、以立體防護(hù)為盾，在 AI 賦能與安全治理的天平上精準(zhǔn)校準(zhǔn)，為全球人工智能發(fā)展貢獻(xiàn) " 中國方案 "。

排版／ 季嘉穎

圖片／ 中國電信安全

來源／《IT 時(shí)報(bào)》公眾號 vittimes

E N D

點(diǎn)擊圖片登記，免費(fèi)領(lǐng)取 MWC 上海門票