“安全認(rèn)知，日見清晰；安全研究，路阻且長；安全行業(yè)，大有可為；緊跟創(chuàng)新，保障發(fā)展……”在近日舉行的第十二屆互聯(lián)網(wǎng)安全大會上，中國工程院院士吳世忠的一番總結(jié)，折射了AI（人工智能）時(shí)代安全大模型行業(yè)的發(fā)展現(xiàn)狀。

一直以來，技術(shù)發(fā)展伴生的安全挑戰(zhàn)、迭代防護(hù)，貫穿著行業(yè)發(fā)展始終，也備受各界關(guān)注。大會期間，多位院士，中國互聯(lián)網(wǎng)協(xié)會、中國信通院、世界互聯(lián)網(wǎng)大會等機(jī)構(gòu)組織負(fù)責(zé)人，以及國內(nèi)外企業(yè)代表齊聚，圍繞“打造安全大模型”主題，分享來自政產(chǎn)學(xué)研用領(lǐng)域的各方觀點(diǎn)。

從“百模大戰(zhàn)”到探尋更多應(yīng)用場景

在過去的兩年里，隨著ChatGPT在全球范圍內(nèi)爆紅，AI大模型熱潮在國內(nèi)急速升溫，多家互聯(lián)網(wǎng)巨頭紛紛加速布局大模型應(yīng)用。記者從會上了解到，截至目前，我國已完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型有180多個(gè)，注冊用戶數(shù)已突破5.64億。

會上專家介紹，AI以激進(jìn)式的科技創(chuàng)新，全面推進(jìn)新一輪科技革命和生活賦能，以顛覆式的應(yīng)用創(chuàng)新，激發(fā)出科技、經(jīng)濟(jì)、社會全方位的深刻變化。大模型的出現(xiàn)標(biāo)志著AI發(fā)展進(jìn)入新階段，具備了強(qiáng)大的語言生成能力、人機(jī)自然交互能力、遷移（舉一反三）能力。

“我們已初步構(gòu)建了較為全面的AI技術(shù)產(chǎn)業(yè)體系，建成了2500多個(gè)數(shù)字化車間和智能工廠，經(jīng)過AI改造研發(fā)周期平均縮短20％，生產(chǎn)效率提升35％……”中國信息通信研究院副院長魏亮分享了這樣一組數(shù)據(jù)。他分析認(rèn)為，大模型技術(shù)發(fā)展帶來高質(zhì)量算力基礎(chǔ)設(shè)施和數(shù)據(jù)集語料庫的大量需求，我們要加快推進(jìn)大模型基礎(chǔ)設(shè)施化，促進(jìn)行業(yè)應(yīng)用和中小企業(yè)普惠使用，不斷創(chuàng)新應(yīng)用生態(tài)、推動縱深發(fā)展。

從曾經(jīng)的“百模大戰(zhàn)”，到持續(xù)賦能千行百業(yè)，再到如今發(fā)力探尋具體應(yīng)用場景。“2024年應(yīng)該是場景之年，要結(jié)合業(yè)務(wù)找‘明星場景’，然后根據(jù)場景設(shè)計(jì)功能，對大模型進(jìn)行專項(xiàng)訓(xùn)練。”360集團(tuán)創(chuàng)始人周鴻祎認(rèn)為。

有專家提到“協(xié)作”的重要性，基礎(chǔ)大模型是企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán)，需要應(yīng)對包括強(qiáng)大的算力、充足的數(shù)據(jù)、高水平的研材、新應(yīng)用的算法等諸多挑戰(zhàn)，這就需要大模型提供方與垂直行業(yè)緊密合作。

大模型具有兩用性和雙刃劍特征

“ChatGPT問世不到一年，科研前沿就有了風(fēng)險(xiǎn)預(yù)警。它是典型的兩用性技術(shù)，具有雙刃劍特性，人們擔(dān)心技術(shù)發(fā)展失控、道理倫理失范、網(wǎng)絡(luò)安全失守。”吳世忠談到這樣一組觀察體會——近年來，美國人工智能公司“開放人工智能研究中心”（OpenAI）等國外行業(yè)巨頭相繼加大安全技術(shù)和監(jiān)管措施的投入，國內(nèi)諸多企業(yè)也在安全研究上布局投資。這說明，大模型能力增長需要安全研究快速跟進(jìn)，這已成為業(yè)界共識。

在業(yè)界看來，當(dāng)前AI的發(fā)展存在諸多不足。“生成式AI存在‘幻覺’缺陷，它會‘胡說八道’，很多情況下還并不知道自己說錯(cuò)了。它和機(jī)器產(chǎn)生的錯(cuò)誤不一樣，后者往往我們可以控制，但前者是本身的錯(cuò)誤，是一定會發(fā)生且不可控的。這是開發(fā)應(yīng)用中需要重點(diǎn)考慮的問題。”中國科學(xué)院院士、清華大學(xué)計(jì)算機(jī)系教授張鈸說。

“AI既有向善的一面，也有向惡的一面。”中國工程院院士、國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任鄔江興認(rèn)為，AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險(xiǎn)存在嚴(yán)重失衡。AI應(yīng)用系統(tǒng)網(wǎng)絡(luò)內(nèi)生安全的共性問題，在于計(jì)算機(jī)帶來了“娘胎的基因缺陷”，如果不能杜絕軟硬件代碼設(shè)計(jì)中的脆弱性，就無法杜絕網(wǎng)絡(luò)問題。

據(jù)了解，相對于大模型本身的研究，相關(guān)的安全研究才剛剛開始，不但任重道遠(yuǎn)，而且困難重重：一是對于大模型的解釋性和透明性不足；二是安全保障技術(shù)存在復(fù)雜性和多樣性；三是倫理和道德問題的復(fù)雜性；四是安全測試和風(fēng)險(xiǎn)評估的復(fù)雜性。

推動協(xié)同共治，匯聚各方力量

多年來，互聯(lián)網(wǎng)技術(shù)的攻防對抗，宛如一場從未停歇的“正邪較量”。“需要不斷探索新的防護(hù)策略來應(yīng)對日益復(fù)雜的數(shù)字化環(huán)境，數(shù)字技術(shù)應(yīng)用既是安全防御的重點(diǎn)，也是保障的有力手段，需要將大數(shù)據(jù)、AI、物聯(lián)網(wǎng)等技術(shù)結(jié)合，提升保障能力。”中國工程院院士鄔賀銓建議，傳統(tǒng)安全防護(hù)手段需要向云化、服務(wù)化轉(zhuǎn)型，數(shù)字安全企業(yè)應(yīng)構(gòu)建體系化的安全運(yùn)營服務(wù)框架，為各行業(yè)提供安全能力，幫助構(gòu)建和維護(hù)安全防御體系。

“不發(fā)展是最大的不安全，約束是為了發(fā)展，沒有約束的發(fā)展是不可持續(xù)發(fā)展。我們要明確這一思路。”中國互聯(lián)網(wǎng)協(xié)會副理事長黃澄清呼吁，鼓勵(lì)互聯(lián)網(wǎng)企業(yè)利用AI技術(shù)提升安全防御的智能化水平，持續(xù)加大在人工智能與數(shù)字安全領(lǐng)域的研發(fā)投入，促進(jìn)產(chǎn)學(xué)研用深度融合，加速技術(shù)成果向產(chǎn)業(yè)轉(zhuǎn)化。

據(jù)了解，自今年8月1日起，歐盟《人工智能法案》生效，這是全球首部全面監(jiān)管人工智能法規(guī)。截至目前，已經(jīng)有數(shù)十個(gè)國家先后發(fā)布了與人工智能相關(guān)的國家戰(zhàn)略和法規(guī)文件。人工智能的核心關(guān)切主要是透明度、公開性、非惡意、負(fù)責(zé)任、隱私、向善、信任、尊嚴(yán)等，治理研究是將這些落實(shí)到從大模型部署、開發(fā)、計(jì)算推理、數(shù)據(jù)輸入到推廣應(yīng)用的各個(gè)環(huán)節(jié)。

“人工智能時(shí)代，確保網(wǎng)絡(luò)安全不僅是發(fā)揮互聯(lián)網(wǎng)作為全球紐帶的核心要素，更是實(shí)現(xiàn)人工智能為人類社會帶來福祉的基礎(chǔ)前提。”在國際合作方面，世界互聯(lián)網(wǎng)大會秘書長任賢良表示，我們要推動協(xié)同共治，匯聚各方力量，推動數(shù)字安全與新一代信息技術(shù)協(xié)同創(chuàng)新、示范應(yīng)用、融合發(fā)展，構(gòu)建理論交流、技術(shù)合作、人才培養(yǎng)的良好生態(tài)。

分享讓更多人看到