周鴻祎世界智能大會談AI七大安全挑戰(zhàn) AI安全能力建設(shè)刻不容緩

量子位的朋友們 2022-06-24 17:28:12 來源：量子位

6月24日，第六屆世界智能大會在天津舉辦，三六零集團(tuán)創(chuàng)始人周鴻祎出席大會并發(fā)表主題演講。

他指出，面對人工智能的各種復(fù)雜安全挑戰(zhàn)，網(wǎng)絡(luò)安全行業(yè)應(yīng)當(dāng)被重新定義，將計算機(jī)安全、網(wǎng)絡(luò)安全升維到數(shù)字安全，才能跟得上人工智能行業(yè)的發(fā)展需求，才能跟得上國家的產(chǎn)業(yè)數(shù)字化發(fā)展要求，才能保障人們進(jìn)入數(shù)字文明時代。
據(jù)了解，本次大會由天津市政府與國家發(fā)改委、科技部、工信部、廣電總局、網(wǎng)信辦、中國科學(xué)院、中國工程院、中國科協(xié)共同主辦，以“智能新時代：數(shù)字賦能、智贏未來”為主題，形成“會展賽+智能體驗(yàn)”“四位一體”模式。元宇宙媒體平臺“N世界”作為主要媒體平臺之一，全程直播第六屆世界智能大會高峰會。

AI面臨七大安全挑戰(zhàn) 國家戰(zhàn)略層面首提AI安全

周鴻祎在演講中指出，人工智能在不斷發(fā)展的同時，也面臨著七大安全挑戰(zhàn)，包括硬件可能被攻擊、軟件存在漏洞、專用通信協(xié)議可以能被篡改、算法可以被欺騙、數(shù)據(jù)可以被污染、應(yīng)用上可能危害人類利益、社會倫理上可能超出現(xiàn)有規(guī)范等諸多風(fēng)險問題，甚至引發(fā)混亂與恐慌。
“人工智能在數(shù)字化過程中扮演著至關(guān)重要的角色?！痹谥茗櫟t看來，加快數(shù)字化發(fā)展已經(jīng)上升為國家戰(zhàn)略，產(chǎn)業(yè)數(shù)字化將是紅海中的新藍(lán)海。
他認(rèn)為，產(chǎn)業(yè)數(shù)字化真正的價值是幫助很多傳統(tǒng)企業(yè)，特別是制造業(yè)進(jìn)行智能化改造升級，“人工智能則是推動產(chǎn)業(yè)數(shù)字化進(jìn)入智能階段的創(chuàng)新引擎，能夠賦能智慧城市、數(shù)字政府、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等數(shù)字化場景實(shí)現(xiàn)智能化、自動化運(yùn)轉(zhuǎn)，比如說，未來數(shù)字城市里的智慧交通，既要有聰明的車，也要有智慧的路，車路協(xié)同才能真正重塑城市交通?！?br /> 面對不斷升級的安全挑戰(zhàn)，國家層面也高度重視人工智能安全的建設(shè)?！秶野踩珣?zhàn)略（2021—2025年）》就明確提出，要加快提升網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能安全等領(lǐng)域的治理能力。“這也是國家戰(zhàn)略層面首次提出人工智能安全的概念，說明人工智能安全是數(shù)字安全的一部分?！敝茗櫟t說。

360攜手產(chǎn)學(xué)研 共建AI安全生態(tài)

“人工智能技術(shù)高速發(fā)展、帶來安全新挑戰(zhàn)的同時，也為解決數(shù)字安全風(fēng)險提供了新的技術(shù)手段。”對于人工智能的風(fēng)險與積極作用，周鴻祎認(rèn)為需要辯證對待。

據(jù)他介紹，目前人工智能已經(jīng)應(yīng)用于數(shù)據(jù)分析、情報處理、智能防御等領(lǐng)域，在惡意代碼檢測、惡意流量分析、漏洞挖掘、僵尸網(wǎng)絡(luò)檢測、網(wǎng)絡(luò)黑灰產(chǎn)檢測等方面發(fā)揮著重要的作用。

以AI數(shù)據(jù)分析為例，借助人工智能，安全專家可以對多維度、海量、鮮活的安全大數(shù)據(jù)進(jìn)行實(shí)時數(shù)據(jù)分析，以算力代替人力，提高海量安全事件的響應(yīng)速度。

360一直高度重視人工智能安全，率先在行業(yè)進(jìn)行布局，積極構(gòu)建起人工智能安全能力體系。周鴻祎表示，360對自身積累的全球最大的安全大數(shù)據(jù)進(jìn)行AI分析，形成了360云端安全大腦的原型，為行業(yè)或企業(yè)提供強(qiáng)大的數(shù)據(jù)和情報支撐，助力對網(wǎng)絡(luò)威脅進(jìn)行有效分析、溯源。

在安全大腦的賦能下，360還積極參與人工智能安全漏洞挖掘，發(fā)現(xiàn)150+個機(jī)器學(xué)習(xí)框架及供應(yīng)鏈漏洞，涉及Tensorflow、Caffe、PyTorch等主流深度學(xué)習(xí)開源框架，并積極承擔(dān)“安全大腦國家新一代人工智能開放創(chuàng)新平臺”的建設(shè)，牽頭研發(fā)的“人工智能安全測評與風(fēng)險監(jiān)測預(yù)警平臺”入選工信部“人工智能產(chǎn)業(yè)創(chuàng)新任務(wù)揭榜單位”名單，有效夯實(shí)了人工智能安全的底座。

“人工智能方興未艾，人工智能安全也還有很多挑戰(zhàn)需要研究，這僅靠一家企業(yè)不能解決所有威脅，因此尤其要注重生態(tài)合作?！敝茗櫟t表示，為解決人工智能帶來的安全威脅，360作為中國數(shù)字安全的領(lǐng)軍企業(yè)，開放自身安全大數(shù)據(jù)，將產(chǎn)學(xué)研力量聯(lián)合起來，共建AI安全生態(tài)，集中推動數(shù)字安全的創(chuàng)新。

此外，360還將倡導(dǎo)建立人工智能與安全開放創(chuàng)新體系，建立平臺化機(jī)制，實(shí)現(xiàn)核心研究成果的對接與轉(zhuǎn)化，賦能人工智能與安全相關(guān)的中小微企業(yè)、高校、科研院所，賦能中小初創(chuàng)安全企業(yè)、垂直行業(yè)、AI產(chǎn)業(yè)，共享技術(shù)成果，推動產(chǎn)業(yè)健康快速發(fā)展，提升國家人工智能安全整體防御能力。