周鴻祎世界智能大會(huì)談AI七大安全挑戰(zhàn) AI安全能力建設(shè)刻不容緩
360攜手產(chǎn)學(xué)研 共建AI安全生態(tài)
6月24日，第六屆世界智能大會(huì)在天津舉辦，三六零集團(tuán)創(chuàng)始人周鴻祎出席大會(huì)并發(fā)表主題演講。
他指出，面對(duì)人工智能的各種復(fù)雜安全挑戰(zhàn)，網(wǎng)絡(luò)安全行業(yè)應(yīng)當(dāng)被重新定義，將計(jì)算機(jī)安全、網(wǎng)絡(luò)安全升維到數(shù)字安全，才能跟得上人工智能行業(yè)的發(fā)展需求，才能跟得上國(guó)家的產(chǎn)業(yè)數(shù)字化發(fā)展要求，才能保障人們進(jìn)入數(shù)字文明時(shí)代。
據(jù)了解，本次大會(huì)由天津市政府與國(guó)家發(fā)改委、科技部、工信部、廣電總局、網(wǎng)信辦、中國(guó)科學(xué)院、中國(guó)工程院、中國(guó)科協(xié)共同主辦，以“智能新時(shí)代：數(shù)字賦能、智贏未來”為主題，形成“會(huì)展賽+智能體驗(yàn)”“四位一體”模式。元宇宙媒體平臺(tái)“N世界”作為主要媒體平臺(tái)之一，全程直播第六屆世界智能大會(huì)高峰會(huì)。
AI面臨七大安全挑戰(zhàn) 國(guó)家戰(zhàn)略層面首提AI安全
周鴻祎在演講中指出，人工智能在不斷發(fā)展的同時(shí)，也面臨著七大安全挑戰(zhàn)，包括硬件可能被攻擊、軟件存在漏洞、專用通信協(xié)議可以能被篡改、算法可以被欺騙、數(shù)據(jù)可以被污染、應(yīng)用上可能危害人類利益、社會(huì)倫理上可能超出現(xiàn)有規(guī)范等諸多風(fēng)險(xiǎn)問題，甚至引發(fā)混亂與恐慌。
“人工智能在數(shù)字化過程中扮演著至關(guān)重要的角色。”在周鴻祎看來，加快數(shù)字化發(fā)展已經(jīng)上升為國(guó)家戰(zhàn)略，產(chǎn)業(yè)數(shù)字化將是紅海中的新藍(lán)海。
他認(rèn)為，產(chǎn)業(yè)數(shù)字化真正的價(jià)值是幫助很多傳統(tǒng)企業(yè)，特別是制造業(yè)進(jìn)行智能化改造升級(jí)，“人工智能則是推動(dòng)產(chǎn)業(yè)數(shù)字化進(jìn)入智能階段的創(chuàng)新引擎，能夠賦能智慧城市、數(shù)字政府、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等數(shù)字化場(chǎng)景實(shí)現(xiàn)智能化、自動(dòng)化運(yùn)轉(zhuǎn)，比如說，未來數(shù)字城市里的智慧交通，既要有聰明的車，也要有智慧的路，車路協(xié)同才能真正重塑城市交通?！?br />
面對(duì)不斷升級(jí)的安全挑戰(zhàn)，國(guó)家層面也高度重視人工智能安全的建設(shè)?！秶?guó)家安全戰(zhàn)略（2021—2025年）》就明確提出，要加快提升網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能安全等領(lǐng)域的治理能力?！斑@也是國(guó)家戰(zhàn)略層面首次提出人工智能安全的概念，說明人工智能安全是數(shù)字安全的一部分。”周鴻祎說。
360攜手產(chǎn)學(xué)研 共建AI安全生態(tài)
“人工智能技術(shù)高速發(fā)展、帶來安全新挑戰(zhàn)的同時(shí)，也為解決數(shù)字安全風(fēng)險(xiǎn)提供了新的技術(shù)手段。”對(duì)于人工智能的風(fēng)險(xiǎn)與積極作用，周鴻祎認(rèn)為需要辯證對(duì)待。
據(jù)他介紹，目前人工智能已經(jīng)應(yīng)用于數(shù)據(jù)分析、情報(bào)處理、智能防御等領(lǐng)域，在惡意代碼檢測(cè)、惡意流量分析、漏洞挖掘、僵尸網(wǎng)絡(luò)檢測(cè)、網(wǎng)絡(luò)黑灰產(chǎn)檢測(cè)等方面發(fā)揮著重要的作用。
以AI數(shù)據(jù)分析為例，借助人工智能，安全專家可以對(duì)多維度、海量、鮮活的安全大數(shù)據(jù)進(jìn)行實(shí)時(shí)數(shù)據(jù)分析，以算力代替人力，提高海量安全事件的響應(yīng)速度。
360一直高度重視人工智能安全，率先在行業(yè)進(jìn)行布局，積極構(gòu)建起人工智能安全能力體系。周鴻祎表示，360對(duì)自身積累的全球最大的安全大數(shù)據(jù)進(jìn)行AI分析，形成了360云端安全大腦的原型，為行業(yè)或企業(yè)提供強(qiáng)大的數(shù)據(jù)和情報(bào)支撐，助力對(duì)網(wǎng)絡(luò)威脅進(jìn)行有效分析、溯源。
在安全大腦的賦能下，360還積極參與人工智能安全漏洞挖掘，發(fā)現(xiàn)150+個(gè)機(jī)器學(xué)習(xí)框架及供應(yīng)鏈漏洞，涉及Tensorflow、Caffe、PyTorch等主流深度學(xué)習(xí)開源框架，并積極承擔(dān)“安全大腦國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)”的建設(shè)，牽頭研發(fā)的“人工智能安全測(cè)評(píng)與風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警平臺(tái)”入選工信部“人工智能產(chǎn)業(yè)創(chuàng)新任務(wù)揭榜單位”名單，有效夯實(shí)了人工智能安全的底座。
“人工智能方興未艾，人工智能安全也還有很多挑戰(zhàn)需要研究，這僅靠一家企業(yè)不能解決所有威脅，因此尤其要注重生態(tài)合作。”周鴻祎表示，為解決人工智能帶來的安全威脅，360作為中國(guó)數(shù)字安全的領(lǐng)軍企業(yè)，開放自身安全大數(shù)據(jù)，將產(chǎn)學(xué)研力量聯(lián)合起來，共建AI安全生態(tài)，集中推動(dòng)數(shù)字安全的創(chuàng)新。
此外，360還將倡導(dǎo)建立人工智能與安全開放創(chuàng)新體系，建立平臺(tái)化機(jī)制，實(shí)現(xiàn)核心研究成果的對(duì)接與轉(zhuǎn)化，賦能人工智能與安全相關(guān)的中小微企業(yè)、高校、科研院所，賦能中小初創(chuàng)安全企業(yè)、垂直行業(yè)、AI產(chǎn)業(yè)，共享技術(shù)成果，推動(dòng)產(chǎn)業(yè)健康快速發(fā)展，提升國(guó)家人工智能安全整體防御能力。
