“當前，全球正處于第四次工業(yè)革命的關(guān)鍵期，人工智能、區(qū)塊鏈、物聯(lián)網(wǎng)等前沿技術(shù)的融合應(yīng)用，促使人類社會進入以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟時代，這雖然極大地提升了社會生產(chǎn)效率和生活便捷度，也為數(shù)字安全帶來前所未有的挑戰(zhàn)。”中國工程院院士鄔江興近日在2024第十二屆西湖論劍·數(shù)字安全大會上作主題演講時這樣表示。

用戶數(shù)據(jù)泄露、偽造人臉識別、金融詐騙、惡意攻擊……近年來，隨著各行各業(yè)數(shù)字化轉(zhuǎn)型升級和人工智能等技術(shù)快速發(fā)展，數(shù)字化安全風(fēng)險迭生。網(wǎng)絡(luò)安全威脅已經(jīng)從“信息域”擴大到“數(shù)據(jù)域+物理域+認知域”，數(shù)字經(jīng)濟時代，社會的數(shù)字化轉(zhuǎn)型面臨著系統(tǒng)性風(fēng)險隱患。

“當今網(wǎng)絡(luò)安全防御呈現(xiàn)出一種‘打鼴鼠’的游戲，按下葫蘆浮起瓢，冒出一個鼴鼠就打一下。”鄔江興表示，網(wǎng)絡(luò)安全目前存在制造商缺乏認真對待網(wǎng)絡(luò)安全問題的動機和激勵機制；存在習(xí)以為常的“偏差正常化”狀況，默認所有軟件都肯定會帶有必須通過補丁修復(fù)的缺陷等問題。他建議，網(wǎng)絡(luò)安全要從用戶側(cè)向設(shè)計制造側(cè)轉(zhuǎn)移，要將網(wǎng)絡(luò)安全融入數(shù)字產(chǎn)品的設(shè)計與制造中。

鄔江興提醒，盡管基于設(shè)計與默認安全可能會增加產(chǎn)品的開發(fā)成本，但可極大改善客戶安全，從長遠看可降低制造側(cè)用戶與修補的成本，以及最終用戶的全生命周期使用成本。

“平衡網(wǎng)絡(luò)安全與責(zé)任也要從數(shù)字產(chǎn)業(yè)源頭技術(shù)抓起。”作為一名從事網(wǎng)絡(luò)信息安全的科技工作者，中國工程院院士吳世忠更關(guān)注的是人工智能的安全性。

吳世忠介紹，網(wǎng)絡(luò)安全大致分為三個階段，前20年左右是IT驅(qū)動階段，萬物互聯(lián)追求的是規(guī)模，安全的重點是邊界繁復(fù)；后10年是DT驅(qū)動的時代，追求數(shù)據(jù)的流動。“今天是AI驅(qū)動的新階段，面對的是一個全新的對象，這個對象在國際上有一個新的詞，叫Homo Technologicus（科技智人）。從網(wǎng)絡(luò)信息安全來講，它和過去都不一樣了，過去網(wǎng)絡(luò)固定、數(shù)據(jù)流動，現(xiàn)在它可能會‘活’起來。”

人工智能給人類帶來了無限的發(fā)展新可能，也帶來了不少近憂和遠慮。在吳世忠看來，機器智能作為靈動因素，改變了安全的內(nèi)涵和外延。“當下，AI已經(jīng)深度融入千行百業(yè)、千家萬戶，我們必須嚴防AI可能會帶來的全新風(fēng)險挑戰(zhàn)。”

科技創(chuàng)新永無止境，人工智能方興未艾，安全風(fēng)險如影相隨。“以安全保發(fā)展，對我們科技界、學(xué)術(shù)界、產(chǎn)業(yè)界而言，既責(zé)無旁貸，又大有可為。”吳世忠表示，在關(guān)鍵技術(shù)“卡脖子”方面，需要更加自立、自強；在基礎(chǔ)設(shè)施領(lǐng)域需要實現(xiàn)可管可控；在技術(shù)應(yīng)用方面需要提供更多安全便捷的手段；在社會發(fā)展上，需要讓人工智能變得可靠或可信。

“為人工智能的推廣應(yīng)用或健康發(fā)展創(chuàng)造一個更加安全、堅韌、可信的發(fā)展生態(tài)，既是社會期盼，又是產(chǎn)業(yè)追求。”吳世忠認為，要做到確保人工智能自身或人工智能服務(wù)的安全可靠，需要強化基礎(chǔ)設(shè)施的安全保障，推廣負責(zé)、安全、向上的人工智能應(yīng)用，構(gòu)建一個高度、彈性或韌性的新型的安全保障體系。

擁抱人工智能是大勢所趨，但吳世忠提醒說，“安全這根線，任何時候都不能松懈！”