人工智能從一個(gè)“高冷”概念墜落“凡間”不過短短幾十年,從語音識(shí)別、智能購物到無人駕駛……它帶來的便捷似乎無處不在,但其背后的風(fēng)險(xiǎn)也不容小覷。

站在國家安全和軍事安全層面考慮,人工智能“威力之大,堪比核武,管控不當(dāng),不堪設(shè)想。”作為中國信息安全測(cè)評(píng)中心首席科學(xué)家,吳世忠委員深刻認(rèn)識(shí)到人工智能可能帶來的風(fēng)險(xiǎn)。“人工智能被公認(rèn)為對(duì)國家安全帶來深刻變化的顛覆性技術(shù),其智能化、自主性程度越高,雙刃劍特征就越突出。”

在從事金融行業(yè)的沈國軍委員眼里,金融行業(yè)作為一種高度數(shù)據(jù)化的產(chǎn)業(yè),是人工智能最好的應(yīng)用行業(yè)之一。但由于監(jiān)管對(duì)象的復(fù)雜化,金融風(fēng)險(xiǎn)交差感染已成為常態(tài),而且金融的風(fēng)險(xiǎn)復(fù)雜程度還在逐年遞增。

黑客“入侵”、羊毛黨的惡意刷帖、合成虛假音視頻……人工智能領(lǐng)域立法的滯后性及其所涉及的倫理問題被徐曉蘭委員關(guān)注。屢見不鮮的個(gè)人隱私信息泄露事件進(jìn)一步放大了人工智能的“黑箱”效應(yīng),引發(fā)民眾的畏懼與不信任;人工智能發(fā)展在一定程度上對(duì)就業(yè)造成的沖擊,也大大削弱著人類的自我認(rèn)同感。

安全可控已成為人工智能發(fā)展的基本前提和核心支撐。

“人工智能在發(fā)展與治理并舉的過程中,一定要走中國特色之路。”吳世忠認(rèn)為一定要發(fā)揮我國的制度優(yōu)勢(shì),針對(duì)國防、情報(bào)等國家戰(zhàn)略需求,統(tǒng)一建設(shè)人工智能國家實(shí)驗(yàn)室、安全風(fēng)險(xiǎn)測(cè)評(píng)基地、模擬試驗(yàn)場(chǎng)等技術(shù)基礎(chǔ)設(shè)施。同時(shí),要明確人工智能安全治理責(zé)任部門,防治出現(xiàn)“九龍治水”的狀況,加大力度有效防范和管控災(zāi)難性風(fēng)險(xiǎn)。

沈國軍委員在會(huì)上發(fā)言 攝影/人民政協(xié)報(bào)記者姜貴東

沈國軍同樣希望政府牽頭,協(xié)調(diào)各利益相關(guān)方,加快智能金融關(guān)鍵技術(shù)的研發(fā),逐步推動(dòng)建立智能金融大數(shù)據(jù)系統(tǒng),實(shí)現(xiàn)數(shù)據(jù)的海量共享與有效監(jiān)管。

徐曉蘭則建議“盡早圍繞人工智能開展立法和倫理研究,建立與智慧社會(huì)相適應(yīng)的法律規(guī)體系。成立政府授權(quán)的地方人工智能理論專業(yè)監(jiān)管機(jī)構(gòu),制定國家層面的人工智能倫理理論框架和標(biāo)準(zhǔn)。”

三位委員不約而同地提到了“制度優(yōu)勢(shì)、國家層面、政府授權(quán)”,國家和政府在防范人工智能風(fēng)險(xiǎn)的同時(shí),更要積極主動(dòng)開展人工智能惡意濫用與體系對(duì)抗研究,加強(qiáng)人工智能對(duì)抗及失效保護(hù)能力建設(shè),提高安全防御水平。