人工智能從一個“高冷”概念墜落“凡間”不過短短幾十年,從語音識別、智能購物到無人駕駛……它帶來的便捷似乎無處不在,但其背后的風險也不容小覷。

站在國家安全和軍事安全層面考慮,人工智能“威力之大,堪比核武,管控不當,不堪設想。”作為中國信息安全測評中心首席科學家,吳世忠委員深刻認識到人工智能可能帶來的風險。“人工智能被公認為對國家安全帶來深刻變化的顛覆性技術,其智能化、自主性程度越高,雙刃劍特征就越突出。”

在從事金融行業(yè)的沈國軍委員眼里,金融行業(yè)作為一種高度數(shù)據(jù)化的產(chǎn)業(yè),是人工智能最好的應用行業(yè)之一。但由于監(jiān)管對象的復雜化,金融風險交差感染已成為常態(tài),而且金融的風險復雜程度還在逐年遞增。

黑客“入侵”、羊毛黨的惡意刷帖、合成虛假音視頻……人工智能領域立法的滯后性及其所涉及的倫理問題被徐曉蘭委員關注。屢見不鮮的個人隱私信息泄露事件進一步放大了人工智能的“黑箱”效應,引發(fā)民眾的畏懼與不信任;人工智能發(fā)展在一定程度上對就業(yè)造成的沖擊,也大大削弱著人類的自我認同感。

安全可控已成為人工智能發(fā)展的基本前提和核心支撐。

“人工智能在發(fā)展與治理并舉的過程中,一定要走中國特色之路。”吳世忠認為一定要發(fā)揮我國的制度優(yōu)勢,針對國防、情報等國家戰(zhàn)略需求,統(tǒng)一建設人工智能國家實驗室、安全風險測評基地、模擬試驗場等技術基礎設施。同時,要明確人工智能安全治理責任部門,防治出現(xiàn)“九龍治水”的狀況,加大力度有效防范和管控災難性風險。

沈國軍委員在會上發(fā)言 攝影/人民政協(xié)報記者姜貴東

沈國軍同樣希望政府牽頭,協(xié)調(diào)各利益相關方,加快智能金融關鍵技術的研發(fā),逐步推動建立智能金融大數(shù)據(jù)系統(tǒng),實現(xiàn)數(shù)據(jù)的海量共享與有效監(jiān)管。

徐曉蘭則建議“盡早圍繞人工智能開展立法和倫理研究,建立與智慧社會相適應的法律規(guī)體系。成立政府授權的地方人工智能理論專業(yè)監(jiān)管機構,制定國家層面的人工智能倫理理論框架和標準。”

三位委員不約而同地提到了“制度優(yōu)勢、國家層面、政府授權”,國家和政府在防范人工智能風險的同時,更要積極主動開展人工智能惡意濫用與體系對抗研究,加強人工智能對抗及失效保護能力建設,提高安全防御水平。