人民政協網北京3月2日電 工業(yè)和信息化部近日表示，2025年將實施“人工智能+制造”行動，加強通用大模型和行業(yè)大模型研發(fā)布局和重點場景應用。隨著生成式人工智能（AI）技術爆發(fā)，國產手機廠商正掀起新一輪AI語音助手升級潮，各主流品牌先后發(fā)布搭載自研大模型的語音助手，推動行業(yè)從“基礎指令響應”向“主動智能服務”躍遷。與此同時，其帶來的生活便捷性與數據安全隱患受到廣泛關注。

技術創(chuàng)新與數據安全須兼顧

國家頂層設計持續(xù)完善，構建人工智能發(fā)展宏偉藍圖。2017年，“人工智能”首次被寫入《政府工作報告》；2024年，“人工智能+”行動首次被寫入《政府工作報告》；黨的二十屆三中全會通過的《決定》要求“建立人工智能安全監(jiān)管制度”。在生成式人工智能面臨產業(yè)變革的同時，手機AI語音助手如何取得技術創(chuàng)新與合規(guī)發(fā)展的平衡，成為新課題。

可以看到，近年來，部分國產手機AI大模型或語音助手逐漸發(fā)展延伸出一種新功能：通過語音輸入一句話，即可實現手機點餐、訂票、取消自動扣款等服務。這類功能大多通過手機端側大模型，在繞過第三方App授權的基礎上，以“識屏+模擬點擊”的方式進行。其中，識屏即為對手機屏幕截屏，理解、分析屏幕內容；模擬點擊利用手機系統“無障礙權限”，識別當前屏幕中的按鈕坐標，繞過第三方App授權，直接操作其內部功能。這種模式下，手機可能在用戶不知情的情況下自行截屏、分析屏幕內容，甚至模擬手指點擊操作。

兩者如何兼顧？“技術創(chuàng)新的本意是為了社會進步、用戶便利，”在全國政協委員、北京市金臺律師事務所主任皮劍龍看來，人工智能新技術蓬勃發(fā)展的同時，也要確保加強消費者知情權等權益，“由于技術門檻高，普通用戶難以掌握，開發(fā)廠商在用戶不知情下推廣、售賣各類服務產品屢見不鮮，甚至出現以假亂真、侵犯隱私等惡性現象，對用戶權益造成損害。”

合法合規(guī)與商業(yè)秩序須同步

當前，國內生成式AI在技術創(chuàng)新與商業(yè)化應用上快速發(fā)展，但手機AI語音助手暗含的數據隱私泄露風險、算法偏見引發(fā)的倫理爭議、跨平臺語音標準不統一等問題，亟需政策端加速完善生成式AI語音監(jiān)管的合規(guī)治理，也需要企業(yè)構建“技術創(chuàng)新+合規(guī)治理”的雙輪驅動模式，促使行業(yè)從單一功能服務向個性化、可信賴的智能體驗升級。

有觀點認為，“手機無障礙權限用途被泛化”的趨勢需要審慎關注。智能手機開發(fā)無障礙功能的初衷是為了讓殘障人士得以與普通人一樣使用智能手機，而當前卻容易被用作其他用途，很多開發(fā)者借由無障礙功能在手機系統內權限較高、功能強大的特點，開發(fā)出自動關閉彈窗廣告、搶紅包、搶票等軟件，其中不乏違法犯罪行為。比如，在“無障礙權限”方式下，App可能會在用戶不知情下被連續(xù)自動操作10步以上，從而引發(fā)黑客攻擊、“劫持”，造成用戶數據泄露、轉移賬號資金等問題。

事實上，國家互聯網信息辦公室等七部門已經在2023年聯合發(fā)布《生成式人工智能服務管理暫行辦法》，成為我國首個針對生成式人工智能產業(yè)的規(guī)范性政策。“對于生成式AI等新興領域，還要更好貫徹《中華人民共和國反不正當競爭法》和《網絡反不正當競爭暫行規(guī)定》等法律法規(guī)的基本精神，反對流量‘劫持’、非法數據獲取與惡意干擾等行為。” 肖新光進一步建議。

除此之外，容易對消費者權益造成損害的商業(yè)行為還表現在：行業(yè)普遍缺乏統一的數據收集標準，不同廠家間收集范圍相差巨大，部分行為明顯涉嫌侵犯用戶隱私；多數用戶很難理解動輒上萬字的隱私協議，更無法認清辨析各類隱藏條款；整體上看，此類侵犯隱私的違法成本還比較低，懲處力度不足等。

“需要開啟技術手段、收集用戶信息時給予其明確提醒；在用戶無法確定服務內容是否為AI提供時亦明確說明，從而確保消費者知情權和自主選擇權。”在皮劍龍看來，“要加快AI數據收集、隱私方面的立法與規(guī)范，夯實對相關不法行為監(jiān)督；面對海量個人信息使用，亟須更全面嚴格的個人信息使用規(guī)范，且嚴格處置違法行為，從根源上避免利用技術強勢地位，過度收集信息進而造成用戶損失；同時加強用戶科普教育。”

“針對手機移動生態(tài)應該建立行業(yè)協商機制；面對快速發(fā)展、日新月異的AI與智能設備發(fā)展情況，相關部門應推進行業(yè)多元共治。”肖新光建議。

未來，隨著模型輕量化、行業(yè)知識融合及倫理體系的完善，伴隨生成式AI技術進階的國內手機AI語音助手，也將進一步賦能用戶交互、推動經濟與消費變革。（王勤）