聚焦AI，雷軍、李東生、周鴻祎……科技大佬們的兩會(huì)建議案都說了啥？

3月5日消息，生成式人工智能技術(shù)的迭代突破，正在推動(dòng)AI應(yīng)用向多領(lǐng)域縱深拓展，比如深度偽造、自動(dòng)駕駛、AI醫(yī)療診斷等。這些AI技術(shù)在為人們帶來新奇體驗(yàn)、便利應(yīng)用的同時(shí)，也可能會(huì)導(dǎo)致新的社會(huì)問題。

今年全國兩會(huì)，雷軍、周鴻祎、劉慶峰、李東生等多位互聯(lián)網(wǎng)科技大佬的建言中均提及了AI，但關(guān)注角度有所不同。下面我們就一起看看這些大佬都關(guān)注AI的哪一面。

AI深度偽造

雷軍：建議加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理

2024年10月，“雷軍AI配音”的相關(guān)視頻在短視頻平臺(tái)廣泛傳播。網(wǎng)傳視頻中，具有雷軍聲音特征的語音內(nèi)容銳評假期堵車、游戲等話題，甚至還包含了“謾罵”，引發(fā)熱議，相關(guān)視頻的播放量很快便突破1億。

然而，這些配音大多并非雷軍本人“發(fā)聲”，而是短視頻平臺(tái)用戶使用AI工具模擬了雷軍聲音的音色，并根據(jù)設(shè)置文案內(nèi)容生成了具有雷軍音色的音頻素材。

值得注意的是，除了惡搞雷軍的音頻內(nèi)容，還有網(wǎng)友用AI制作張文宏醫(yī)生音視頻為自己帶貨，甚至有不法分子利用AI深度合成視頻進(jìn)行詐騙。過去一年，AI深度合成音視頻侵權(quán)現(xiàn)象愈演愈烈。

今年兩會(huì)，全國人大代表、小米創(chuàng)辦人兼CEO雷軍建議加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理，具體包括3個(gè)方向：一是加快單行法立法進(jìn)程，在安全與發(fā)展并重的基礎(chǔ)上提升立法位階；二是強(qiáng)化行業(yè)自律共治，壓實(shí)平臺(tái)企業(yè)等各方的責(zé)任和義務(wù)；三是加大普法宣傳的廣度力度，增強(qiáng)民眾的警惕性和鑒別力。

李東生：建議加強(qiáng)AI深度偽造欺詐管理

雷軍之外，全國人大代表、TCL創(chuàng)始人兼董事長李東生也建議加強(qiáng)AI深度偽造欺詐管理。

李東生認(rèn)為，隨著生成式人工智能技術(shù)的發(fā)展，深度偽造技術(shù)也快速發(fā)展。要規(guī)范對于這一新興技術(shù)的不當(dāng)利用行為，有必要要求深度合成服務(wù)提供商對人工智能生成的內(nèi)容進(jìn)行強(qiáng)制標(biāo)識(shí)，減少惡意濫用，并厘清責(zé)任、對違法犯罪行為追責(zé)。近年來，我國相關(guān)立法雖有關(guān)注這一議題，但已出臺(tái)的規(guī)章制度尚不成體系，還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。

對此，李東生建議：一是加快人工智能深度合成內(nèi)容標(biāo)識(shí)管理規(guī)章制度的出臺(tái)。二是明確對人工智能深度合成服務(wù)商未履行標(biāo)識(shí)義務(wù)的懲罰制度，完善對深度合成內(nèi)容服務(wù)提供商未按要求進(jìn)行標(biāo)識(shí)的行為界定、分類細(xì)則，以及相應(yīng)的處罰標(biāo)準(zhǔn)。三是加強(qiáng)深度合成內(nèi)容標(biāo)識(shí)技術(shù)標(biāo)準(zhǔn)和發(fā)布的管理，出臺(tái)深度合成內(nèi)容標(biāo)識(shí)的技術(shù)標(biāo)準(zhǔn)，保證標(biāo)識(shí)的有效性；對相關(guān)內(nèi)容平臺(tái)出臺(tái)要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時(shí)，有義務(wù)對其進(jìn)行標(biāo)識(shí)。四是加強(qiáng)國際合作，形成人工智能生成合成內(nèi)容的有效監(jiān)管。

AI幻覺問題

周鴻祎：建議對大模型“幻覺”給予適度包容

以DeepSeek為代表的大模型取得了“國運(yùn)級科技成果”，不僅促進(jìn)了大模型技術(shù)自主創(chuàng)新，也帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展，讓大模型加速走進(jìn)百行千業(yè)。但包括DeepSeek在內(nèi)的大模型都存在“幻覺”，偶爾會(huì)生成看似不合理、與事實(shí)不符的情況。

全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎認(rèn)為，“幻覺”是一把雙刃劍，是大模型與生俱來的特點(diǎn)，不可消除，也決定其創(chuàng)造力和想象力，對于實(shí)現(xiàn)AGI（通用人工智能）極其重要。如果大模型沒有“幻覺”，就失去了想象力和創(chuàng)造力。并且越是能力強(qiáng)的模型，一般幻覺也越多。

周鴻祎指出，在科研領(lǐng)域，大模型的“幻覺”能“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。在醫(yī)療、法律、金融等對準(zhǔn)確性要求高的領(lǐng)域，“幻覺”雖然可能出錯(cuò)，但可以利用技術(shù)手段，如RAG（檢索增強(qiáng)生成）技術(shù)，通過比對專業(yè)知識(shí)庫、網(wǎng)絡(luò)實(shí)時(shí)信息等方式予以矯正。

為此，周鴻祎建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺”，對于“幻覺”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會(huì)，促進(jìn)企業(yè)大膽創(chuàng)新、放手競爭，爭取讓更多企業(yè)“復(fù)制”DeepSeek的成功。

劉慶峰：建議加快構(gòu)建自主可控大模型產(chǎn)業(yè)生態(tài)，預(yù)防“幻覺數(shù)據(jù)”危害

中國互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）發(fā)布的《生成式人工智能應(yīng)用發(fā)展報(bào)告（2024）》顯示，我國生成式人工智能產(chǎn)品的用戶規(guī)模已達(dá)2.49億人。

全國人大代表、科大訊飛董事長劉慶峰認(rèn)為，生成式人工智能存在幻覺，特別是深度推理模型的邏輯自洽性提升，使得AI生成內(nèi)容真假難辨。帶有算法偏差的虛假信息會(huì)被新一代AI系統(tǒng)循環(huán)學(xué)習(xí)，形成惡性循環(huán)，影響公眾信任和社會(huì)穩(wěn)定。

針對預(yù)防大模型生成“幻覺數(shù)據(jù)”充斥互聯(lián)網(wǎng)帶來的危害，劉慶峰建議：

1、構(gòu)建安全可信數(shù)據(jù)標(biāo)簽體系，提升內(nèi)容可靠性：建立安全可信、動(dòng)態(tài)更新的信源和數(shù)據(jù)知識(shí)庫，對不同類型數(shù)據(jù)的可信度和危害程度建立標(biāo)簽體系，降低人工智能幻覺出現(xiàn)概率，提升生成內(nèi)容可靠性；

2、研發(fā)AIGC幻覺治理技術(shù)和平臺(tái)，定期清理幻覺數(shù)據(jù)：研究幻覺自動(dòng)分析的技術(shù)和軟件平臺(tái)，開展幻覺自動(dòng)分析、AIGC深度鑒偽、虛假信息檢測、有害內(nèi)容識(shí)別以及互聯(lián)網(wǎng)傳播溯源，由中央網(wǎng)信辦、國家數(shù)據(jù)局等部門定期清理幻覺數(shù)據(jù)，為公眾提供AIGC幻覺信息檢測工具與服務(wù)。

如何應(yīng)對AI搶飯碗？

劉慶峰：建議設(shè)立AI失業(yè)保險(xiǎn)

世界經(jīng)濟(jì)論壇《2025年未來就業(yè)報(bào)告》預(yù)測，未來五年內(nèi)，新技術(shù)和產(chǎn)業(yè)變革將使全球約9200萬個(gè)崗位被替代，但也會(huì)新增1.7億個(gè)新崗位。

針對人們擔(dān)心的AI搶飯碗問題，全國人大代表、科大訊飛董事長劉慶峰建議：試點(diǎn)“AI失業(yè)保障專項(xiàng)保險(xiǎn)”，設(shè)置6至12個(gè)月的失業(yè)緩沖期，采取“政府主導(dǎo)投保 + 商業(yè)機(jī)構(gòu)運(yùn)作”模式，為最易被AI沖擊的崗位建立專項(xiàng)保障基金；引導(dǎo)保險(xiǎn)機(jī)構(gòu)開發(fā)商業(yè)AI失業(yè)保險(xiǎn)產(chǎn)品，為全社會(huì)提供更豐富的失業(yè)保障產(chǎn)品選擇。

他還表示，應(yīng)該加強(qiáng)人工智能新職業(yè)的規(guī)劃與管理：推動(dòng) AI 新崗位的繁榮，系統(tǒng)性梳理 AI 時(shí)代產(chǎn)生的新崗位，強(qiáng)化崗位認(rèn)證工作；鼓勵(lì)高校、職校緊跟趨勢，調(diào)整人才培養(yǎng)計(jì)劃和課程設(shè)置，科學(xué)指導(dǎo)職業(yè)生涯規(guī)劃；加強(qiáng) AI 技能培訓(xùn)，尤其要為低收入群體提供免費(fèi)培訓(xùn)機(jī)會(huì)。

AI應(yīng)用安全

周鴻祎：建議用“以模制模”解決大模型應(yīng)用安全問題

DeepSeek-R1等先進(jìn)模型帶來了前所未有的機(jī)遇，也同樣面臨無法通過傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)。全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎認(rèn)為，大模型應(yīng)用安全主要集中在基座模型、知識(shí)庫和智能體三個(gè)方面。

基座模型安全方面，由于大模型普遍存在的幻覺現(xiàn)象，特別是在生成文本時(shí)可能輸出與現(xiàn)實(shí)不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場景下可能導(dǎo)致誤導(dǎo)性后果。
知識(shí)庫安全方面，政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲(chǔ)于內(nèi)部知識(shí)庫中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機(jī)會(huì)竊取這些寶貴的數(shù)據(jù)資源。

智能體安全方面，智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會(huì)引發(fā)一系列連鎖反應(yīng)，從發(fā)送有害郵件到中斷生產(chǎn)線運(yùn)作，造成嚴(yán)重的物理損害。

周鴻祎介紹，針對上述挑戰(zhàn)，360運(yùn)用人工智能技術(shù)重塑安全格局，采用“以模制?！钡姆绞綉?yīng)對新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識(shí)庫—智能體”的全鏈路安全體系，護(hù)航政府與企業(yè)“數(shù)轉(zhuǎn)智改”。

為進(jìn)一步強(qiáng)化這一防御體系，周鴻祎建議采取兩項(xiàng)措施：一是推動(dòng)安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化。建議相關(guān)部門及時(shí)出臺(tái)配套政策措施，鼓勵(lì)具備“安全+人工智能”完整解決方案的鏈主企業(yè)，針對人工智能應(yīng)用所涉及的基座模型、知識(shí)庫、智能體等安全問題，基于安全大模型技術(shù)開展研發(fā)工作，加速推動(dòng)技術(shù)成果轉(zhuǎn)化，將安全要素深度嵌入人工智能應(yīng)用全流程。
另一方面，組建產(chǎn)業(yè)聯(lián)盟，推廣安全產(chǎn)品。引導(dǎo)相關(guān)鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產(chǎn)業(yè)鏈上下游企業(yè)、科研機(jī)構(gòu)及終端用戶，組建人工智能大模型安全聯(lián)盟，在聯(lián)盟內(nèi)部實(shí)現(xiàn)技術(shù)成果共享，共同開展產(chǎn)品及服務(wù)測試，待產(chǎn)品與服務(wù)成熟穩(wěn)定后，向更廣闊的市場加以推廣，助力大模型安全保障普及至千行百業(yè)。

自動(dòng)駕駛

雷軍：加快推進(jìn)自動(dòng)駕駛量產(chǎn)

雷軍造車三年，小米SU 7出道至今廣受歡迎。今年兩會(huì)，雷軍建議優(yōu)化新能源汽車號(hào)牌設(shè)計(jì)，同時(shí)建議加快推進(jìn)自動(dòng)駕駛量產(chǎn)。

雷軍認(rèn)為，汽車產(chǎn)業(yè)已經(jīng)邁入智能化的高級階段，智能駕駛（含輔助駕駛L1和L2級別、自動(dòng)駕駛L3和L4級別）成為汽車工業(yè)的必爭高地，歐美等發(fā)達(dá)國家正在積極推進(jìn)自動(dòng)駕駛量產(chǎn)和法律保障。我國L3級自動(dòng)駕駛正開展上路通行試點(diǎn)，L4級自動(dòng)駕駛示范應(yīng)用穩(wěn)步推進(jìn)，自動(dòng)駕駛汽車量產(chǎn)初具條件，亟需加強(qiáng)自動(dòng)駕駛功能量產(chǎn)應(yīng)用，培育和壯大新質(zhì)生產(chǎn)力。

為此，雷軍建議：1.推進(jìn)自動(dòng)駕駛汽車大范圍測試驗(yàn)證，加快量產(chǎn)商用進(jìn)程；2.推動(dòng)設(shè)立自動(dòng)駕駛專屬保險(xiǎn)，加強(qiáng)安全使用宣傳；3.加快出臺(tái)自動(dòng)駕駛相關(guān)法律法規(guī)，明確合法上路身份。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。