AI時代，如何讓治理跟上技術步伐？
更新時間：2025/3/28 9:32:51 來源：新華社CNML文字
新聞中心首頁
新華社海南博鰲3月27日電 題：AI時代，如何讓治理跟上技術步伐？
新華社“新華視點”記者宋佳、王存福、劉開雄
從“AI兒科醫(yī)生”參與病情會診，到“AI數(shù)智員工”輔助提供公共服務，再到人形機器人進廠上班……全球人工智能技術進入爆發(fā)式發(fā)展階段，正以前所未有的速度走入千家萬戶、改變千行百業(yè)。當AI重塑我們熟悉的世界，隨之而來的機遇與挑戰(zhàn)如何應對？應用與治理如何平衡推進？
正在舉行的博鰲亞洲論壇2025年年會上，國內(nèi)外技術前沿領域?qū)＜摇W者和企業(yè)代表就相關話題展開熱烈討論。
適應AI“新常態(tài)”
當下，人工智能加速賦能千行百業(yè)，進入教育、醫(yī)療、政務、金融等場景。越來越多人感受到AI帶來的便利。從無人駕駛、機器人到腦機接口，大眾對AI應用產(chǎn)生更多期待。
畢馬威中國首席技術官及創(chuàng)新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個未來概念，對很多企業(yè)而言，利用人工智能加速決策、創(chuàng)新產(chǎn)品、優(yōu)化運營，已不是選擇題，而是必答題。
數(shù)據(jù)顯示，2024年我國完成備案并上線提供服務的生成式人工智能大模型接近200個，注冊用戶超6億；工業(yè)機器人裝機量占全球過半。
今年政府工作報告提出，持續(xù)推進“人工智能+”行動。國務院研究室副主任陳昌盛表示，今年將開展新技術新產(chǎn)品新場景大規(guī)模應用示范行動，在確保安全前提下，加快人工智能在低空經(jīng)濟、教育培訓、醫(yī)療健康等多場景應用。
中興通訊股份有限公司董事長李自學表示，當前人工智能通用型應用加速普及，但在行業(yè)領域還存在不好用、不易用、不會用等問題。應在通用基礎大模型上，結合不同行業(yè)應用場景需求，加強專屬領域定制與深度訓練，讓大模型成為懂行業(yè)的“能工巧匠”，促進人工智能與產(chǎn)業(yè)真正結合。
有觀點認為，未來可能出現(xiàn)自然人、機器人、數(shù)字人并存交互的社會形態(tài)。《博鰲亞洲論壇亞洲經(jīng)濟前景及一體化進程2025年度報告》指出，隨著人工智能技術的廣泛應用，部分行業(yè)就業(yè)受到嚴重影響。
“替代部分工作崗位是技術變革中的必然過程，有些崗位受影響，也會有新崗位出現(xiàn)。”vivo高級副總裁、首席技術官施玉堅說，每個人都要通過學習不斷提升綜合素質(zhì)，適應AI帶來的變化。
多位與會嘉賓表示，除了加強人工智能知識技能教育培訓，還應考慮制定新的社會保障政策，加強對受沖擊勞動者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場人工智能相關活動上，與會嘉賓普遍認為，隨著AI能力越來越強，AI不可控、被濫用等風險會越來越高，在推廣應用中要加固“安全護欄”。
社交平臺上，不少人吐槽AI一本正經(jīng)地胡說八道。清華大學公共管理學院院長朱旭峰表示，這是AI幻覺，指大模型有時混淆事實和虛構，在看似是事實的句子中插入錯誤細節(jié)。AI胡編亂造可能產(chǎn)生誤導，甚至會引發(fā)嚴重后果，特別是在醫(yī)療、金融、法律等對信息真實性和準確性要求極高的領域。
“技術暫時不成熟，我們不能因噎廢食。”朱旭峰說，要加大對技術的開發(fā)和使用，推動AI幻覺等問題隨技術不斷進步逐步解決。
AI應用過程中需要使用大量數(shù)據(jù)，數(shù)據(jù)安全與隱私保護備受公眾關注。多位與會嘉賓表示，現(xiàn)實中，具體應用場景下哪些數(shù)據(jù)必須收集，敏感信息數(shù)據(jù)如何避免泄露等，需要進一步明晰相關制度規(guī)則。
施玉堅認為，隨著AI技術的普及，企業(yè)對數(shù)據(jù)的依賴程度日益加深，如果不采取相應的安全措施，就可能造成數(shù)據(jù)泄露的風險。“數(shù)據(jù)要進行脫敏或加密處理，增強傳輸和存儲過程中的安全性。”
AI技術的濫用誤用是顯著風險之一。有統(tǒng)計顯示，2024年全球發(fā)生的AI風險事件，超過30%與利用AI進行深度偽造相關。深度偽造名人形象、聲音進行虛假宣傳甚至詐騙不時見諸報端。
多位嘉賓表示，AI深度偽造現(xiàn)象層出不窮，主要在于造假成本低，追查、執(zhí)法成本大，應針對AI誤用濫用完善相關法律法規(guī)，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視。中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅認為，倫理安全應作為人工智能大模型發(fā)展的“基因”，如何在追求技術進步的同時堅守道德底線，是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關系。”曾毅說，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時，通過科學的方式提升其安全能力。
讓治理跟上技術步伐
如何讓治理跟上AI技術步伐？與會嘉賓表示，AI治理是一個全球性的復雜問題，需要達成世界共識，推動各領域相互協(xié)作。目前，主要經(jīng)濟體都在加速相關立法進程。
在AI治理中，中國堅持統(tǒng)籌發(fā)展和安全，有關部門已發(fā)布多項AI治理指導文件。其中，前不久發(fā)布的《人工智能生成合成內(nèi)容標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來，政策制定者、企業(yè)家、科學家等利益相關方應聚在一起，建立共識，通過制定標準來應對AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責任？當人工智能系統(tǒng)產(chǎn)生不良后果，如何確定責任歸屬也需進一步厘清。“多位嘉賓都提到一個觀點，不要讓人工智能完全代替人的決策，這是人工智能應用時必須注意的問題。”曾毅說。
高質(zhì)量數(shù)據(jù)是AI應用大規(guī)模落地的重要支撐，構建一個完善而成熟的數(shù)據(jù)市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為，應根據(jù)實際情況，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會嘉賓表示，AI時代到來，要堅持應用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同，防止數(shù)字鴻溝變成智能鴻溝，讓AI真正成為推動社會進步的普惠力量。
 |
 |
 |
 |
焦作網(wǎng)免責聲明： | |||||||
|
||||||||
新華社海南博鰲3月27日電 題：AI時代，如何讓治理跟上技術步伐？
新華社“新華視點”記者宋佳、王存福、劉開雄
從“AI兒科醫(yī)生”參與病情會診，到“AI數(shù)智員工”輔助提供公共服務，再到人形機器人進廠上班……全球人工智能技術進入爆發(fā)式發(fā)展階段，正以前所未有的速度走入千家萬戶、改變千行百業(yè)。當AI重塑我們熟悉的世界，隨之而來的機遇與挑戰(zhàn)如何應對？應用與治理如何平衡推進？
正在舉行的博鰲亞洲論壇2025年年會上，國內(nèi)外技術前沿領域?qū)＜摇W者和企業(yè)代表就相關話題展開熱烈討論。
適應AI“新常態(tài)”
當下，人工智能加速賦能千行百業(yè)，進入教育、醫(yī)療、政務、金融等場景。越來越多人感受到AI帶來的便利。從無人駕駛、機器人到腦機接口，大眾對AI應用產(chǎn)生更多期待。
畢馬威中國首席技術官及創(chuàng)新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個未來概念，對很多企業(yè)而言，利用人工智能加速決策、創(chuàng)新產(chǎn)品、優(yōu)化運營，已不是選擇題，而是必答題。
數(shù)據(jù)顯示，2024年我國完成備案并上線提供服務的生成式人工智能大模型接近200個，注冊用戶超6億；工業(yè)機器人裝機量占全球過半。
今年政府工作報告提出，持續(xù)推進“人工智能+”行動。國務院研究室副主任陳昌盛表示，今年將開展新技術新產(chǎn)品新場景大規(guī)模應用示范行動，在確保安全前提下，加快人工智能在低空經(jīng)濟、教育培訓、醫(yī)療健康等多場景應用。
中興通訊股份有限公司董事長李自學表示，當前人工智能通用型應用加速普及，但在行業(yè)領域還存在不好用、不易用、不會用等問題。應在通用基礎大模型上，結合不同行業(yè)應用場景需求，加強專屬領域定制與深度訓練，讓大模型成為懂行業(yè)的“能工巧匠”，促進人工智能與產(chǎn)業(yè)真正結合。
有觀點認為，未來可能出現(xiàn)自然人、機器人、數(shù)字人并存交互的社會形態(tài)。《博鰲亞洲論壇亞洲經(jīng)濟前景及一體化進程2025年度報告》指出，隨著人工智能技術的廣泛應用，部分行業(yè)就業(yè)受到嚴重影響。
“替代部分工作崗位是技術變革中的必然過程，有些崗位受影響，也會有新崗位出現(xiàn)。”vivo高級副總裁、首席技術官施玉堅說，每個人都要通過學習不斷提升綜合素質(zhì)，適應AI帶來的變化。
多位與會嘉賓表示，除了加強人工智能知識技能教育培訓，還應考慮制定新的社會保障政策，加強對受沖擊勞動者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場人工智能相關活動上，與會嘉賓普遍認為，隨著AI能力越來越強，AI不可控、被濫用等風險會越來越高，在推廣應用中要加固“安全護欄”。
社交平臺上，不少人吐槽AI一本正經(jīng)地胡說八道。清華大學公共管理學院院長朱旭峰表示，這是AI幻覺，指大模型有時混淆事實和虛構，在看似是事實的句子中插入錯誤細節(jié)。AI胡編亂造可能產(chǎn)生誤導，甚至會引發(fā)嚴重后果，特別是在醫(yī)療、金融、法律等對信息真實性和準確性要求極高的領域。
“技術暫時不成熟，我們不能因噎廢食。”朱旭峰說，要加大對技術的開發(fā)和使用，推動AI幻覺等問題隨技術不斷進步逐步解決。
AI應用過程中需要使用大量數(shù)據(jù)，數(shù)據(jù)安全與隱私保護備受公眾關注。多位與會嘉賓表示，現(xiàn)實中，具體應用場景下哪些數(shù)據(jù)必須收集，敏感信息數(shù)據(jù)如何避免泄露等，需要進一步明晰相關制度規(guī)則。
施玉堅認為，隨著AI技術的普及，企業(yè)對數(shù)據(jù)的依賴程度日益加深，如果不采取相應的安全措施，就可能造成數(shù)據(jù)泄露的風險。“數(shù)據(jù)要進行脫敏或加密處理，增強傳輸和存儲過程中的安全性。”
AI技術的濫用誤用是顯著風險之一。有統(tǒng)計顯示，2024年全球發(fā)生的AI風險事件，超過30%與利用AI進行深度偽造相關。深度偽造名人形象、聲音進行虛假宣傳甚至詐騙不時見諸報端。
多位嘉賓表示，AI深度偽造現(xiàn)象層出不窮，主要在于造假成本低，追查、執(zhí)法成本大，應針對AI誤用濫用完善相關法律法規(guī)，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視。中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅認為，倫理安全應作為人工智能大模型發(fā)展的“基因”，如何在追求技術進步的同時堅守道德底線，是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關系。”曾毅說，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時，通過科學的方式提升其安全能力。
讓治理跟上技術步伐
如何讓治理跟上AI技術步伐？與會嘉賓表示，AI治理是一個全球性的復雜問題，需要達成世界共識，推動各領域相互協(xié)作。目前，主要經(jīng)濟體都在加速相關立法進程。
在AI治理中，中國堅持統(tǒng)籌發(fā)展和安全，有關部門已發(fā)布多項AI治理指導文件。其中，前不久發(fā)布的《人工智能生成合成內(nèi)容標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來，政策制定者、企業(yè)家、科學家等利益相關方應聚在一起，建立共識，通過制定標準來應對AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責任？當人工智能系統(tǒng)產(chǎn)生不良后果，如何確定責任歸屬也需進一步厘清。“多位嘉賓都提到一個觀點，不要讓人工智能完全代替人的決策，這是人工智能應用時必須注意的問題。”曾毅說。
高質(zhì)量數(shù)據(jù)是AI應用大規(guī)模落地的重要支撐，構建一個完善而成熟的數(shù)據(jù)市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為，應根據(jù)實際情況，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會嘉賓表示，AI時代到來，要堅持應用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同，防止數(shù)字鴻溝變成智能鴻溝，讓AI真正成為推動社會進步的普惠力量。
 |
|
||||
|
焦作網(wǎng)免責聲明： | |||||||
|
||||||||
|
|
