AI时代，如何让治理跟上技术步伐？
更新时间：2025/3/28 9:32:51 来源：新华社CNML文字
新闻中心首页
新华社海南博鳌3月27日电 题：AI时代，如何让治理跟上技术步伐？
新华社“新华视点”记者宋佳、王存福、刘开雄
从“AI儿科医生”参与病情会诊，到“AI数智员工”辅助提供公共服务，再到人形机器人进厂上班……全球人工智能技术进入爆发式发展阶段，正以前所未有的速度走入千家万户、改变千行百业。当AI重塑我们熟悉的世界，随之而来的机遇与挑战如何应对？应用与治理如何平衡推进？
正在举行的博鳌亚洲论坛2025年年会上，国内外技术前沿领域专家、学者和企业代表就相关话题展开热烈讨论。
适应AI“新常态”
当下，人工智能加速赋能千行百业，进入教育、医疗、政务、金融等场景。越来越多人感受到AI带来的便利。从无人驾驶、机器人到脑机接口，大众对AI应用产生更多期待。
毕马威中国首席技术官及创新主管合伙人刘建刚表示，人工智能已经不是一个未来概念，对很多企业而言，利用人工智能加速决策、创新产品、优化运营，已不是选择题，而是必答题。
数据显示，2024年我国完成备案并上线提供服务的生成式人工智能大模型接近200个，注册用户超6亿；工业机器人装机量占全球过半。
今年政府工作报告提出，持续推进“人工智能+”行动。国务院研究室副主任陈昌盛表示，今年将开展新技术新产品新场景大规模应用示范行动，在确保安全前提下，加快人工智能在低空经济、教育培训、医疗健康等多场景应用。
中兴通讯股份有限公司董事长李自学表示，当前人工智能通用型应用加速普及，但在行业领域还存在不好用、不易用、不会用等问题。应在通用基础大模型上，结合不同行业应用场景需求，加强专属领域定制与深度训练，让大模型成为懂行业的“能工巧匠”，促进人工智能与产业真正结合。
有观点认为，未来可能出现自然人、机器人、数字人并存交互的社会形态�！恫⊙侵蘼厶逞侵蘧们熬凹耙惶寤�2025年度报告》指出，随着人工智能技术的广泛应用，部分行业就业受到严重影响。
“替代部分工作岗位是技术变革中的必然过程，有些岗位受影响，也会有新岗位出现。”vivo高级副总裁、首席技术官施玉坚说，每个人都要通过学习不断提升综合素质，适应AI带来的变化。
多位与会嘉宾表示，除了加强人工智能知识技能教育培训，还应考虑制定新的社会保障政策，加强对受冲击劳动者群体的兜底保障。
加固“安全护栏”
在博鳌亚洲论坛多场人工智能相关活动上，与会嘉宾普遍认为，随着AI能力越来越强，AI不可控、被滥用等风险会越来越高，在推广应用中要加固“安全护栏”。
社交平台上，不少人吐槽AI一本正经地胡说八道。清华大学公共管理学院院长朱旭峰表示，这是AI幻觉，指大模型有时混淆事实和虚构，在看似是事实的句子中插入错误细节。AI胡编乱造可能产生误导，甚至会引发严重后果，特别是在医疗、金融、法律等对信息真实性和准确性要求极高的领域。
“技术暂时不成熟，我们不能因噎废食。”朱旭峰说，要加大对技术的开发和使用，推动AI幻觉等问题随技术不断进步逐步解决。
AI应用过程中需要使用大量数据，数据安全与隐私保护备受公众关注。多位与会嘉宾表示，现实中，具体应用场景下哪些数据必须收集，敏感信息数据如何避免泄露等，需要进一步明晰相关制度规则。
施玉坚认为，随着AI技术的普及，企业对数据的依赖程度日益加深，如果不采取相应的安全措施，就可能造成数据泄露的风险�！笆菀型衙艋蚣用艽�，增强传输和存储过程中的安全性�！�
AI技术的滥用误用是显著风险之一。有统计显示，2024年全球发生的AI风险事件，超过30%与利用AI进行深度伪造相关。深度伪造名人形象、声音进行虚假宣传甚至诈骗不时见诸报端。
多位嘉宾表示，AI深度伪造现象层出不穷，主要在于造假成本低，追查、执法成本大，应针对AI误用滥用完善相关法律法规，加大惩罚力度。
伴随AI产生的伦理道德争议也不容忽视。中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅认为，伦理安全应作为人工智能大模型发展的“基因”，如何在追求技术进步的同时坚守道德底线，是需要共同面对的重要课题。
“人工智能的发展与安全不是互相掣肘的关系�！痹闼�，最新研究表明，可以在几乎不影响人工智能大模型求解能力的同时，通过科学的方式提升其安全能力。
让治理跟上技术步伐
如何让治理跟上AI技术步伐？与会嘉宾表示，AI治理是一个全球性的复杂问题，需要达成世界共识，推动各领域相互协作。目前，主要经济体都在加速相关立法进程。
在AI治理中，中国坚持统筹发展和安全，有关部门已发布多项AI治理指导文件。其中，前不久发布的《人工智能生成合成内容标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理。
在芬兰前总理埃斯科·阿霍看来，政策制定者、企业家、科学家等利益相关方应聚在一起，建立共识，通过制定标准来应对AI带来的治理挑战。
“AI医生”看病出了问题算谁的责任？当人工智能系统产生不良后果，如何确定责任归属也需进一步厘清�！岸辔患伪龆继岬揭桓龉鄣悖灰萌斯ぶ悄芡耆嫒说木霾撸馐侨斯ぶ悄苡τ檬北匦胱⒁獾奈侍�。”曾毅说。
高质量数据是AI应用大规模落地的重要支撑，构建一个完善而成熟的数据市场也十分重要。以色列民主研究所高级研究员特希拉·施瓦茨·阿尔特舒勒认为，应根据实际情况，建立符合自身需要的数据监管方案与路径。
与会嘉宾表示，AI时代到来，要坚持应用与治理平衡、创新与监管并重、全球化与本土化协同，防止数字鸿沟变成智能鸿沟，让AI真正成为推动社会进步的普惠力量。
 |
 |
 |
 |
焦作网免责声明： | |||||||
|
||||||||
新华社海南博鳌3月27日电 题：AI时代，如何让治理跟上技术步伐？
新华社“新华视点”记者宋佳、王存福、刘开雄
从“AI儿科医生”参与病情会诊，到“AI数智员工”辅助提供公共服务，再到人形机器人进厂上班……全球人工智能技术进入爆发式发展阶段，正以前所未有的速度走入千家万户、改变千行百业。当AI重塑我们熟悉的世界，随之而来的机遇与挑战如何应对？应用与治理如何平衡推进？
正在举行的博鳌亚洲论坛2025年年会上，国内外技术前沿领域专家、学者和企业代表就相关话题展开热烈讨论。
适应AI“新常态”
当下，人工智能加速赋能千行百业，进入教育、医疗、政务、金融等场景。越来越多人感受到AI带来的便利。从无人驾驶、机器人到脑机接口，大众对AI应用产生更多期待。
毕马威中国首席技术官及创新主管合伙人刘建刚表示，人工智能已经不是一个未来概念，对很多企业而言，利用人工智能加速决策、创新产品、优化运营，已不是选择题，而是必答题。
数据显示，2024年我国完成备案并上线提供服务的生成式人工智能大模型接近200个，注册用户超6亿；工业机器人装机量占全球过半。
今年政府工作报告提出，持续推进“人工智能+”行动。国务院研究室副主任陈昌盛表示，今年将开展新技术新产品新场景大规模应用示范行动，在确保安全前提下，加快人工智能在低空经济、教育培训、医疗健康等多场景应用。
中兴通讯股份有限公司董事长李自学表示，当前人工智能通用型应用加速普及，但在行业领域还存在不好用、不易用、不会用等问题。应在通用基础大模型上，结合不同行业应用场景需求，加强专属领域定制与深度训练，让大模型成为懂行业的“能工巧匠”，促进人工智能与产业真正结合。
有观点认为，未来可能出现自然人、机器人、数字人并存交互的社会形态�！恫⊙侵蘼厶逞侵蘧们熬凹耙惶寤�2025年度报告》指出，随着人工智能技术的广泛应用，部分行业就业受到严重影响。
“替代部分工作岗位是技术变革中的必然过程，有些岗位受影响，也会有新岗位出现�！眝ivo高级副总裁、首席技术官施玉坚说，每个人都要通过学习不断提升综合素质，适应AI带来的变化。
多位与会嘉宾表示，除了加强人工智能知识技能教育培训，还应考虑制定新的社会保障政策，加强对受冲击劳动者群体的兜底保障。
加固“安全护栏”
在博鳌亚洲论坛多场人工智能相关活动上，与会嘉宾普遍认为，随着AI能力越来越强，AI不可控、被滥用等风险会越来越高，在推广应用中要加固“安全护栏”。
社交平台上，不少人吐槽AI一本正经地胡说八道。清华大学公共管理学院院长朱旭峰表示，这是AI幻觉，指大模型有时混淆事实和虚构，在看似是事实的句子中插入错误细节。AI胡编乱造可能产生误导，甚至会引发严重后果，特别是在医疗、金融、法律等对信息真实性和准确性要求极高的领域。
“技术暂时不成熟，我们不能因噎废食�！敝煨穹逅担哟蠖约际醯目⒑褪褂茫贫疉I幻觉等问题随技术不断进步逐步解决。
AI应用过程中需要使用大量数据，数据安全与隐私�；け甘芄诠刈�。多位与会嘉宾表示，现实中，具体应用场景下哪些数据必须收集，敏感信息数据如何避免泄露等，需要进一步明晰相关制度规则。
施玉坚认为，随着AI技术的普及，企业对数据的依赖程度日益加深，如果不采取相应的安全措施，就可能造成数据泄露的风险�！笆菀型衙艋蚣用艽�，增强传输和存储过程中的安全性�！�
AI技术的滥用误用是显著风险之一。有统计显示，2024年全球发生的AI风险事件，超过30%与利用AI进行深度伪造相关。深度伪造名人形象、声音进行虚假宣传甚至诈骗不时见诸报端。
多位嘉宾表示，AI深度伪造现象层出不穷，主要在于造假成本低，追查、执法成本大，应针对AI误用滥用完善相关法律法规，加大惩罚力度。
伴随AI产生的伦理道德争议也不容忽视。中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅认为，伦理安全应作为人工智能大模型发展的“基因”，如何在追求技术进步的同时坚守道德底线，是需要共同面对的重要课题。
“人工智能的发展与安全不是互相掣肘的关系�！痹闼�，最新研究表明，可以在几乎不影响人工智能大模型求解能力的同时，通过科学的方式提升其安全能力。
让治理跟上技术步伐
如何让治理跟上AI技术步伐？与会嘉宾表示，AI治理是一个全球性的复杂问题，需要达成世界共识，推动各领域相互协作。目前，主要经济体都在加速相关立法进程。
在AI治理中，中国坚持统筹发展和安全，有关部门已发布多项AI治理指导文件。其中，前不久发布的《人工智能生成合成内容标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理。
在芬兰前总理埃斯科·阿霍看来，政策制定者、企业家、科学家等利益相关方应聚在一起，建立共识，通过制定标准来应对AI带来的治理挑战。
“AI医生”看病出了问题算谁的责任？当人工智能系统产生不良后果，如何确定责任归属也需进一步厘清�！岸辔患伪龆继岬揭桓龉鄣�，不要让人工智能完全代替人的决策，这是人工智能应用时必须注意的问题�！痹闼�。
高质量数据是AI应用大规模落地的重要支撑，构建一个完善而成熟的数据市场也十分重要。以色列民主研究所高级研究员特希拉·施瓦茨·阿尔特舒勒认为，应根据实际情况，建立符合自身需要的数据监管方案与路径。
与会嘉宾表示，AI时代到来，要坚持应用与治理平衡、创新与监管并重、全球化与本土化协同，防止数字鸿沟变成智能鸿沟，让AI真正成为推动社会进步的普惠力量。
 |
|
||||
|
焦作网免责声明： | |||||||
|
||||||||
|
|
