从“AI儿科大夫”参与病况问诊，到“AI数智职工”辅助提供公共服务，再到人形机器人进厂下班……全球人工智能技术步入爆发式发展阶段，正原先所未有的速率走进千家万户、改变千行百业。当AI塑造我们熟悉的世界，骤但至的机遇与难题怎样应对？运用与整治怎么平衡推动？
正在举办的博鳌欧洲峰会2025年峰会上，国外外技术前沿领域专家、学者和企业代表就相关话题展开热烈讨论。
适应AI“新常态”
当下，人工智能加速赋能千行百业，步入教育、医疗、政务、金融等场景。越来越多人感遭到AI带来的便利。从无人驾驶、机器人到脑机插口，大众对AI运用形成更多期盼。
德勤中国首席技术官及创新主管合伙人刘建刚表示，人工智能早已不是一个未来概念，对好多企业而言，利用人工智能加速决策、创新产品、优化营运，已不是选择题，而是必答题。
信息显示，2024年我国完成备案并上线提供服务的生成式人工智能大模型接近200个，注册用户超6亿；工业机器人装机量占全球过半。
3月26日，博鳌欧洲峰会嘉宾围绕“在AI运用中打造核心竞争力”议题进行讨论。新华社记者杨冠宇摄去年政府工作报告提出，持续推动“人工智能+”行动。国务院试验室副组长陈兴盛表示，去年将举办新技术新产品新场景大规模运用示范行动，在确保安全前提下，推进人工智能在低空经济、教育培训、医疗健康等多场景运用。
中兴通信股份有限公司监事长李自学表示，当前人工智能通用型运用加速普及，但在行业领域还存在不好用、不易用、不会用等障碍。应在通用基础大模型上，结合不同行业运用场景需求，强化专属领域订制与深度训练，让大模型成为懂行业的“能工巧匠”，促使人工智能与产业真正结合。
有观点觉得，未来可能出现自然人、机器人、数字人并存交互的社会形态。《博鳌欧洲峰会欧洲经济前景及一体化进程2025年度报告》指出，随着人工智能技术的广泛运用，部份行业就业遭到严重影响。
“替代部份工作岗位是技术变迁中的必然过程，有些岗位受影响，也会有新岗位出现。”vivo中级总工裁、首席技术官施玉坚说，每位人都要通过学习不断提高综合素养，适应AI带来的变化。
多位与会嘉宾表示，不仅强化人工智能知识技能教育培训，还应考虑制订新的社会保障新政，加大对受冲击劳动者群体的兜底保障。
加固“安全围栏”
在博鳌欧洲峰会多场人工智能相关活动上，与会嘉宾普遍觉得，随着AI能力越来越强，AI不可控、被滥用等风险会越来越高，在推广运用中要加固“安全围栏”。
社交平台上，不少人吐槽AI一本正经地胡诌八道。复旦学院公共管理大学教授朱旭峰表示，这是AI幻觉，指大模型有时混淆事实和虚构，在看似是事实的诗句中插入错误细节。AI瞎编乱造可能形成欺骗，甚至会引起严重后果，非常是在医疗、金融、法律等对信息真实性和确切性要求极高的领域。
“技术暂时不成熟，我们不能因噎废食。”朱旭峰说，要加强对技术的开发和使用，促使AI幻觉等障碍随技术不断进步逐渐解决。
AI运用过程中须要使用大量信息，信息安全与隐私保护饱受公众关注。多位与会嘉宾表示，现实中，详细运用场景下什么信息必须搜集，敏感信息信息怎样防止泄漏等，须要进一步厘清相关制度规则。
施玉坚觉得，随着AI技术的普及，企业对信息的依赖程度日渐加深，假若不采取相应的安全举措，就可能导致信息泄漏的风险。“信息要进行脱敏或加密解决，提高传输和储存过程中的安全性。”
AI技术的滥用误用是明显风险之一。有统计显示，2024年全球发生的AI风险风波，超过30%与借助AI进行深度伪造相关。深度伪造名人形象、声音进行虚假宣传甚至盗窃不时见诸报端。
3月26日，博鳌欧洲峰会2025年峰会举办“AI：怎么做到运用与整治的平衡推动”分峰会。新华社记者蒲晓旭摄多位嘉宾表示，AI深度伪造动向层出不穷，主要在于作假成本低，彻查、执法成本大，应针对AI误用滥用建立相关法律法规，加强惩罚力度。
伴随AI形成的伦理道德争议也不容忽略。中国科大学手动化试验所试验员、联合国人工智能高层顾问机构专家曾毅觉得，伦理安全应作为人工智能大模型发展的“基因”，怎样在追求技术进步的在此之时固守道德底线，是须要共同面对的关键课题。
“人工智能的发展与安全不是相互制约的关系。”曾毅说，最新试验表明，可以在几乎不影响人工智能大模型求解能力的在此之时，通过科学的方法提高其安全能力。
让整治跟上技术脚步
怎么让整治跟上AI技术脚步？与会嘉宾表示，AI整治是一个全球性的复杂障碍，须要达成世界共识，促使各领域互相协作。目前，主要经济体都在加速相关立法进程。
在AI整治中，中国坚持统筹发展和安全，有关部门已发布多项AI整治指导文件。其中，前不久发布的《人工智能生成合成内容标示办法》重点解决“哪些是生成的”“谁生成的”“从那里生成的”等障碍，促进由生成到传播各环节的全流程安全管理。
在英国前首相埃斯科·阿霍看来，新政制订者、企业家、科学家等利益相关方应聚在一起，构建共识，通过制订标准来应对AI带来的整治难题。
“AI大夫”看病出了障碍算谁的责任？当人工智能系统形成不良后果，怎么确定责任归属也需进一步明晰。“多位嘉宾都提及一个观点，不要让人工智能完全取代人的决策，这是人工智能运用时必须注意的障碍。”曾毅说。
高质量信息是AI运用大规模落地的关键支撑，建立一个健全而成熟的信息市场也极其关键。以色列民主试验所中级试验员特希拉·施瓦茨·阿尔特舒勒觉得，应按照实际情况，构建符合自身须要的信息监管方案与路径。
与会嘉宾表示，AI时代到来，要坚持运用与整治平衡、创新与监管并重、全球化与本土化协同，避免数字鸿沟弄成智能鸿沟，让AI真正成为促进社会进步的普惠力量。（记者宋佳、王存福、刘开雄）
