（聚焦博鳌）AI迅猛发展，人类能否稳控“方向盘”
为何人类必须掌控AI“方向盘”
AI近年来的快速发展既令人振奋，又暗藏隐忧。上海科学智能研究院首席战略官、复旦大学经济学教授杨燕青指出，AI可能是人类历史上最强大的通用技术。“与蒸汽机、电力等增强人类体力的技术不同，AI直接赋能人类大脑，涉及计算与认知的深度融合。”杨燕青将AI特性描述为“类人”，这使得AI既能带来生产力提升，也可能引发威胁人类生存的风险。
中国工程院院士、清华大学智能产业研究院院长张亚勤介绍，2025年人工智能发展呈现三大趋势：从生成式大模型迈向智能体，从预训练走向推理，从信息智能走向物理智能和具身智能。
随着AI的快速迭代，一个令人不安的场景或从科幻电影中走向现实：本应协助人类的AI，可能因为算法偏差或外部操纵，做出违背伦理、危及人类利益的决策。
人类如何掌控AI“方向盘”
面对未知的AI风险，人类如何应对？中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅主张，将伦理安全融入AI开发的底层设计，视其为“第一性原则”，不可删除、不可违背。他强调，AI的伦理安全应成为技术发展的基因，确保其与人类价值观保持一致。
张亚勤进一步将AI风险分解为可信度与可控性两个层面。可信度要求AI在执行任务时遵循人类期望、伦理规范和社会法律，不产生误导性、有害或不公平的结果；可控性则确保人类能有效监控、干预和纠正AI行为，避免失控或不可预测的后果。他提出，设定技术红线与边界是关键，如限制智能体自我复制，以降低失控风险。
在具体实践上，国际社会已采取行动。欧盟《人工智能法案》于2024年实施，对高风险AI系统设定了严格的透明度和问责要求；中国2023年发布的《生成式人工智能服务管理暂行办法》则明确要求企业对AI输出内容负责。这些技术与伦理并重的措施，旨在确保人类脚踩AI超速的“刹车片”，手握AI发展的“方向盘”。
平衡AI：发展与治理的共生之道
有人担忧，给AI“装上刹车片”会削弱其竞争力。曾毅介绍，其所在的团队通过对大模型进行微调，可以将安全能力提升20%至30%，对其性能几乎没有负面影响。这一发现证明，安全治理与技术发展可以并行不悖。
当天在博鳌的讨论最终汇聚成共识：AI治理需要构建一个多元、立体的全方位治理体系。这一体系如同一个精密的生态系统，既有自上而下的宏观规划，也有自下而上的微观参与，涵盖技术、社会、经济等多元维度。
“我们怎么和人工智能共处？如何让人工智能使得整个世界变得更好，人类应有更大的责任。”杨燕青认为，AI治理是每个人的使命。社会大众应保持自身的价值观和创新力，在多元的理念中把握好自己的“方向盘”。
标签：
抢先读
- （聚焦博鳌）AI迅猛发展，人类能否稳控“方向盘”
- 陕西镇巴至四川广安高速公路白马渠江特大桥贯通
- 中国网络视听用户近11亿
- 商务部：有序扩大单方面免签国家范围
- 国内自研最大直径盾构机“沧渊号”成功下线
- 郑永年：解决国家间贫富差距应“达则兼济天下”
- （聚焦博鳌）博鳌亚洲论坛全球健康论坛2025年北京会议将于7月召开
- 商务部：有序扩大单方面免签国家范围
- 水泥填缝的方法是什么？水泥填缝多久可以擦？
- “新时代网红生态发展工程”签约仪式在京举行
- 首驱（Sky Motor）震撼发布，开启智能两轮出行新纪元
- 龙永图：只要科学技术发展不停止，全球化就不可能停止
- 洗衣机中途暂停了如何打开锁？洗衣机不脱水了是什么原因？
- （经济观察）中式茶饮掀境外上市热，背后有何“生意经”？
- （经济观察）中式茶饮掀境外上市热，背后有何“生意经”？
- 红西凤升级版价值解读：“文化基因+非遗工艺+品质密码”引领高端凤香新境界
- （聚焦博鳌）迟福林：要高度重视RCEP在促进亚洲经济一体化中的作用
- （聚焦博鳌）迟福林：要高度重视RCEP在促进亚洲经济一体化中的作用
- 全系标配高阶智驾+高阶智舱，比亚迪海狮05EV正式上市 售价11.78万元-13.78万元
- 张军：亚洲发展中国家多 绿色转型却走在世界前列
- 比亚迪发布2024年ESG报告 以技术创新驱动可持续发展
- （聚焦博鳌）周小川建言海南自贸港：打造中国服务业开放高地
- （聚焦博鳌）周小川建言海南自贸港：打造中国服务业开放高地
- 3月26日人民币对美元中间价报7.1754元 上调34个基点
- 透过1秒、1天、1年看中国快递有多强
- AI医生看病靠谱吗
- 销量破百万 一“冠”难求 文创产业还藏着哪些“出圈”密码？
- 个头更大 价格更优 大个头蓝莓藏着哪些科技秘密？
- 专业跟着产业走 河南高校专业花样“上新”
- 透过1秒、1天、1年看中国快递有多强
- 专业跟着产业走 河南高校专业花样“上新”
- 专业跟着产业走 河南高校专业花样“上新”
- 这座川西北高原小城，人均拥有梨树19棵！
- 农民增收新思路 设置“带薪钓鱼”岗位有何用意
- 重庆：3D打印技术助力飞机维修
- 手机账户资金莫名被盗刷 “免密支付”风险怎样防范
- 昆明打造机床产业聚集区 力争3年产值破百亿元
- “文景口”轮将首航 为中国新能源汽车出口提供全链路保障
- 重庆：3D打印技术助力飞机维修
- 沪苏湖高铁加速长三角农文旅融合步伐
- 兰州明确出入境限定区域
- 昆明打造机床产业聚集区 力争3年产值破百亿元
- 浙江单批次商品车装箱出运量纪录刷新
- 江西累计引进台资项目4067个 实际进资197.56亿美元
- 湖北荆州观音寺长江大桥公安侧主塔封顶
- （聚焦博鳌）联合国官员：博鳌亚洲论坛为南南合作提供更多参考
- 沪苏湖高铁加速长三角农文旅融合步伐
- （聚焦博鳌）国际经贸合作：海南自贸港注入新动力
- 沪苏湖高铁加速长三角农文旅融合步伐
- （聚焦博鳌）国际经贸合作：海南自贸港注入新动力
- 在博鳌感受开放的中国
- （经济观察）中国运营商加码算力基础设施投资
- （聚焦博鳌）海南博鳌零碳示范区实现全域零碳运行
- （聚焦博鳌）黄奇帆：“中国制造”并非闭门造车，外资起桥梁作用
- “德国制造”与“东方鲁尔”再燃新火花：贺利氏石英沈阳新工厂落成
- “德国制造”与“东方鲁尔”再燃新火花：贺利氏石英沈阳新工厂落成
- （聚焦博鳌）海南博鳌零碳示范区实现全域零碳运行
- 天津创建首批4家未来产业先导区 推动创新资源集聚
- 渝昆高铁云南段“四电”工程开工
- 以旧换新加力扩围 “焕”出消费新动能
- 股票超跌反弹的应用有哪些？股票涨停时为何不选择卖出？
- 周小川：海南自贸港在服务贸易、绿色发展领域大有可为
- 周小川：海南自贸港在服务贸易、绿色发展领域大有可为
- 黑龙江同江：6年培育大麻哈鱼苗260万尾
- 守护数字原住民：《蛋仔派对》的未成年人保护与公益创新之路
- 黑龙江同江：6年培育大麻哈鱼苗260万尾
- 个险改革新探索：大家人寿创新保险代理模式
- 今年以来中国电动自行车以旧换新超220万辆
- 2月中国销售彩票同比增15.3%
- 个险改革新探索：大家人寿创新保险代理模式
- 2月中国销售彩票同比增15.3%
- 个险改革新探索：大家人寿创新保险代理模式
- 第20届SIUF中国国际品牌内衣展开幕 勾勒时尚画卷
- 第20届SIUF中国国际品牌内衣展开幕 勾勒时尚画卷
- 73.1℃！湖北咸宁刷新中深层地热井温度新高
- 广西发布住房公积金业务标准 利于更多的灵活就业人员
- 广西发布住房公积金业务标准 利于更多的灵活就业人员
- 以金融温度助力消费升温 中信银行信用卡深耕“食住行娱购”
- 数百万外卖骑手“工伤保险”扩围在即，美团近三年已投入14亿元
- 数百万外卖骑手“工伤保险”扩围在即，美团近三年已投入14亿元
- 以金融温度助力消费升温 中信银行信用卡深耕“食住行娱购”
- 糖酒会吹“减糖”风 “体重管理”助力健康经济
- 糖酒会吹“减糖”风 “体重管理”助力健康经济
- 广西发布住房公积金业务标准 利于更多的灵活就业人员
- 全国城市巡回招聘宁夏站在银川举办 吸引约1.5万名求职者
- 湖北启动实施知识价值信用贷 助科技型企业发展
- 基金后面加仓怎么算持有天数？基金涨了加仓还是跌了加仓？
- 基金加仓的两大方法是什么？基金加仓净值怎么算？
- 安利全球CEO迈克尔·尼尔森：5年投资21亿元 持续加码中国
- （聚焦博鳌）报告称亚洲经济2025年将增长4.5%
- 中国工程院院士孙宝国莅临西凤股份公司助力风味科学研究
- 种业发展筑牢创新底座
- 十月稻田发布2024年业绩报告，稳中增效提质能力凸显
- 免密支付存隐患 如非必要莫开启
- 北京市首家“名特优新”个体工商户孵化服务站成立
- 西凤酒10万吨优质基酒及配套生产项目制酒工艺方案通过专家评审
- 商务部：加快落实各项扩消费政策措施
- 专项行动持续深化 央企加速“拥抱”人工智能
- 欧美企业高管齐聚北京，用实际行动反驳“脱钩论”
- 新品密集发布 人形机器人加速产业“进化”