可能对人类构成深远风险?马斯克等千人呼吁暂停训练高级AI-当前播报
马斯克等1000名科技人士,日前签署了一封特殊的公开信。
(资料图)
据未来生命研究所(Future of Life Institute)网站披露,该网站曾以公开信的方式发起倡议,呼吁所有AI(人工智能)实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。截至北京时间3月29日下午13时许,在该网站上,这封公开信获得了包括马斯克在内的1126名人士的联名签署。
综合目前的公开资料来看,这项倡议的宗旨在于为人类留出时间,思考AI开发的合规性和安全性,并助力人类展开相关的工作。对于此,GPT-4认为,“6个月的时间可能对于实现这一目的具有一定的挑战性。”
未来生命研究所网站截图
公开信认为,高级AI可能代表地球生命史上的深刻变化,人类应以相应的关怀和资源进行规划和管理——但不幸的是,对应级别的规划和管理并没有发生。此外,最近几个月AI实验室们陷入了一场失控的竞赛(an out-of-control race),但包括这些AI系统的创造者们,都无法完全去理解、预测或者可靠地控制(reliably control)它们。
公开信写道,广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,这一观点得到了顶级人工智能实验室的承认。
公开信表示,人们只应在这样的背景下去开发强大的人工系统:确信它们的影响是积极的,确信它们的风险是可控的。信件还援引了OpenAI(ChatGPT的开发者)在其最新声明中的表态,“在某个时候,在开始训练未来的AI系统之前,对它进行独立审查可能很重要。”
“现在就是那个时候。”公开信认为。
公开信呼吁,所有AI实验室立即暂停至少6个月的训练工作——对象是那些比GPT-4更强大的AI系统。公开信称,这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这样的暂停,政府应该介入并暂停。
“这并不意味着总体上暂停AI开发,”公开信表示,AI实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级AI设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。此外,公开信还呼吁,AI开发人员必须与政策制定者合作,以显着加快开发强大的AI治理系统。
未来生命研究所网站显示,该组织成立于2014年,它的目标是“引导变革性技术造福于生活,远离极端大规模的风险。”网站信息显示,其注册地址在美国宾夕法尼亚州蒙哥马利县。经查证,在2020年6月联合国发布的《数字合作路线图》中,该机构是该活动在AI领域的民间倡议者(Champions)之一。
网站最新页面显示,在该公开信的联合签名栏,有众多大学学者、工程师和企业创始人和高管在列。例如“图灵奖”获得者约书亚·本希奥、特斯拉CEO马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等。这份名单中也包括一些记者、教师和学生的名字。
未来生命研究所网站截图
对于此事,“GPT-4怎么看”?
ChatGPT在回答提问时表示,其原因为确保AI研究在安全和伦理方面的合规性,防止技术滥用,为制定有效规范和监管措施留出时间。对于这一行动的影响,GPT-4称,这将提高AI领域的安全意识,推动政策制定和监管措施的完善,促使AI技术更加负责任地发展。
当被问道,“在你看来,6个月的时间是否足以让人们实现这一目的?”GPT-4认为,虽然这段时间可以让政策制定者、研究人员和社会讨论开始关注AI安全和伦理问题,但要完全解决这些问题并制定全面的规范和监管措施可能需要更长时间。然而,6个月的暂停确实可以作为一个良好的起点,引发关注并推动相关方面加快行动。
“6个月的时间可能对于实现这一目的具有一定的挑战性。”
OpenAI网站截图
本文系观察者网独家稿件,未经授权,不得转载。
标签:
抢先读
- csgo首次免费开箱的平台有什么?什么什么csgo官匹段位?
- 广州启动气象灾害(暴雨)Ⅳ级应急响应 多区暴雨黄色预警生效_环球观焦点
- 信用卡冻结后还不上钱如何处理?信用卡的利与弊是什么? 全球今亮点
- 神界原罪2steam购买建议(神界原罪2 steam买哪个)
- 湖人试训一名大五熟男控卫,他可能是双向合同的绝佳选择?
- 崩坏星穹铁道周边购买方法 周边如何购买_速递
- 武田与和黄医药宣布呋喹替尼上市许可申请获欧洲药品管理局确认
- 【环球热闻】“20宝龙04”跌超30% 盘中临时停牌
- 世界观热点:动车座位号ABCDF怎么排列的 动车座位怎么往后调整?
- 中南新能源合作帮南非解“电荒” 环球短讯
- 全球速递!正式“穿江”!万里长江高铁第一隧在重庆盾构施工开始
- 第21届北京国际图书节开幕,观众可“零距离”观摩体验古籍修复_全球热头条
- 《无敌脑洞王者》凿壁偷光通关攻略 全球观热点
- 再遇小可爱!动物园里居然有个幼儿园
- 当前视点!2022年属羊李居明,2022年属鼠人的全年运势
- 贾西姆与姆巴佩的母亲“开始谈判”,希望今年夏天签下新前锋 天天速看
- 天天短讯!酒驾出了事故人死亡保险赔吗
- 《蓝色协议》端游手游介绍-世界视讯
- 快应用可以删吗 快应用有什么用处能卸载吗
- 速讯:今日欧元/美元汇率走势图分析(6月16日)
- 神界原罪2战斗技巧分享 神界原罪2战斗技巧分享在哪
- 天天热点!拒绝交易!状元换不来榜眼!球迷直呼好家伙
- 推进文化数字化工程、制作数字文化产品……山东数字赋能文化“两创”有这些亮点
- 孙吴县气象台发布大风蓝色预警【IV级/一般】【2023-06-16】-天天热资讯
- 压岁包上的祝福语 压岁包的祝福语大全
- 焦点快播:宁德时代等在珠海成立新基建公司
- 【聚看点】安徽信息工程学院举行创新发展论坛暨建校二十周年庆祝大会
- 天天日报丨襄城县农业农村局开展非法集资风险防范宣传活动
- 世界滚动:长期债券的优缺点是什么?长期债券的资本成本计算公式是什么?
- 生意社:市场竞争激烈 近期华东地区水泥价格弱势下跌 今日热文
- 环球快讯:想图省心?这几款合资轿车闭着眼睛入
- 高技能人才突破379万人 山东为高质量发展凝聚技能人才力量
- 天天新消息丨港媒:“印太四边机制”实质是美国主导的利益胁迫工具
- 2020珠海横琴长隆国际大马戏恢复开放公告|全球球精选
- 焦作马村区丽景社区获得“河南省民主法治示范村”称号
- 属羊人明天的财运,属羊的明日财运查询
- 美国NBA总冠军游行活动意外频出:有警察被车撞倒 发生枪击事件 今头条
- 【世界播资讯】6月16日 13:17分 航天机电(600151)股价快速拉升
- 华为手机打电话黑屏是什么原因?华为手机打电话黑屏的解决教程 天天热消息
- 每日关注!彭泽县气象台发布雷电黄色预警信号【III级/较重】【2023-06-16】
- 即时看!行唐县气象台发布大风蓝色预警【Ⅳ级/一般】【2023-06-16】
- 今晚!CCTV5等5家平台直播国足VS缅甸,武磊等中超球员牛刀杀鸡?
- 公路边店面出租合同
- 上海中医药大学中药学“创新班”首次招生 时讯
- 今日热搜:大学生英语专业实习报告范文
- 公司问答 | 掌阅科技:公司已经通过微软云接入OpenAI|全球速读
- 空调一直运转不停怎么回事(空调一直运转不停怎么回事儿)-世界新资讯
- 贴地飞行、悬浮隧道……这些交通“黑科技”正走近你我 热头条
- 亚洲体操锦标赛,中国队获得男子团体冠军
- 伊泰煤炭携手一派氢能共建碳中和示范项目 天天观点
- 青岛市崂山区沙子口卫生院顺利通过国家优质服务基层行推荐标准评审_实时焦点
- 贴地飞行、悬浮隧道……这些交通“黑科技”正走近你我_天天微资讯
- 柳州市气象台发布雷电黄色预警信号【III级/较重】【2023-06-16】|环球新消息
- 世界快看:飞龙股份(002536)6月16日14点19分触及涨停板
- 热门:男子多次请朋友吃饭后逃单获刑,警方:构成诈骗
- 6月16日(星期五)CCTV6节目预告
- 世界快报:中润光能IPO:负债率远超同行,半数募资用于补血
- 台州举报黑人有钱拿吗 全球热头条
- 【热闻】美版《西游记》口碑两极分化
- 孙中山与中山舰事迹图片展在广州中山纪念堂展出
- 乡村振兴在行动|引金融“活水” 强产业链条——广东清远探索农村产业发展新思路
- 长乐古县衙遗址修缮工程启动 3个月后将重现昔日光彩-观热点
- 2023年压缩毛巾行业政策分析:国家政策保护压缩毛巾企业创新成果 环球新要闻
- 天天热头条丨衣柜喷漆多少钱
- 先进制造业和现代服务业融合共生 增强制造业核心竞争力_世界通讯
- 市人大常委会开展全市职业教育发展情况专项调查
- 天天速看:燃气股午后拉升走高,截至发稿,港华智慧能源(01083.HK)涨5.97%,报3.55港元
- 全球今热点:异动快报:飞龙股份(002536)6月16日14点19分触及涨停板
- 搜狗私有化完成了吗?腾讯为什么一定要收购搜狗?
- 信用卡有逾期可以办储蓄卡吗?信用卡逾期被起诉会不会坐牢?|天天快资讯
- 即时:把脉会诊!金融创新司法听证机制首次听证会召开
- 内蒙古新右旗:“四季调研”零整互化 建强嘎查党组织考评管理体系 焦点短讯
- 深圳周末艺文指南(6月17日、18日)-焦点快看
- 100亿元!重庆设立食品及农产品加工产业生态基金-焦点热文
- 【当前独家】事关高校毕业生档案转递接收工作
- 【环球聚看点】再遇小可爱!动物园里居然有个幼儿园
- 徐汇区小学转学政策2023(条件+材料+流程)
- 没有核污染,SK-II也卖不动了 世界观察
- 【聚焦618】唯品会618高潮期开售:品质消费驱动增长 知名品牌带动消费热潮|全球播资讯
- 转学国际小学对英语的要求高吗?
- 关注:信用卡逾期记录消除?信用卡还不上怎么申请停息挂账?
- 世界时讯:君亭酒店:拟投资2.1亿元在重庆分批次开设多家高品质酒店
- 今日要闻!天津滨海汽车工程职业学院产教融合迈上新台阶
- 2023年上半年全市重点项目观摩第七站在商州检阅这些项目 今亮点
- 怎么去开股票帐户?股票帐户登不上是什么原因? 世界微动态
- 回天新材锂电池用聚氨酯胶生产线建成投产 当前消息
- 陕西一大学生酒后与朋友发生性关系被告强奸:一审获刑4年,发回重审后改判3年 被告人家属称已上诉_全球快播
- A220-500或将促使空客寻求第二种发动机-全球看热讯
- 怎么根据量价关系选股?股票筹码峰相关知识?
- 汇纳科技(300609):该股换手率大于8%(06-16) 通讯
- 蓝色光标成立幻境公司 经营范围包含数字文化创意内容应用服务|环球焦点
- 食未科技完成数千万A+轮融资|全球速看
- 环球关注:强心苷最严重的不良反应(强心苷)
- 环球微动态丨余额宝收益率是怎么算出来的?余额宝收益和零钱通哪个收益好一点?
- 世界快资讯:步步高Vivo官网首页详细介绍
- 王府井行业地位怎么样?王府井最细股票行情介绍
- “让世界共享气体之美” 金宏气体高铁冠名列车盛大启程_世界即时
- 杭州亚运会:男乒奥运亚军之子入选,期待挑战樊振东、夺得奖牌
- 三星Galaxy全球新品发布会正式召� 要闻
- 全球头条:选择货币基金有哪些技巧?债券基金和货币基金有什么区别?