每经专访中国科学技术大学张卫明教授:做好科普 让大众了解深度伪造技术的存在 预防传统电诈的手段就能有效预防AI诈骗|今日快讯
以前都说“有图有真相”“有视频有真相”……但自AI换脸工具出现后,这就要打一个大大的问号了。
前不久,一男子因AI换脸,10分钟被骗430万元。类似这样的新闻引起了人们对AI换脸技术的警觉。
据《每日经济新闻》记者了解,市面上已经出现了开源的AI换脸软件支持实时换脸,可以应用于线上直播,甚至视频通话场景。
(相关资料图)
中国科学技术大学网络空间安全学院副院长张卫明教授团队曾参与大名鼎鼎的DeepFaceLab(一种利用深度学习进行视频换脸的工具)的开发。资料显示,2020年,他带领团队参加由Facebook、MIT等组织的全球最大的“深度伪造检测挑战赛(DFDC)”,获得亚军。
近日,张卫明教授接受了《每日经济新闻》(下称“NBD”)的专访。谈及开源换脸技术,他认为相关技术的科普非常重要,可以有效提升民众的防骗素养,“某个先进技术如果只有很少的人知道和使用,大众缺少认知才更容易被欺骗。”
深度合成内容的检测要从被动转向主动
NBD:您的多个在研项目与深度防伪检测有关,可以介绍一下相关人工智能安全领域的最新研究进展吗?
张卫明:深度伪造检测相关研究进程,其实跟人工智能本身的技术进展有很大关联。近两年,以GPT为代表的生成式人工智能迎来大爆发。现在的深度合成,可以看成是生成式人工智能的一个分支。与诸多技术一样,生成式人工智能也是一把双刃剑,它可能被恶意使用。大家目前最担心的事情之一,是生成式人工智能带来的大量伪造信息。
以前我们主要做深度伪造检测,现在我们关心的问题更宽泛一点,包括了各种人工智能生成内容的检测。现在的GPT越来越接近人类,可以被用来写各种各样的文案,包括钓鱼邮件、虚假新闻等,同时还冲击到了教育领域,比如现在学生的作业,你无法断定是不是机器写的。所以一个很热门的问题是,怎样检测这些文本是机器写的还是人写的。
目前,国内外有很多团队在研究深度合成内容检测,但这些检测方法主要是被动检测,仍存在局限。如果能在部署模型阶段,植入一些标识,去做主动检测,这个可能更重要。比如,能不能在生成内容里嵌入水印,同时不影响内容的质量?目前关于人工智能生成内容水印的研究,已经变成了新的热点。
其实我们国家已经针对深度合成应用密集出台了相关规定,要求深度合成服务提供者应当对生成内容进行显著标记。
给文本做标识是比较难的,但是这个问题确实很重要。我们注意到,OpenAI等公司也在做自己的水印技术用于机器文本鉴别。类似这样的研究,正在变成新的热点。
NBD:一方面,研发者可以添加水印,另一方面,一些懂技术的人,也可以去掉水印。由此可见,深度伪造与其检测,就像一个对抗的循环,您怎么看待这一现象呢?
张卫明:确实存在这样的情况,所有的安全都是一攻一防,安全技术都有它的边界。所有的攻防,包括深度合成以及检测的攻防,都是在动态博弈中发展,并不会说最终PK出一个结局来。
因为安全这个领域,有一个共识,就是没有绝对的安全,安全永远是相对的。你做各种各样的安全防护,理论上来讲,它都有可能被攻击。一旦有新的攻击出现,那就要求我们去想新的补救措施。安全理念的提升,也是在这种对抗过程中动态地发展。
前面提到国家出台相关规定明确要求去打显著标识,其实那个是指可见的水印。可见水印有一个很大的问题,容易被人刻意擦除。相对来说,不可见水印有一定的优越性,一个方面是它不可见,别人不知道这里面有水印;另一方面,即使知道有水印,也不知道水印在什么位置。
目前做水印技术,会把信息藏在非常鲁棒的特征空间上,来抵抗各种各样的擦除。当然它是有边界的,比如说给视频擦水印的人,他如果不计损失的话,可以把视频质量变得很低,确实可能把水印擦掉。所以这里面其实是一个博弈。
预防AI诈骗关键在于知道深度伪造技术的存在
NBD:我们了解到,您的团队开发了一种开源的AI换脸工具,旨在科普这种技术,提升大家对深度合成的认知水平。但有人认为,一旦这种深度伪造技术普及之后,民众可能对通话安全有所担忧。对此,您怎么看?
张卫明:我是这么理解的,大家目前最担心的,其实是用生成式人工智能(比如深度合成)去实施各种各样的诈骗。这个确实影响很大,但恰恰是因为这样,更应该去做这样的科普、开源,让老百姓真的体验到现在的技术发展到什么程度了。
以前我们说有图有真相、有视频有真相。现在要有一个意识,就是有图可能也不是真相,有实时的视频,可能也不是真相。
对普通百姓来说,关键是要知道这种深度伪造技术的存在。因为做防护其实是万变不离其宗的,不见得需要很高级的技术,防传统电信诈骗的手段就很有效。比如一个视频通话里面,对方跟你聊到了金钱的事情,提到了转账,你可能就要提高警觉了,这可能是一个假视频,需要多方核实一下。
所以,不知道有这个技术的存在才是可怕的。目前已经有一些爱好者制作了很多样例,你会看到各种社交平台出现了大量这种技术的创造性应用。大众看到后就会理解,现在的技术可以做到什么程度。这在某种意义上是教育了更多的人,让他们有这个认知。我们无法阻止技术的进步,让民众了解AI技术的发展现状,才能更好地预防其潜在危害。
NBD:您认为生成式人工智能未来最适合的应用场景有哪些?
张卫明:未来可能有很多正向的且比较有趣的应用,最典型的是在娱乐领域,比如游戏、影视剧等等。
其实我在课堂上,曾经让一年级本科生去畅想未来这个技术可能会怎么应用。与社会层面更多关注这一技术的风险所不同的是,年轻学生们认为它的正面想象空间更大。
以影视娱乐为例,他们畅想可以去换脸体验演大片。或者在角色扮演型游戏中,通过实时换脸、VR等技术,能以自己的声音、自己的脸进入到游戏里去。
还有就是心理治疗。如果能用这些技术,重现一个人或一个场景的话,可能对心理治疗会很有帮助。再有就是在线教育。通过换脸等技术,让自己特别喜欢的老师,给自己讲各种课,让自己“听得进去”更“学得进去”。
还有一个应用是新时代的红色文化宣传、科学家精神宣传。我们最近做了一个尝试,发布了数字人钱学森,逼真度很高。钱老数字人发布以后,好评如潮,很多媒体都报道并转载了相关视频。这也让我意识到,做科学家精神宣传、红色文化传承,用这种方式可能更适合现在的年轻人,会达到很好的宣传效果,是一个很好的正向应用。
(文章来源:每日经济新闻)
标签:
抢先读
- 空调一直运转不停怎么回事(空调一直运转不停怎么回事儿)
- 相声界的颜值担当,郭麒麟时尚写真照,帅气又时髦-全球最资讯
- 怎么喝红酒 怎么喝红酒不容易醉
- 【全球报资讯】长沙失业金领取条件及标准2023 具体情况如下
- 百济神州被起诉专利侵权,回应将坚决辩护;涉诉产品年卖38亿近七成销往美国
- 压岁包上的祝福语 压岁包的祝福语大全
- 今日讯!崔永元朱军参加节目视频(崔永元 朱军)
- 美记:雄鹿计划留下米德尔顿和大洛两员大将-当前热讯
- ST洲际: 洲际油气股份有限公司关于延期回复上海证券交易所对公司2022年年度报告信息披露监管问询函的公告
- 环球观天下!ps抠图教程_扣图教程
- 世界即时看!全省林科系统科技人员到永胜县观摩学习
- 79年羊2022年运势如何,2022 79年羊2022年运势如何女
- 全国骨科医院前十名 动态焦点
- 毛笔书法入门教学视频 小学生_毛笔书法入门教学
- 环球新消息丨收敛域怎么求 收敛域是什么意思
- 天天观察:农村残疾人补贴政策2021年每月多少钱_农村残疾人补贴标准
- 2023深圳荷花展开幕
- 百隆东方: 百隆东方第五届监事会第六次会议决议公告
- 当前短讯!蓝魔w41刷机(蓝魔w41)
- 每日速读!葫芦岛锌业股份有限公司及子公司获得政府补助624万元
- 中考可以复读一年吗 有什么条件
- 当前视点!禁止涩涩?苹果 iOS 17 系统可自动屏蔽涩图
- 世界信息:上街区济源路街道:多点发力 全面筑牢辖区安全防线
- 全球观热点:科比球衣退役完整版(科比球衣)
- 全球观点:刘芳菲为被川大张薇霸凌的同学发文,网友却说她纯粹就是蹭流量
- 全球快讯:16日北京将迎本轮高温峰值 最高气温预计39℃
- 北京大学鄂尔多斯能源研究院正式揭牌_环球快资讯
- 世界看热讯:本周看啥|《闪电侠》上映,《雪鹰领主》《偷偷藏不住》定档
- 当前速讯:产业 | 首设网络出版馆,第29届北京国际图博会聚焦网文国际化发展
- 全球热文:又一轮山火烟雾正抵达美国 加拿大多地下星期或迎来异常高温
- 高质量发展县域行·海报新闻丨乾安县:抢占“追光逐电”新赛道,加快规划建设新型能源体系
- 【跨境电商周报】6月第二周:大量亚马逊卖家触发额外审查 阿里拟将天猫引入欧洲 Temu启动海外仓建设 征鸟出海对赌失败赔偿7000万
- 【世界快播报】体验35万最值得买的家用SUV 蔚来全新ES6只有一个缺点?
- vv酷偕 vv酷
- 世界最资讯丨systemdrv分区可以删除吗(system drv)
- 股票成交密集区是什么意思 要注意什么
- 我爱当评委-小学生周记200字 世界百事通
- 不死冥神在线(不死冥神)
- 国美类加盟股权合作项目推出两周 100余家企业有意向合作_焦点观察
- word文档搜索关键字在哪里_word文档搜索关键字-环球实时
- 风雨无阻意思相近的成语(风雨无阻的意思)
- 央行等五部门:加大货币政策工具支持力度 全面推进乡村振兴
- 观点:最新!比尔盖茨回复黄晓明
- “端午水”将至!湖南省水利厅要求切实做好防范应对
- 柯城区营商办参加企业社区实体化工作实地调研
- 普瑞纳饲料价格 (普瑞纳牛羊饲料)_精彩看点
- 投资平稳增长,服务业回升向好 1-5月杭州经济运行延续恢复态势
- 焦点观察:宁买老破小,不选高新大!过来人表示:买房选择很重要
- 珍贵的水-节约用水作文900字 世界播资讯
- 天天观察:天合光能2亿元于盐城投资新设科技公司
- * 创业板指涨幅扩大至1%_天天报资讯
- 世界动态:公安部公布十大高发电信网络诈骗类型 刷单返利类诈骗占发案总量近三分之一
- 全球短讯!两宋时期著名的理学家有谁,两宋理学的创始人
- 想要的很简单,恋爱时恋人做出什么行为,最让12星座男开心
- 全球最新:苹果手机悬浮窗怎么设置_苹果悬浮窗怎么设置
- 本科学前教育的专业有哪些校毕怎样再考 世界热议
- 微速讯:国家反诈中心推《2023版防范电信网络诈骗宣传手册》
- 曲莱奥卡西平口服混悬液_曲莱
- 二十岁生日文案高级 致20岁青春的经典名言
- (国际观察)通胀持续高位运行 欧洲央行或将继续加息_环球关注
- 通胀持续高位运行 欧洲央行或将继续加息
- 罗汉果的功效与禁忌症(罗汉果的功效与禁忌症介绍)_环球新资讯
- 有一种爱叫做喜欢(对于有一种爱叫做喜欢简单介绍)_当前热讯
- 湖南道县:龙船下水迎端午(组图)
- 容知日新(688768):6月16日北向资金增持3.55万股|世界速看料
- 大宋佳个人资料简介及老公(大宋佳个人资料)
- 打女友屁股
- 日本人对付中国女俘虏_日本男解开中国女衣服
- “县”在出发——行走百县话振兴 | 砂石地结“致富果” 紫色梦绽贺兰山|焦点日报
- 有意义的员工花名_公司员工取正能量的花名有什么
- 领跑“最后一公里”!2000台五菱E10定制车正式发车|每日快看
- 你每天洗脸都对了吗?正确洗脸方式是什么?-视点
- 今日聚焦!预警!岳阳市局地可能发生山洪灾害
- 君威和君越有什么区别尾标(君威和君越有什么区别)
- 四川启动“安全宣传咨询日”活动,有何看点? 前沿资讯
- 星巴克 致癌 星巴克致癌事件星巴克中国4月1日发布的声明)
- 凤凰花开,跨海相会!海峡论坛奏响两岸融合发展最强音-热推荐
- 机器视觉板块震荡拉升,大华股份尾盘涨停-天天消息
- 特斯拉变相降价8000元,Model 3价格创新低?
- 焦点速读:在这些书中,读懂中国画
- 美质慧心赓续经典 希望之星熠熠生辉 ——记优秀青年京剧演员周美慧成功演出《白蛇传》
- 硅业分会:本周国内工业硅期现价格均延续下行态势 但有望短期内止跌企稳
- 全球速读:我国首艘全新智能FPSO成功交付
- 奖励一套房!慰问金10万!网友:就应该这样|焦点关注
- 微速讯:长江有色:16日铅价小涨 淡季下下游采购热情受限
- 今日精选:儿子20岁生日祝福语 简短独特20岁生日简短经典
- 什么是去中心化应用程序?有什么优势?
- 金博股份(688598):6月16日北向资金减持5.43万股
- 湖北交投京珠运营公司开展安全宣传咨询日活动
- 世界即时:青龙乡纳众智促茶旅融合发展
- 广东2023年会计中级职称报名时间:6月27日至7月10日|天天动态
- A股积极因素正在聚集丨南财号联播_天天快资讯
- Steam客户端大规模更新:新增实用笔记功能 世界观焦点
- 天天短讯!与美债收益率负相关性破裂,亚股市场好兆头?
- 七天无理由是从什么时候开始算的 七天无理由 全球热消息
- 股价连续下跌四年,浙商银行怎么还好意思让股东配股追加投资?
- 世界短讯!i569支持安卓系统吗_i569
- 祝学生中考加油的句子有哪些
- 世界百事通!法院|大连沙河口区法院释理明法,成功执行房屋腾退
- 威海市环翠区税务局:税企共建展交流 便民春风促发展-全球焦点