环球今日讯!每经专访中国科学技术大学张卫明教授:做好科普,让大众了解深度伪造技术的存在,预防传统电诈的手段就能有效预防AI诈骗
以前都说“有图有真相”“有视频有真相”……但自AI换脸工具出现后,这就要打一个大大的问号了。
前不久,一男子因AI换脸,10分钟被骗430万元。类似这样的新闻引起了人们对AI换脸技术的警觉。
(资料图片)
据《每日经济新闻》记者了解,市面上已经出现了开源的AI换脸软件支持实时换脸,可以应用于线上直播,甚至视频通话场景。
中国科学技术大学网络空间安全学院副院长张卫明教授团队曾参与大名鼎鼎的DeepFaceLab(一种利用深度学习进行视频换脸的工具)的开发。资料显示,2020年,他带领团队参加由Facebook、MIT等组织的全球最大的“深度伪造检测挑战赛(DFDC)”,获得亚军。
近日,张卫明教授接受了《每日经济新闻》(下称“NBD”)的专访。谈及开源换脸技术,他认为相关技术的科普非常重要,可以有效提升民众的防骗素养,“某个先进技术如果只有很少的人知道和使用,大众缺少认知才更容易被欺骗。”
中国科学技术大学网络空间安全学院副院长张卫明 图片来源:受访者供图
深度合成内容的检测要从被动转向主动
NBD:您的多个在研项目与深度防伪检测有关,可以介绍一下相关人工智能安全领域的最新研究进展吗?
张卫明:深度伪造检测相关研究进程,其实跟人工智能本身的技术进展有很大关联。近两年,以GPT为代表的生成式人工智能迎来大爆发。现在的深度合成,可以看成是生成式人工智能的一个分支。与诸多技术一样,生成式人工智能也是一把双刃剑,它可能被恶意使用。大家目前最担心的事情之一,是生成式人工智能带来的大量伪造信息。
以前我们主要做深度伪造检测,现在我们关心的问题更宽泛一点,包括了各种人工智能生成内容的检测。现在的GPT越来越接近人类,可以被用来写各种各样的文案,包括钓鱼邮件、虚假新闻等,同时还冲击到了教育领域,比如现在学生的作业,你无法断定是不是机器写的。所以一个很热门的问题是,怎样检测这些文本是机器写的还是人写的。
目前,国内外有很多团队在研究深度合成内容检测,但这些检测方法主要是被动检测,仍存在局限。如果能在部署模型阶段,植入一些标识,去做主动检测,这个可能更重要。比如,能不能在生成内容里嵌入水印,同时不影响内容的质量?目前关于人工智能生成内容水印的研究,已经变成了新的热点。
其实我们国家已经针对深度合成应用密集出台了相关规定,要求深度合成服务提供者应当对生成内容进行显著标记。
给文本做标识是比较难的,但是这个问题确实很重要。我们注意到,OpenAI等公司也在做自己的水印技术用于机器文本鉴别。类似这样的研究,正在变成新的热点。
NBD:一方面,研发者可以添加水印,另一方面,一些懂技术的人,也可以去掉水印。由此可见,深度伪造与其检测,就像一个对抗的循环,您怎么看待这一现象呢?
张卫明:确实存在这样的情况,所有的安全都是一攻一防,安全技术都有它的边界。所有的攻防,包括深度合成以及检测的攻防,都是在动态博弈中发展,并不会说最终PK出一个结局来。
因为安全这个领域,有一个共识,就是没有绝对的安全,安全永远是相对的。你做各种各样的安全防护,理论上来讲,它都有可能被攻击。一旦有新的攻击出现,那就要求我们去想新的补救措施。安全理念的提升,也是在这种对抗过程中动态地发展。
前面提到国家出台相关规定明确要求去打显著标识,其实那个是指可见的水印。可见水印有一个很大的问题,容易被人刻意擦除。相对来说,不可见水印有一定的优越性,一个方面是它不可见,别人不知道这里面有水印;另一方面,即使知道有水印,也不知道水印在什么位置。
目前做水印技术,会把信息藏在非常鲁棒的特征空间上,来抵抗各种各样的擦除。当然它是有边界的,比如说给视频擦水印的人,他如果不计损失的话,可以把视频质量变得很低,确实可能把水印擦掉。所以这里面其实是一个博弈。
预防AI诈骗关键在于知道深度伪造技术的存在
NBD:我们了解到,您的团队开发了一种开源的AI换脸工具,旨在科普这种技术,提升大家对深度合成的认知水平。但有人认为,一旦这种深度伪造技术普及之后,民众可能对通话安全有所担忧。对此,您怎么看?
张卫明:我是这么理解的,大家目前最担心的,其实是用生成式人工智能(比如深度合成)去实施各种各样的诈骗。这个确实影响很大,但恰恰是因为这样,更应该去做这样的科普、开源,让老百姓真的体验到现在的技术发展到什么程度了。
以前我们说有图有真相、有视频有真相。现在要有一个意识,就是有图可能也不是真相,有实时的视频,可能也不是真相。
对普通百姓来说,关键是要知道这种深度伪造技术的存在。因为做防护其实是万变不离其宗的,不见得需要很高级的技术,防传统电信诈骗的手段就很有效。比如一个视频通话里面,对方跟你聊到了金钱的事情,提到了转账,你可能就要提高警觉了,这可能是一个假视频,需要多方核实一下。
所以,不知道有这个技术的存在才是可怕的。目前已经有一些爱好者制作了很多样例,你会看到各种社交平台出现了大量这种技术的创造性应用。大众看到后就会理解,现在的技术可以做到什么程度。这在某种意义上是教育了更多的人,让他们有这个认知。我们无法阻止技术的进步,让民众了解AI技术的发展现状,才能更好地预防其潜在危害。
NBD:您认为生成式人工智能未来最适合的应用场景有哪些?
张卫明:未来可能有很多正向的且比较有趣的应用,最典型的是在娱乐领域,比如游戏、影视剧等等。
其实我在课堂上,曾经让一年级本科生去畅想未来这个技术可能会怎么应用。与社会层面更多关注这一技术的风险所不同的是,年轻学生们认为它的正面想象空间更大。
以影视娱乐为例,他们畅想可以去换脸体验演大片。或者在角色扮演型游戏中,通过实时换脸、VR等技术,能以自己的声音、自己的脸进入到游戏里去。
还有就是心理治疗。如果能用这些技术,重现一个人或一个场景的话,可能对心理治疗会很有帮助。再有就是在线教育。通过换脸等技术,让自己特别喜欢的老师,给自己讲各种课,让自己“听得进去”更“学得进去”。
还有一个应用是新时代的红色文化宣传、科学家精神宣传。我们最近做了一个尝试,发布了数字人钱学森,逼真度很高。钱老数字人发布以后,好评如潮,很多媒体都报道并转载了相关视频。这也让我意识到,做科学家精神宣传、红色文化传承,用这种方式可能更适合现在的年轻人,会达到很好的宣传效果,是一个很好的正向应用。
封面图片来源:视觉中国
抢先读
- 【全球聚看点】微波炉可以煮土豆粉么 微波炉是否可以煮土豆粉
- 世界要闻:亚运会的运动员村什么样?先睹为快→
- 美国国务卿布林肯将访华
- 天天微速讯:粗心大意的近义词的反义词_粗心大意的近义词
- 如何免费将pdf转换成word文档-今日看点
- 苏翊鸣保送清华,郑钦文成为李娜学妹,王哲林张镇麟无缘上海交大|全球新要闻
- 文末有奖丨台积电三巨头下周齐聚上海
- 焦点讯息:江西养老金每月能涨多少钱2023?2023年江西养老金调整方案细则预估
- 环球今日讯!每经专访中国科学技术大学张卫明教授:做好科普,让大众了解深度伪造技术的存在,预防传统电诈的手段就能有效预防AI诈骗
- 当前关注:山河智能(002097):6月16日北向资金增持15.17万股
- 融资买入和普通买入的区别 主要是这几点 当前热议
- “五五购物节”火热进行中,活动丰富、优惠多多
- 栀子花开花后怎么养才不香 栀子花开花后如何养殖
- 河南安阳:大山里的幸福“医”靠
- 世界时讯:误食重金属的症状_误食重金属后应服用什么来缓解病情
- 厉兵秣马护平安! 信阳市公安局开展全警实战练兵考核比武工作
- 环球看点!港股股票回购一览:22只个股获公司回购
- 融通财险亮出首份成绩单:2022年净利润0.16亿元 总资产35.28亿 焦点播报
- 安徽6月17日进入梅雨期:较常年偏晚2天
- 岳云鹏、大张伟、李雪琴齐聚《开工!喜剧之夜》,快手联合打造年度喜剧盛宴
- 64%!二手车金融渗透率太乐观
- 张艺谋妻子陈婷个人资料照片(张艺谋为什么会看上陈婷) 世界热点
- 炒熟的核桃有营养吗 核桃炒熟了还有营养吗-世界即时看
- 交易员看衰全球经济和需求端 原油易跌难涨
- 中华田园犬的特点和性格(中华田园犬为什么那么好养)
- 金庸小说里的大侠为什么都在报“杀父之仇”?|父亲节特辑
- 借主营业务成本贷应付账款合法吗_借主营业务成本贷应付账款
- 【世界播资讯】肉煮久了还有营养吗 肉煮久了还能不能有营养
- 全新高通智能视频协作平台套件具备丰富AI特性,支持Android和Linux-环球快看
- 当前快报:2023年9月全国计算机等级考试报名将于6月26日开始
- 茉莉开花后怎么养 茉莉花开花期间怎么养护?
- 薏米禁忌与什么一起吃 薏米和哪些食物有食用禁忌呢_环球头条
- 环球今亮点!小城转型:人口小县试点机构整合 收缩型城市撤街设镇
- 剑装灾厄高达图片(剑装灾厄高达)
- 焦点热文:开工令什么意思_开工令的前提条件是什么
- 老式防盗门锁怎么更换(老式防盗门锁怎么换锁芯)
- 每日消息!【新华500】新华500指数(989001)16日涨0.96%
- 中山三乡文创产品可自助购买!首期推出了5部自助售卖机,位置在→
- 世界快看:只要彼此爱过一次朗诵_只要彼此爱过一次
- 本川智能:公司光模块相关产品已量产交货
- 兴化股份(002109):6月16日北向资金增持1.2万股
- 新动态:AG超玩会首战零封TES,cat与极光配合完美,一诺尴尬了
- 爱自拍的人心理分析(爱自拍)
- 中国大巴山(重庆·城口)消夏康养季6月21日启动
- excel索引图片_excel索引 最新资讯
- 概念动态|恒勃股份新增“注册制次新股”概念_环球微资讯
- 锆铌合金股骨头获批上市 焦点速看
- 2023城镇职工医保报销流程是什么-当前看点
- 娃哈哈乳酸菌有营养吗 娃哈哈乳酸菌是否有营养-环球速读
- 全球热消息:阜阳大学官网首页_阜阳大学
- 贵阳首美整形医院怎么样 医院真实案例分享
- 【消息】河南省造纸行业2022年运行概况及2023年展望 要闻
- 5月银行结售汇顺差33亿美元 如何影响人民币汇率走势?
- 国家发改委:加快向民营企业开放国家重大科研基础设施 视讯
- 中文学校是座桥 焦点速递
- 前沿热点:CBRE严思慧:相比北上深,广州商业物业市场仍是“蓝海”
- 水晶光电(002273):6月16日北向资金减持17.68万股
- 蛋母鸡有营养吗 蛋母鸡有没有营养 热消息
- 世界球精选!贵州数据宝网络科技有限公司:大力推动数据要素融合应用
- 世界今热点:国千环境与国家纳米中心合作的项目荣获中国技术市场协会“金桥奖”
- 海内外茶界大咖云集峨眉山下论道绿茶未来 全球播资讯
- 选择大城市逐梦还是小城市安稳
- 男子遭遇电诈执意转账 民警苦口婆心帮忙止损 速讯
- 6月16日山东东银金属材料无缝管价格持平
- 欧睿国际董事:关于中国酒饮新消费的三点观察
- 天天看热讯:2023年毕业季租住调研:42.7%毕业生房租源自父母支持
- 今日快看!广东:探索开展产品碳足迹核算,推进新能源汽车等领域标准化工作
- 6月16日德州实华烧碱报价暂稳|环球速读
- vivo X90更换壁纸方法介绍 环球热闻
- 环球今头条!邮储银行零陵区支行开展防范非法集资宣传月活动
- TB上的视频怎么下载
- 空调多长时间加氟利昂(空调氟利昂多长时间加一次) 世界最资讯
- 啤酒禁忌与什么食物一起吃 啤酒不能和什么一起吃-天天观热点
- 环球新资讯:“三高”老年人的饮食痛点
- 能庆祝吗?国足结束18个月不胜+新帅首胜+武磊29球升历史第二!
- 爱士惟携海外品牌Solplanet亮相Intersolar Europe
- 消协解读盲盒新规:与非盲盒商品的价差不应过大 全球速看
- 苏高科17亿元小公募债提交注册 拟全部用于偿还回售公司债券
- 当前快看:春天后母心豆豆去世(春天后母心演员表)
- 南方阀门总经理易品辞职 2022年公司亏损9653.42万-世界视讯
- 中证协二季度证券基金行业首席经济学家例会:国内经济延续恢复向好态势
- 右键新建没有word文档(新建没有word文档)_全球球精选
- 世界快资讯:铁路飞冲好玩吗 铁路飞冲玩法简介
- 光伏周报:隆基绿能再次刷新钙钛矿电池转换效率纪录
- 同样是24小时,李想和朱江明一天都在想什么? 世界新资讯
- 安康举行秦巴医药产业“产供销”对接大会 全球热头条
- 余额宝可以转账吗,余额宝可以直接转账吗_世界热资讯
- 新疆维吾尔自治区政协向不再连任的住疆十三届全国政协常委、委员代发纪念牌
- 【世界热闻】绘声绘影模板能用在PR上吗(绘声绘影模板)
- 红酒禁忌与什么一起吃 红酒不能和什么食物一起吃呢 环球播资讯
- 当前观察:时隔十个月!央行连续“降息”,啥信号?
- 洛克王国小小白(小小白masa)
- 中国医药: 公司严格按照中国证监会、上海证券交易所相关规定履行信息披露义务
- 外交部回应布林肯访华:中方将阐明对中美关系的立场和关切 坚决维护自身利益
- 环球快讯:芍药开花后怎么养 芍药开花后如何养
- 三科股份(873217):拟10派6元转增8股,共派送现金1422万元|世界时讯
- 横店东磁(002056):6月16日北向资金增持150.57万股
- 观速讯丨蔬菜什么时候浇水好 那个时候浇水对蔬菜比较 好
- 第九届上交会来袭 擎朗医疗机器人参展
- 世界百事通!巨鸟撞穿飞机挡风玻璃,残骸嵌入机身!飞行员仍淡定驾驶