每经专访中国科学技术大学张卫明教授:做好科普 让大众了解深度伪造技术的存在 预防传统电诈的手段就能有效预防AI诈骗
以前都说“有图有真相”“有视频有真相”……但自AI换脸工具出现后,这就要打一个大大的问号了。
前不久,一男子因AI换脸,10分钟被骗430万元。类似这样的新闻引起了人们对AI换脸技术的警觉。
(资料图片)
据《每日经济新闻》记者了解,市面上已经出现了开源的AI换脸软件支持实时换脸,可以应用于线上直播,甚至视频通话场景。
中国科学技术大学网络空间安全学院副院长张卫明教授团队曾参与大名鼎鼎的DeepFaceLab(一种利用深度学习进行视频换脸的工具)的开发。资料显示,2020年,他带领团队参加由Facebook、MIT等组织的全球最大的“深度伪造检测挑战赛(DFDC)”,获得亚军。
近日,张卫明教授接受了《每日经济新闻》(下称“NBD”)的专访。谈及开源换脸技术,他认为相关技术的科普非常重要,可以有效提升民众的防骗素养,“某个先进技术如果只有很少的人知道和使用,大众缺少认知才更容易被欺骗。”
深度合成内容的检测要从被动转向主动
NBD:您的多个在研项目与深度防伪检测有关,可以介绍一下相关人工智能安全领域的最新研究进展吗?
张卫明:深度伪造检测相关研究进程,其实跟人工智能本身的技术进展有很大关联。近两年,以GPT为代表的生成式人工智能迎来大爆发。现在的深度合成,可以看成是生成式人工智能的一个分支。与诸多技术一样,生成式人工智能也是一把双刃剑,它可能被恶意使用。大家目前最担心的事情之一,是生成式人工智能带来的大量伪造信息。
以前我们主要做深度伪造检测,现在我们关心的问题更宽泛一点,包括了各种人工智能生成内容的检测。现在的GPT越来越接近人类,可以被用来写各种各样的文案,包括钓鱼邮件、虚假新闻等,同时还冲击到了教育领域,比如现在学生的作业,你无法断定是不是机器写的。所以一个很热门的问题是,怎样检测这些文本是机器写的还是人写的。
目前,国内外有很多团队在研究深度合成内容检测,但这些检测方法主要是被动检测,仍存在局限。如果能在部署模型阶段,植入一些标识,去做主动检测,这个可能更重要。比如,能不能在生成内容里嵌入水印,同时不影响内容的质量?目前关于人工智能生成内容水印的研究,已经变成了新的热点。
其实我们国家已经针对深度合成应用密集出台了相关规定,要求深度合成服务提供者应当对生成内容进行显著标记。
给文本做标识是比较难的,但是这个问题确实很重要。我们注意到,OpenAI等公司也在做自己的水印技术用于机器文本鉴别。类似这样的研究,正在变成新的热点。
NBD:一方面,研发者可以添加水印,另一方面,一些懂技术的人,也可以去掉水印。由此可见,深度伪造与其检测,就像一个对抗的循环,您怎么看待这一现象呢?
张卫明:确实存在这样的情况,所有的安全都是一攻一防,安全技术都有它的边界。所有的攻防,包括深度合成以及检测的攻防,都是在动态博弈中发展,并不会说最终PK出一个结局来。
因为安全这个领域,有一个共识,就是没有绝对的安全,安全永远是相对的。你做各种各样的安全防护,理论上来讲,它都有可能被攻击。一旦有新的攻击出现,那就要求我们去想新的补救措施。安全理念的提升,也是在这种对抗过程中动态地发展。
前面提到国家出台相关规定明确要求去打显著标识,其实那个是指可见的水印。可见水印有一个很大的问题,容易被人刻意擦除。相对来说,不可见水印有一定的优越性,一个方面是它不可见,别人不知道这里面有水印;另一方面,即使知道有水印,也不知道水印在什么位置。
目前做水印技术,会把信息藏在非常鲁棒的特征空间上,来抵抗各种各样的擦除。当然它是有边界的,比如说给视频擦水印的人,他如果不计损失的话,可以把视频质量变得很低,确实可能把水印擦掉。所以这里面其实是一个博弈。
预防AI诈骗关键在于知道深度伪造技术的存在
NBD:我们了解到,您的团队开发了一种开源的AI换脸工具,旨在科普这种技术,提升大家对深度合成的认知水平。但有人认为,一旦这种深度伪造技术普及之后,民众可能对通话安全有所担忧。对此,您怎么看?
张卫明:我是这么理解的,大家目前最担心的,其实是用生成式人工智能(比如深度合成)去实施各种各样的诈骗。这个确实影响很大,但恰恰是因为这样,更应该去做这样的科普、开源,让老百姓真的体验到现在的技术发展到什么程度了。
以前我们说有图有真相、有视频有真相。现在要有一个意识,就是有图可能也不是真相,有实时的视频,可能也不是真相。
对普通百姓来说,关键是要知道这种深度伪造技术的存在。因为做防护其实是万变不离其宗的,不见得需要很高级的技术,防传统电信诈骗的手段就很有效。比如一个视频通话里面,对方跟你聊到了金钱的事情,提到了转账,你可能就要提高警觉了,这可能是一个假视频,需要多方核实一下。
所以,不知道有这个技术的存在才是可怕的。目前已经有一些爱好者制作了很多样例,你会看到各种社交平台出现了大量这种技术的创造性应用。大众看到后就会理解,现在的技术可以做到什么程度。这在某种意义上是教育了更多的人,让他们有这个认知。我们无法阻止技术的进步,让民众了解AI技术的发展现状,才能更好地预防其潜在危害。
NBD:您认为生成式人工智能未来最适合的应用场景有哪些?
张卫明:未来可能有很多正向的且比较有趣的应用,最典型的是在娱乐领域,比如游戏、影视剧等等。
其实我在课堂上,曾经让一年级本科生去畅想未来这个技术可能会怎么应用。与社会层面更多关注这一技术的风险所不同的是,年轻学生们认为它的正面想象空间更大。
以影视娱乐为例,他们畅想可以去换脸体验演大片。或者在角色扮演型游戏中,通过实时换脸、VR等技术,能以自己的声音、自己的脸进入到游戏里去。
还有就是心理治疗。如果能用这些技术,重现一个人或一个场景的话,可能对心理治疗会很有帮助。再有就是在线教育。通过换脸等技术,让自己特别喜欢的老师,给自己讲各种课,让自己“听得进去”更“学得进去”。
还有一个应用是新时代的红色文化宣传、科学家精神宣传。我们最近做了一个尝试,发布了数字人钱学森,逼真度很高。钱老数字人发布以后,好评如潮,很多媒体都报道并转载了相关视频。这也让我意识到,做科学家精神宣传、红色文化传承,用这种方式可能更适合现在的年轻人,会达到很好的宣传效果,是一个很好的正向应用。
(文章来源:每日经济新闻)
标签:
抢先读
- 【环球时快讯】先正达IPO获上交所上市委会议通过
- 焦点观察:亲子关系证明是什么 亲子关系证明是什么 独生子女
- 全球快播:农药经营许可证办理流程指南_农药许可证办理流程
- 微资讯!力勤资源(02245.HK):RKEF项目一期八条生产线均成功投产
- 速看:2023中国产业转移发展对接活动(河南)将举行
- 39.4℃!北京热到破纪录,明天高温继续 当前速递
- 环球精选!快讯!华为申请蓝鲸应用商城商标
- 【聚看点】携带空间穿越七十年代txt下载_携带空间穿越七十年代
- 空调一直运转不停怎么回事(空调一直运转不停怎么回事儿)
- 爆款《羊了个羊》被质疑不算游戏?制作人回应:不算游戏更好|独家焦点
- 宁德时代等在珠海成立新基建公司_全球看热讯
- 环球今头条!汕头举办防台防汛应急演练
- 世界观焦点:便民服务在行动丨苏仙区卜里坪街道全力推广“湘易办”APP
- 五一去哪里旅游比较好(五一去哪玩最好?)
- 社区电商转型新探索,10分钟送货到家 “蜂团到家”华东区战略发布会在杭召开
- 热点在线丨国资物企开始割肉了
- 多地网约车新增按下“暂停键”,灵活就业者还能入场吗?
- 简阳市举办艾滋病抗病毒治疗管理培训会
- 服务群众面对面 守护市民钱袋子 西安鄠邑区开展防范非法集资集中宣传
- “动如脱兔”的哈弗赤兔如何打动人心
- 找工作遭遇性别歧视怎么办?上海妇女权益保障条例全方位保护“她”,一起来了解!
- 天天热文:40.9°C!避暑山庄是今天全国最热的地方
- 《当代贵州》封面专题:链上产业|环球热议
- 2018有哪些二本会降分比较大云南投档|全球视讯
- 巧手童趣致敬父爱_世界时快讯
- 今日热议:威海市环翠区税务局:税企共建展交流 便民春风促发展
- 焦点快报!贵州新增4亿涉酒项目;国家级葡萄园区验收;北京中糖酒类公司股权转让
- 小米电视看电视直播怎么操作_小米电视看电视直播
- 试车日志|静态体验大众朗逸新锐 10万元燃油车再添一员
- 卓创资讯:白羽肉鸡6-7月市场行情或延续季节性下滑走势
- 因投顾业务存在营销误导性陈述等问题,联储证券重庆东湖南路证券营业部被责令改正
- 应用心理学可以考哪些大学 应用心理学学校排名
- 湖北交投京珠运营公司开展安全宣传咨询日活动 世界播资讯
- 公主岭市举办“安全宣传咨询日”活动
- 阳光保险前5月保费收入582.15亿元_新动态
- 环球微动态丨万业企业: 上海万业企业股份有限公司第十一届董事会临时会议决议公告
- 阅文亮相北京图博会网络出版馆,海外出版机构合作超60家
- 下一轮油价调整将如何走势 降价可能性颇具吸引力 播资讯
- 时讯:高合HiPhi Y将在7月15日上市 560km续航预计售36.9万起
- 香港房屋委员会:2023/24年度可供编配公屋单位约24100个-天天热点
- 拆迁补偿款会计分录
- 助学贷款可以一次性还清吗?|天天简讯
- 五部门:积极支持符合条件的国家种业阵型企业、农业科技创新企业上市、挂牌融资和再融资
- 钓鱼切线什么意思 当前播报
- 广州多部门联合开展庆祝“世界海员日”活动 环球热点评
- 黑河:爱辉区瑷珲镇大棚养蚂蚱 “蹦”出致富路 当前通讯
- 百度与中国石化签署战略合作框架协议,将在 AI 等领域深化合作_天天快资讯
- 每日快讯!鹤城区开展防范非法集资宣传进社区文艺巡演
- 环球时讯:新疆:高温后又有雨 气象部门提示谨防混合型洪水
- 期待亚运会期间杭州再聚首!2023“亚运时间”境外主流媒体杭州行活动精彩落幕|天天快讯
- 中国女排6连胜!逆转取胜蔡斌居功至伟:三代功勋同框成风景线
- 当前讯息:四川的人间“天堂”,从成都开车4小时,景美如仙境,人还特别少
- 全球新消息丨武汉江滩举行防汛演练:新式防洪挡板上岗,一小时完成闸口封堵
- 彼氏是什么意思日语_bishi是什么意思|天天速读
- 5月份新建住房价格环比整体涨幅回落
- 为啥在江西看病医药费越来越低?答案来了!
- 数字孪生的时代序曲,自主可控GIS在沉淀升华中成韵
- dnf装备属性指令怎么输入_dnf装备指令怎么输入
- 焦点讯息:北京:职称评审可“一产一策”“一链一策”
- 天天热文:八旬老人丢失眼镜,南京公交车队助力找回
- COO被迫离职,日产汽车再度面临治理危机? 观速讯
- * 光通信板块探底回升,博创科技大涨超10%
- 环球速讯:A股首单房企重组项目注册生效 招商蛇口收购南油、前海实业获批
- 交通运输部:高标准高质量推进雄安新区交通建设 深入推进京津冀交通运输一体化发展
- 环球热点评!乙类乙管后首个暑运旺季,民航局预计火过疫情前的2019年
- 北京土拍:保利发展以36.2亿元竞得石景山广宁村2015等地块 溢价率12.07% 全球即时看
- 贝弗利谈保罗或被裁:很不幸 我不在乎是否与他不和 他会找到下家 全球热门
- 环球短讯!惠民县多措并举提升企业获得用水满意度
- 世界要闻:发放购房补贴、下调贷款利率、优化公积金支持...大连发布多项新政!
- 环球热推荐:济南2023年5月份本外币贷款余额同比增长12.1%
- 焦点资讯:山核桃怎么剥壳_山核桃怎么剥
- 探访北京高考阅卷现场,1520名教师6个评卷点评阅——
- 【独家】建平县气象局发布雷雨大风蓝色预警【Ⅳ级/一般】【2023-06-16】
- 环球今头条!第十五届海峡论坛·两岸特色乡镇交流对接暨乡村振兴合作论坛举办
- 热点在线丨新业态有新担当!“温小爱”融入基层治理“大格局”
- 长三角一周招商要闻|上海将打造4个万亿级产业集群,首批公募REITs扩募项目上市(6.10-6.16) 当前热议
- 17家音乐公司起诉推特:涉版权侵权 要求赔偿2.5亿美元
- 珍贵的水-节约用水作文900字 全球视点
- 林允和林允儿是一个人吗知乎_林允和林允儿是一个人吗 世界热闻
- 联想创新开放日:超20个AI+行业解决方案规模化落地
- 迈光科技拟将持有的八达顺的24.13%股份以49.09万的价格转让给严文清、陈祖军
- 广西2023年前5月RCEP国家进资0.6亿美元 同比增长70.58% 环球今头条
- 权威发布!你关心的桂林小升初有关问题,解答来了!|环球短讯
- 当前最新:【世界说】研究发现:美国印第安寄宿学校儿童长大后承受着更严重的健康问题 患癌风险高四倍
- 永和智控: 关于2022年限制性股票激励计划第一个解除限售期解除限售条件成就的公告
- 武昌国控集团:携手铺就“放心路”,答好共建“民生答卷” 全球快资讯
- 天天新消息丨悦心健康:预计上半年净利润1.55亿元-1.7亿元 上年同期亏损860.88万元
- 股票成交密集区是什么意思 要注意什么
- 佳能eos77d和80d对比_佳能77d与80d买哪个好
- 国际首例半乳糖-涎酸贮积症脐带血移植患儿今日在济南成功出仓|当前关注
- 全球今头条!今天,开幕!
- 预售破500万,朱一龙的狠,倪妮的狂,《消失的她》想不封神都难
- 2023淮安中考成绩什么时候公布
- 大华股份(002236)6月16日14点39分触及涨停板|每日时讯
- 梅威瑟冲突升级!嘴炮加入战团,女儿遭人身威胁! 世界今日报
- 民航局:预计今年暑运每日有近195万旅客通过航空出行-每日讯息
- 天天新动态:市场监管总局:不得向未满8周岁未成年人销售盲盒
- 交通运输部就统筹做好暑期汛期安全生产和防汛救灾工作进行部署-新华网
- 618新消费③丨此热彼冷:OTA的618“双城记”
- 观速讯丨正通汽车(01728)完成配售1.23亿股