今日关注:AI换脸技术应用边界在哪里?专家:留“技术水印”
浙江杭州检察机关曝光了一个“女神群”,群里发送的淫秽视频有不少是犯罪嫌疑人使用“AI换脸”技术合成的,还可以根据顾客需要“私人定制”;河北高阳警方破获了一起制作、贩卖、传播淫秽物品牟利案,犯罪嫌疑人通过社交群自学“AI换脸”技术,用明星形象制作淫秽视频在网上以每10分钟300元的价格售卖……近期,有关“AI换脸”的案件和新闻引发社会关注和担忧。
随着人工智能的发展,“AI换脸”技术门槛逐渐降低,应用场景越来越多,在满足人们猎奇、美颜、社交等需求的同时,因“AI换脸”引发的争议乃至违法犯罪行为屡见不鲜,其背后隐藏的黑灰产业链也逐渐浮出水面。
(资料图片)
“AI换脸”存在哪些乱象?用明星形象“AI换脸”是否合法?技术应用的边界在哪里?围绕这些问题,记者进行了调查采访。
“能教教我这个怎么拍吗?”
“视频左下角点击进入有全套教程。”
“岂不是想亲谁就亲谁?”
“学会我的教程就可以。”
这是一名短视频平台博主与粉丝的对话。这位号称特效师的博主,发布了多个影视剧亲热画面的短视频,并把男主角“换”成了自己,引来不少流量。面对粉丝的讨教,博主称提供“手机版影视合拍教程”,售价99.99元。
类似出售“AI换脸”技术的博主,以及提供“AI换脸”技术的App和小程序不在少数。《法治日报》记者近日调查发现,目前在网络平台上,教授“AI换脸”技术、提供视频定制“换脸”服务乃至售卖明星“换脸”的淫秽视频等已经成为一门生意。
受访专家认为,技术发展是不可阻挡的趋势,技术应用也往往超前于风险应对手段的产生,要遏制“AI换脸”等人工智能领域的深度合成技术应用乱象,还得监管部门、平台、网民多方形成合力,多管齐下。此外,针对技术研究与应用的法律规制和执行效能还需进一步完善。
相关应用下载便捷
提供肖像即可定制
在电商平台,记者以“人脸替换”“deepfake”“专业定制换脸”等作为关键词搜索看到,不少商家宣称可以提供影视剧“换脸”、“AI换脸”等服务,售价基本在10元至200元之间。
关于“AI换脸”的用途,电商平台上某商家这样表述:“您可以成为《倚天屠龙记》中的张无忌,也可以成为《陈情令》中的蓝忘机,抑或成为《红楼梦》中的林黛玉……您只需录制一个短视频发给客服,这边就可以为您合成同款视频,为您的青春,增添一份风采。”此项服务,领券购买只需23.8元起。
在手机应用商城,记者以“AI换脸”作为关键词搜索看到,多款“AI换脸”App映入眼帘。在某社交平台上,记者搜索“换脸”,也看到了不少关于“AI换脸”的小程序。
记者下载了热度最高的一款App。该App有多款“换脸”模板可供选择,包括AI绘画、影视剧、气质美女、男士专属等,一键上传照片便可生成“换脸”视频。
如果想在这些App和小程序上使用“AI换脸”功能,则需要付费。以记者试用的这款App为例,周会员17元、年会员398元。记者购买了17元的周会员,在登记手机号码并表示同意遵守相关合成规定后,导入视频素材,按“点击制作”和“开始制作”键,就可以将视频素材中的人脸进行互换。
一些卖家不仅提供“AI换脸”服务,还提供“换脸”技术教学服务,进一步降低这类技术的应用门槛。
在某电商平台,记者联系了一个经营“AI换脸”业务的商家,在其“智能换脸”的商品详情面有这样一段描述:“你可以花费最低的成本,来优化工作简历的展示……让你初出江湖就有大佬一般丰厚的资历,在就业的竞争对手中一骑绝尘。”
据该商家客服介绍,想要“换脸”,只需准备两部分素材,即包含面部信息的人脸素材以及提供身体、背景的内容素材,商家操作后,最终“两者结合形成成品”。至于价格,商家将根据工作量和难度进行最终定价,参考价格是1分钟以内60元,超过1分钟则根据区间按秒计算,如3分钟以上每秒0.9元、10分钟以上每秒0.7元。
同时,该商家还为“有心”学习的客户提供“AI换脸”教学套餐:一份自学套餐180元、辅导套餐360元、教学套餐则需720元。根据消费者的需求,商家提供相应等级和价格的教学服务。
教学内容百元到手
技术传播或涉侵权
“AI换脸”技术教学服务具体包括哪些?记者花99.99元在那名号称特效师的博主处购买了相关套餐,共7节课,每节课程时长在1分9秒至3分45秒,课程总时长在20分钟以内,核心课程包括“擦除视频中的人物、如何运用蒙版、如何抠出人物合成”,这些课程均为手机屏幕录制。
据授课者介绍,制作一条“换脸”视频,需要用到多个手机端应用,但并不复杂——从影视剧片段中截取一帧人物画面,用消除笔把想要替换的人物涂抹掉,将照片保存后便可进行剪辑。不过,在正式剪辑前还需要再准备一段素材,那就是本人在绿幕中录制好相关片段中人物的动作、台词。
经过这一系列操作,特效师可以代替周星驰与《赌侠》中的女主角张敏欲语还休;成为《狂飙》中的徐江与高启强在公路飙戏;取代周润发成为《英雄本色》中的小马哥;在一条19秒的影视剧片段中,甚至取代郭京飞被迪丽热巴亲了一口。
购买完课程,特效师邀请记者加入课程群聊,与其宣称的上万人参与学习的盛况不同,群里加上群主只有18人。群内无人发言,只显示一位普通群友被管理员“禁言30天”。
特效师告诉记者,课程学习完就可以去制作了。电脑端可以制作更加丰富的“换脸”视频,不过价格比手机端贵4倍。
记者注意到,评论区有用户提出疑问:“换脸”技术教学服务是否涉嫌侵权?博主不置可否。
对此,武汉大学法学院副教授申晨说:“通过网络平台卖课、社交平台教学等形式传播‘AI换脸’技术,如果技术传播者明显知道这个技术很可能被用于制作淫秽物品,这样的情境是可以判断其构成帮助侵权的。”
申晨进一步分析,民法典第1169条规定了教唆、帮助他人实施侵权行为的,承担连带侵权责任。相较于帮助侵权,教唆侵权的主观恶性更严重,如果一些人利用网络平台主动诱导他人学习“AI换脸”技术去实施侵权,可以认定为教唆侵权行为。
换脸背后暗藏风险
应用边界亟待厘清
还有一个问题是:擅自使用他人肖像制作“换脸”视频,背后暗藏什么法律风险和侵权纠纷?
记者就此咨询前述特效师博主,对方回复称“视频‘换脸’不涉及侵权,因为影视剧都是公开的,如果侵权,那么那些影视剪辑和影视解说都侵权了”,并称自己从业以来没有遇到过相关纠纷。
然而,受访专家给出的法律分析正好相反。
中国传媒大学文化产业管理学院法律系主任郑宁告诉记者,擅自使用他人肖像制作“换脸”视频,可能会涉嫌构成侵犯他人肖像权、名誉权等。无论是“换脸”App的经营者还是普通网友,凡未经影视剧著作权人的授权和许可,擅自将“换脸”后的影视片段通过网络提供给公众,使公众可以在其个人选定的时间和地点进行在线播放甚至下载等,都可能涉嫌侵害影视剧著作权人的信息网络传播权。同时,如果“换脸”后对原影视剧片段的主旨进行歪曲篡改,最常见的形式就是恶搞,还有可能侵害影视剧著作权人的保护作品完整权等。
郑宁认为,如果“AI换脸”技术被不法分子利用,被用于诈骗、色情、盗窃、恶搞、非法逐利等,则会产生极大危害,不仅侵害他人合法权益,还可能危害社会公共安全。
郑宁介绍,目前没有相关行业规范明确“AI换脸”的特定应用场合,但规定了“AI换脸”行为应当遵守的边界。《互联网信息服务深度合成管理规定》(以下简称《规定》)明确,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,并要求深度合成服务提供者应当建立健全辟谣机制。这为深度合成服务的技术应用划定了“底线”和“红线”。
“《规定》出台,表明有关部门已经在有意识地规制包括‘AI换脸’在内的人工智能深度合成技术,但该文件并未针对人脸更换技术的应用范围、目的进行限制。”在申晨看来,“AI换脸”涉及人的肖像,其相对于其他个人信息更具特殊性,也更为敏感。“AI换脸”技术会导致对个人身份信息识别的混淆,继而导致信息传播秩序混乱。所以,需要对这种潜在的危害进行使用范围的限制。
那么,“AI换脸”技术的应用边界在哪里?
申晨认为,可以从两个应用场景考虑:专业的影视制作,在获得演员授权的前提下,可以合法应用该技术;网民娱乐性的使用,例如熟人之间做一些“换脸”视频进行娱乐等。
“这就涉及如何理解其中的授权问题,根据相关规定,‘AI换脸’需要获得对方的肖像权授权。肖像权授权形式可以有两种理解:第一种,只要不反对你使用我的肖像,就完成了知情同意的过程;第二种,必须由肖像本人实施明示的意思表示,才能得到制作‘AI换脸’视频的授权。”申晨说,对授权形式的两种理解可能要做一个价值判断,通过主动同意的方式获得“AI换脸”的权限,虽然有利于保护肖像权,但不太符合社会交往中的观念,但若采用第一种理解,可能会带来事后规制的成本,因此“AI换脸”的应用边界还需要通过社会实践进一步摸索。
建立安全评估系统
完善监管防范体系
针对“AI换脸”乱象,近年来,国家网信办、各地网警、检察机关等协调配合,加大整治打击力度,办理了不少民事和刑事案件,出台了多项政策法规加强治理。
我国刑法、民法典以及国家有关部门出台的《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等多部法律法规及政策规定,均涉及深度合成应用的规范、侵权责任等内容。
4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,对生成式人工智能产业给出较为详尽的规定,其中包括定义、准入资格、责任义务和处罚措施等。
“尤其是《规定》对防范深度合成技术所带来的社会危害和法律风险,迈出了非常重要的一步,实现了从无到有,让深度合成技术的应用有了专门的监督体系。”申晨说,不过一些具体措施还有待细化,比如《规定》要求的安全评估体系怎么做,谁来做评估,评估的标准是什么?这些需要结合产业发展、技术背景和专业知识进行细化。
在郑宁看来,我国缺乏对人工智能的总体立法以及人工智能伦理的行业规范,虽然目前的相关法律对于“AI换脸”可能侵犯隐私权、名誉权、肖像权、个人信息、著作权,以及对网络安全、数据安全的危害也有相应规定,网信办的相关规定对于算法、深度合成技术、安全评估也有规范,但是如何在AI产业创新以及国家安全、个人权益保护之间实现平衡,如何划定各方主体的权利义务责任边界,仍有一些模糊不清的地方。
“‘AI换脸’技术侵犯的权益十分敏感,经由网络传播速度快、范围大、影响广,让人防不胜防,仅通过事后的责任追究很难达到理想的规制效果。因此,应该从技术开发者、网络服务提供者、用户三个层面,设计一套独特的监管体系。”申晨说。
申晨建议,对“AI换脸”技术的开发者以及相应的科技公司建立严格的备案手续和安全评估系统。目前“AI换脸”技术还比较粗糙,但通过优化迭代,未来肯定会高效且逼真,因此一定要合理限制传播范围。未来的监管体系要控制住技术源头,可以尝试要求技术开发者在技术中预留一个“技术水印”,即用户如果应用该技术制作视频,视频文件中会留下痕迹,那么网络平台可以迅速识别出该视频是使用“AI换脸”技术进行制作的。
对于网络服务平台,申晨建议对使用上传视频服务的用户信息进行审核,即要把握AI合成视频制作者的身份,以便在后期产生法律风险时确定责任人。平台还要通过技术方法审核视频内容,识别其中是否有人工合成的要素,并进行标注。同时,平台在接到人工合成视频存在法律风险的通知时,需根据民法典规定的网络服务提供者义务,建立一套完善的应对机制。此外,用户在使用网络平台服务的过程中,如果发现有“AI换脸”视频涉嫌存在法律风险,一定要有举报意识。
“当上述三个环节都建立起监管机制,再结合对违法者法律责任的追究,将会形成一个较为有效的、应对‘AI换脸’技术法律风险的防范体系。”申晨说。
曾参与电子商务法立法工作的浙江垦丁律师事务所主任张延来提出,治理“AI换脸”技术滥用现象,除了法律途径,还需引入社会力量尤其是商业力量,就像计算机病毒需要引入杀毒软件来遏制一样。不过,更应该关注技术本身所带来的有利效果,对于滥用行为可以依法打击,不必过于恐惧技术本身,而是应该学习和拥抱新技术。
“任何技术都是双刃剑,还是取决于谁来用、怎么用、用了违法怎么追责。‘AI换脸’在一些场景具有积极意义,比如影视制作、广告等,不应全盘否定,但是也要对其风险有充分认识。”郑宁总结说。
记者 赵丽 实习生 胡淼
标签:
抢先读
- 【环球新要闻】海底捞主要是海鲜嘛?海底捞为什么要点半份菜?
- 失业补助金申请通过之后多久会到账?失业补助金申请完成多久到账?
- 水晶发债对应什么股票 晶科转债什么时候开盘交易?|环球快播报
- 全球热文:梅西看儿子海报眼睛瞪大了!梅西的孩子有几个?
- 股票业绩在哪里看?股票净利润增长率多少合适?
- 你敢不敢晒出,自己的资产和自己年收入呢?
- 基金回撤率高好还是低好?基金回撤率多少算优秀?
- 西虹市首富结局是什么?西虹市首富是哪一年的电影?
- 中国银行结息表示的是什么意思?银行卡结息30元需多少存款?
- 天天通讯!最强蜗牛无限空间2怎么打?最强蜗牛无限空间2怎么触发?
- 天天实时:我国法院民事起诉流程多久立案?民事诉讼立案工作基本程序有哪些?
- 汉字找茬王找亩字攻略是什么?汉字找茬王亩找出20个字攻略是什么?
- 全球今头条!正宗糖蒜怎么腌制?腌糖蒜用干蒜吗?
- 白灼汁是什么调料?白灼汁可以直接拌菜吗?|重点聚焦
- 如何吸收存款?六大国有银行在吸收存款上呈现出的地域特点?-环球即时
- 基金亏了50%了死守能回来本金吗?基金放三年不理的后果
- 微粒贷免息券在哪领取?微粒贷免息券有效期多长?
- 焦点简讯:甲流会出现哪些症状?甲流的潜伏期是多久?
- 民事诉讼多长时间立案?民事诉讼立案到审判结果要多久?
- 国债都有什么种类?国债回购和逆回购区别是什么?_世界资讯
- 12306火车没赶上可以退票吗?12306过时间了还能退票吗?_天天新消息
- 红千层和串钱柳的区别在哪里?红千层什么季节修剪比较好看?|看热讯
- 蓝黑军团是什么意思? 蓝黑球迷什么意思?|当前头条
- 每日热讯!美债指的是什么?美债收益率大涨会带来什么影响?
- 滚动:苹果手机不能拍照是什么原因?苹果手机拍照声音怎么关闭?
- 天天播报:球迷冲进场抱梅西被抬走!冲进场抱梅西球迷不到18岁?
- 新手怎么注册自媒体账号?如何从零开始做自媒体?
- 动态焦点:财政政策和货币政策的区别是什么? 货币政策一般性工具包括什么?
- 天天热讯:海岛奇兵资源岛木材如何获取?海岛奇兵木头太多怎么办?
- 【焦点热闻】利息减免协商还款怎么申请?信用卡逾期要求还全款怎么办?
- 怎样用电脑打电话?电脑录屏怎么录?|每日视点
- 【世界报资讯】个人消费贷逾期影响房贷吗?贷了消费贷还能按揭买房吗?
- 银行定投基金怎样操作 银行基金适合定投吗?_世界观速讯
- 焦点速讯:公积金封存不到半年怎么取出来?外地公积金封存后怎么提取公积金?
- 什么是安全生产标准化? 安全生产作业标准化的内容有哪些? 环球微速讯
- 银川旅游景点有哪些?银川是几线城市?
- 当前滚动:空调不制冷的原因有哪些?空调外机转几分钟就停是什么原因?
- 幽门螺旋杆菌有传染性吗?幽门螺旋杆菌的传染途径有哪些?
- 补办电话卡可以在网上补办吗_补办电话卡
- 端午节的端字是什么意思?端午节门上插的是什么植物?
- 飞线充电是什么意思?一楼可以室外充电吗?_环球观点
- 微信聊天怎么查看同款表情包来源?如何查找微信表情包添加来源?
- 信邦制药:中药饮片产品有一定调价 公司有准备存货应对市场价格波动 环球资讯
- 前沿热点:cs全球攻势是csgo吗?cs2什么时候正式上线?
- 【焦点热闻】电脑1t内存什么概念?1tb是多大内存?
- 使用减水剂的注意事项有哪些?减水剂在混凝土中的作用是什么?
- 白檀仙人掌一年开几次花?白檀仙人掌含义和寓意是什么呢?
- 圆通速递被责令改正 内幕信息知情人管理违规等|天天最资讯
- 可转债新规交易规则是什么? 可转债新规涨跌幅限制是多少?
- 10万存定期还是买理财?存三年定期与买理财哪个好? 环球微动态
- 每日快播:减水剂的作用原理是什么?减水剂多少钱一吨?
- 全球热点评!AITO问界M5智驾版开始全国交付
- 什么叫次贷危机?次贷危机爆发的原因
- 快报:2023端午节天津滨海科技馆祝福好物手作活动详情
- 泰姆瑞尔随想:锻莫(终)奥杜因 环球消息
- 宝泰隆股票代码是多少?宝泰隆股票行情怎么样?_全球聚看点
- 中国贸促会:中国海事仲裁参与全球治理取得新突破 环球热讯
- 滴滴今年月均抽成13% 去年发放空驶补偿及垫付4.4亿-每日短讯
- 环球今亮点!腾达建设11.27亿竞得台州路桥区低密宅地 溢价率1.08%
- 互动平台热点集要
- 杭州第19届亚运会火种在杭州良渚古城遗址公园大莫角山成功采集-全球热消息
- 上海会客厅|90后体彩女店主:在下届世界杯前再开一个店
- 环球信息:重庆社会保障卡查询个人账户查询_重庆社会保障卡查询
- 天天微头条丨犯罪记录都包含哪些内容?检察院不起诉取保候审如何解除?
- 广州市花都全球自动变速箱有限公司招聘工程师+技术员6人-焦点关注
- 【时快讯】虎牙楚河个人资料_虎牙楚河真人照片
- 焦点热议:国际最新研究:全球海藻养殖或难以捕获足够碳实现气候目标
- 选择题又来了, 中概这次是黄金坑 or 埋人坑? 全球快消息
- 环球简讯:中国电信《国风墨韵》节目精彩亮相杭州亚运会倒计时100天主题活动
- 广东一高校回应干部在车内发生不正当男女关系被抓现行:撤职降级,启动师德师风处理程序 焦点讯息
- 6月16日上海泰邦天然橡胶报价平稳|独家焦点
- 泰州姜堰:“清仓见底”齐行动
- 5月辽宁CPI环比下降0.1%-世界时讯
- 6月16日济南遵朋化工磷酸二铵价格动态
- 贝达药业:恩沙替尼境外申报工作正在加紧准备中
- 6月16日河北中昌化肥硫酸铵价格动态
- 最新:五角大楼泄密案嫌疑人被起诉 或最高面临60年监禁
- 天天信息:苏翊鸣保送推荐清华大学
- 透过数据看经济“跃动”
- 今热点:国家发改委:热点消费较快增长,经济向好趋势依然稳固
- 民航局:从源头上有效防范空飘物出现 强化发生空飘物事件后的应急处置_环球快播报
- 路桥区横街镇618美食文旅消费券怎么用?附使用规则|环球最新
- 【独家】县域经济简介,了解县级经济的特点和发展方向
- 6月16日湖南地区电解锰市场价格
- 中科院:自主研制新一代人工智能大模型问世
- 分数乘分数的计算方法_分数乘分数的意义
- 要闻:6月16日国内现货铅市场价格上涨
- 不得向未满8周岁未成年人销售盲盒 盲盒经营新规看过来
- 视讯!新规来了!经营主体这样重塑信用
- “爱心车票 情暖安农”——安徽农业大学为2023届毕业生发放离校车费补助
- 固定收益类投资是收益固定吗?固定收益类投资包括什么?
- 王者荣耀镜的技能(你都清楚吗) 信息
- 杭州亚运会的理念是什么?杭州亚运会一共有多少个项目?
- 全球新消息丨《崩坏:星穹铁道》收入冠军 米哈游拓策略市场
- 【当前独家】仲恺沥林荔枝文化节来了!周六一起邂逅舌尖上的美味
- 1月开什么花?哪些花冬天开得最好? 天天滚动
- 新时代 新征程 新伟业丨濮阳化工企业拿到“金融礼包”
- ipadair5和苹果手机怎么共享?iPad9怎么和手机连蓝牙?
- 电位器可以应用到哪些领域?电位器是滑动变阻器吗?
- 杭州亚运会是哪天?六个国家不参加亚运会名单 今日热文