穿上“隐身衣”就识别不了?安博会这项技术引发AI安全关注
12月26日,在第十八届中国国际社会公共安全博览会上,瑞莱智慧展位的一件“隐身衣”引发观众关注。
一般情况下,参观者在经过摄像头前会被识别出来,但穿上一件特制T恤,衣服上印刷了特定的图案,能够让识别算法出错、捕捉不到目标,人一旦穿上便可以实现“隐身”。这是人工智能安全漏洞的一个侧面。
图:观众在瑞莱智慧展台体验AI“隐身衣”
AI新漏洞:躲避追踪、冒充他人
尽管人脸识别、目标检测系统等被广泛应用于公共安全、城市交通等领域,但安全隐患也不容忽视。
以“隐身衣”为例,瑞莱智慧副总裁唐家渝解释道,目标检测系统大多基于数据驱动的深度学习算法,存在不可靠和不可解释等局限性,即便是开发者也难以理解其内在的运行逻辑,这一结构性漏洞可能导致系统遭受恶意攻击。衣服上看似奇怪的图案是针对算法漏洞生成的“对抗样本”图案,能够误导识别算法使其出错。
除了在运行环节对输入数据添加“扰动”,在最开始的模型设计环节,通过在训练数据中添加“污染数据”进行“投毒”,导致模型被埋藏后门,再通过预先设定的触发器激发后门,模型也将输出事先设定的错误结果。
图:算法漏洞原理
何谓数据“投毒”?“假设我们在训练一个识别花的分类模型时,所有花的训练图像左下角都有紫色方块,机器学习可能把紫色方块学习成花的重要类别特征。下一次出现一张其他类别的图像,只有左下角带有紫色方块,它就会被错误识别为花。那故意在图像上添加紫色方块的过程就是投毒,当然实际的投毒过程,图像特征会更加隐蔽。”唐家渝说。
算法漏洞的威胁面在不断延展,对城市治理产生影响。例如,不法分子恶意攻击视频监控、安检闸机等智能安防设备,躲避追踪、冒充他人、破坏公共安全;交通领域,自动驾驶汽车可能被干扰“致盲”,引发安全事故等。
瑞莱智慧也联手相关部门,测试了国内外一些主要的人脸识别开放平台,都存在被攻击风险,比如,通过对A照片的面部加了一些噪声,人眼看起来没有任何问题,人脸识别系统就会把它识别成B的照片。“在物理世界,一些特定生成的对抗样本图像可以用于破解多种多样的人脸识别系统,比如安防门禁、考勤系统和手机刷脸解锁系统等”。
建立“被动”和“主动”防御机制
“我们希望,人工智能系统本身是稳健可靠的,数据是可控可信的,决策逻辑具有可解释性,决策过程是公平公正的。”唐家渝说,以及发生人工智能安全事件,可以实现追溯,技术的应用在合法合规的框架下。
瑞莱智慧提出了兼顾“被动”和“主动”的防御机制。唐家渝解释道,被动防御是为AI应用部署静态的安全能力,防范已知安全风险,比如对外部访问、输入数据、行为决策等进行检测,为算法模型部署加固防护组件等,提升系统抵御攻击的能力。
主动防御则是为补充被动式防御的局限,引入和强化人工智能安全团队力量,以动态防御对未知威胁进行风险预判,构建自适应、自生长的安全能力。
在展台,瑞莱智慧展示了人工智能防火墙系统,通过集成多项对抗防御算法,能够有效检测和抵御针对人工智能系统的新型攻击风险,实现人脸识别、目标检测等计算机视觉场景的加固升级,可用于安防门禁、人脸身份核验、人脸解锁等场景的安全防护,大幅提升人工智能系统的安全性。
安全的本质是攻防较量,对抗攻击是为了更好的防御。唐家渝介绍,在与电网的合作中,针对荒郊野外,企业会用图像识别系统的算法,识别是否有危害高压输电线的场景,如吊车可能会打到高压线,或明火会影响高压线的安全,但这套系统同样存在算法漏洞,通过瑞莱智慧的人工智能安全平台,可以自动化高效检测系统漏洞,同时进行防御加固。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
标签:
抢先读
- 猴年贺岁普通纪念币如何分辨真假 猴年贺岁普通纪念币怎么分真假?
- 猴年贺岁普通纪念币如何分辨真假 猴年贺岁普通纪念币怎么分真假? 环球讯息
- 全球观焦点:猴年贺岁普通纪念币如何分辨真假 猴年贺岁普通纪念币怎么分真假?
- 猴年贺岁普通纪念币如何分辨真假 猴年贺岁普通纪念币怎么分真假?
- 世界聚焦:建设银行卡怎么申请 建设银行卡申请方法介绍
- 建设银行卡怎么申请 建设银行卡申请方法介绍
- 安信证券:餐饮稳步复苏 供应链相关企业收入端弹性可期
- 国信证券煤炭行业2023年展望:国内煤炭需求可期 围绕三条主线布局_当前速讯
- 12月2日生意社异丁醛基准价为6233.33元/吨
- 世界视点!12月2日生意社二甘醇基准价为6100.00元/吨
- 大宗商品数据每日题材(2022年12月2日)
- 12月2日生意社新戊二醇基准价为8966.67元/吨
- 每日看点!12月2日生意社DOTP基准价为9875.00元/吨
- 12月2日生意社维生素E基准价为83.00元/公斤:全球快讯
- 12月2日生意社氢氟酸(出口)基准价为14150.00元/吨
- 全球快报:12月1日CBOT玉米期货下跌
- 12月2日生意社聚羧酸减水剂单体基准价为8133.33元/吨
- 12月1日进口棉报价上涨
- 12月2日生意社环己烷基准价为7633.33元/吨 全球报资讯
- 12月2日生意社白板纸基准价为4632.33元/吨:天天时快讯
- 12月2日生意社醋酸丁酯基准价为7175.00元/吨
- 12月2日生意社N-甲基吡咯烷酮基准价为22333.33元/吨
- 热点!12月1日LME金属钴报价
- 全球最新:12月2日生意社涤棉纱基准价为17340.00元/吨
- 焦点关注:12月2日生意社MIBK基准价为13333.33元/吨
- 12月2日生意社PMMA基准价为16050.00元/吨 热点评
- 12月2日生意社EVA基准价为16366.67元/吨-全球播报
- 12月2日生意社硼酸基准价为8150.00元/吨
- 每日热讯!12月2日生意社片碱基准价为4783.33元/吨
- 12月2日生意社维生素C基准价为27.33元/公斤 天天视讯
- 12月2日生意社DBP基准价为9666.67元/吨
- 12月1日MB钴报价_精彩看点
- 全球信息:12月1日CBOT小麦期货下跌
- 12月2日生意社维生素A基准价为106.50元/公斤
- 天天日报丨12月1日LME基本金属注销仓单
- 12月2日山东港口焦炭市场价格微跌
- 12月2日生意社电解锰基准价为17550.00元/吨
- 全球微动态丨12月2日生意社四氢呋喃基准价为13762.50元/吨
- 12月2日生意社煤焦油基准价为6585.00元/吨
- 我市这2个景区拟评定为2022年国家AAA级旅游景区!:世界实时
- 12月2日生意社碳酸二甲酯基准价为5633.33元/吨 当前关注
- 12月2日生意社POM基准价为13933.33元/吨
- 12月2日生意社氯化钾(进口)基准价为3883.33元/吨
- 焦点热议:12月1日LME基本金属库存统计
- 中金:当压制因素好转 消费复苏具备较大潜在弹性
- 每日速读!剑指3万亿!工信部透露 能源电子重磅文件近期发布 机构高关注度概念股出炉
- 当前滚动:硅片降价 光伏产业链价格压力开始缓解
- 12月2日新股提示:康比特等申购 格利尔等上市 聚和材料公布中签号 欧克科技公布中签率-最新快讯
- 12月2日华东地区对二甲苯装置动态 焦点简讯
- 【时快讯】12月1日上海地区天然橡胶部分行情小幅上调
- 12月2日西北地区对二甲苯装置动态_每日快报
- 12月2日国内顺丁橡胶供应商出厂价暂稳
- 【全球时快讯】12月2日华北地区对二甲苯装置动态
- 12月2日华南地区对二甲苯装置动态
- 每日快看:【诚信建设】公示中!我市33户企业入选四川省2020—2021年度省级“守合同重信用”企业
- 12月1日国际原油期货涨跌互现-全球热资讯
- 全球热议:北京126个司法行政审批事项实现全程网办 字节跳动等36家民企开展公司律师试点
- 深圳:最大限度保障正常的生产经营
- 南太湖保险怎么报销 南太湖健康保如何报销
- 异地交通事故回本地怎么定损 异地交通事故回本地怎样定损
- 个人公积金怎么取现|天天热头条
- 前10个月我国服务进出口总额增17.2%
- 热点!第三者责任险包括不计免赔险吗
- 非营运货车保险怎么买 非营车如何购买保险 焦点快播
- 十省市开展商业养老金试点 商业养老金业务有什么特点?
- 哈尔滨冬季“房展会”拟12月中旬举行:补贴税费 发消费券
- 观点:个人养老金保险产品背后:争相出首单 系统相当于新建一套
- 12月1日国内增塑剂产业链相关产品价格汇总
- 12月1日辽宁省鸡蛋价格下行
- 12月1日汇丰石化硫磺报价上调
- 12月1日上海期货市场锌锭报价
- 12月1日抚顺石化PE装置动态
- 世界信息:12月1日吉林石化PE装置动态
- 新动态:12月1日山东地区甲醇企业出厂报价下调
- 12月1日24度棕榈油国内各港口交货价格下跌
- 12月1日鲁增化工冰晶石报价平稳|每日资讯
- 全国率先建设区域性中药饮片生产信息化追溯体系_焦点速讯
- 12月1日伦敦LME锌锭库存行情
- 【全球速看料】12月1日山东地区硫磺行情观望整理
- 12月1日中燃大连地区燃料油报价下调:当前热讯
- 焦点热议:12月1日天瑞晶粒冰晶石价格延续平稳
- 每日视点!12月1日上海期货交易所锌锭仓单统计
- 12月1日江苏新海硫磺报价平稳
- 每日快报!12月1日泽润能源冰晶石报价延续平稳
- 12月1日山东地区部分环己酮厂家报价持稳
- 全球速读:12月1日氟化盐产业链商品相关价格表
- 12月1日东北地区甲醇市场行情盘整
- 12月1日山东省鸡蛋价格下跌:全球看热讯
- 12月1日国内环己酮市场行情弱势走低:天天观察
- 聚焦:12月1日常熟鸿嘉氟冰晶石价格平稳
- 【环球热闻】12月1日华东地区TDI市场偏弱整理
- 世界速看:12月1日河北地区甲醇市场走势偏弱
- 环球微速讯:12月1日马来西亚棕榈12月船期FOB报价
- 12月1日西南地区甲醇市场行情盘整
- 12月1日焦作民利冰晶石报价动态|环球观焦点
- 中国连锁经营协会提出“余量实物”定义 推动零售业减少食物浪费
- 环球今亮点!12月1日华北地区聚合MDI市场行情整理观望
- 12月1日东明石化硫磺报价平稳
- 模式、技术、服务创新 多地电网企业促新能源消纳利用
- 热推荐:商务部回应美《通胀削减法》:美方做法严重扰乱国际贸易投资