英特尔发布深度学习推理工具OpenVINO 2023.0 提升部署效率
6月5日消息,在OpenVINO™工具套件发布五周年之际,英特尔开展OpenVINO™ DevCon中国系列工作坊2023活动,旨在通过每月一次的工作坊,持续助力开发者系统学习、稳步提升。基于此,英特尔成功举办了首期以“焕然五周年•瞰见新特性”为主题的OpenVINO™ DevCon 2023系列活动,并在此次活动上发布了功能更加强大的全新英特尔®OpenVINO™ 2023.0版本,以期在更大程度上帮助AI开发者简化工作流程,提升部署效率。
作为一款深度学习推理工具,OpenVINO™已帮助数十万开发者大幅提升了AI推理性能,使其仅凭借几行代码即可实现高性能“一次编写,任意部署”,并自动为开发者选择最佳硬件配置,提升开发效率。由于OpenVINO™能够使训练好的神经网络模型在不同硬件平台上进行高效且准确的推理,这项技术已被广泛应用于教育、零售、医疗和工业等各个领域,为行业客户提供了高效的深度学习推理技术,带来了巨大价值。例如,在试卷批改场景中,学生和老师在铺有点码试卷上书写的笔迹可通过智慧笔进行实时搜集,随后分别被上传到云端服务器上。云端渲染服务器会将笔迹渲染成图像,并进一步通过目标检测模型和OCR模型检测识别,将书写内容转换为文本,最后将识别结果与题库进行综合整理,生成作业报告。老师可以基于作业报告,针对学生进行个性化教学。在此过程中,通过 OpenVINO™精度感知而量化出的模型推理速度相比于浮点模型有十几倍的提升,且量化模型的召回率和准确率与浮点模型相当,在满足精度要求的情况下,达到了推理实时性的要求。
自2018年首发OpenVINO™工具套件以来,英特尔密切关注市场需求,着眼未来发展趋势,持续迭代更新,将其对模型的支持从计算机视觉扩展到自然语言处理,不断赋予其更高性能,使其更加易用、更加灵活、更加开放和更加全面。英特尔基于此次活动发布的OpenVINO™ 2023.0版本在以往的基础上,新增了以下优势:
●更多的集成,最大限度减少代码变更:OpenVINO™ 2023.0使从训练模型转移到部署的过程变得更加轻松。在优化模型时,开发者无需离线转换TensorFlow模型,而是可以自动进行。开发者可采用标准的TensorFlow模型,并将其直接加载到OpenVINO™ Runtime或OpenVINO™ Model Server中。当需要最大性能时,仍然鼓励离线转换为OpenVINO™格式。
●更广泛的模型支持:OpenVINO™ 2023.0具备更广泛的生成式AI模型(CLIP BLIP、Stable Diffusion 2.0等)、文本处理模型(GPT、Transformer模型等)及其他关键模型(Detectron2、PaddleSlim、RNN-T等)的支持。开发者在利用GPU(CPU于2022年启用)时不再需要更改为静态输入,这使其在编码方面具有更大灵活性。与此同时,神经网络压缩框架(NNCF)成为量化工具的一种选择。通过压缩模型中的数据,可以更轻松地实现大幅模型性能改进。
●出色的可移植性和性能:CPU设备插件现在在英特尔®第12代酷睿处理器及以上版本上提供线程调度,开发者可根据应用程序的优先级选择在E核、P核或两者上运行推理,根据需要优化性能或节能。此外,无论开发者使用哪种插件,OpenVINO™都将默认提供最佳性能格式。同时,OpenVINO™ 2023.0还通过更高效的模型加载/编译改进了GPU上的模型缓存。
除了针对OpenVINO™的持续更新迭代,英特尔还于近期发布了“英特尔® Developer Cloud for the Edge”平台公众测试版。该平台可满足开发者访问英特尔最新架构CPU、GPU、VPU和FPGA等硬件资源的需要,无需配置即可调用英特尔最新OpenVINO™工具套件等其他软件资源。同时,该平台还支持容器化和裸机应用部署,可确保开发者获得真实性能数据,加速人工智能方案开发、验证与部署落地过程,提高应用开发效率和产品选型优化。“英特尔® Developer Cloud for the Edge”平台将持续优化中国区用户体验,引入本地参考实现和相关边缘设备,扩建基础服务硬件以支撑更多用户访问,满足不同用户对测试设备多样性的需求。
标签: 英特尔
抢先读
- 西北工业大学出版社与施普林格·自然集团战略合作签约仪式在北京举行_当前滚动
- 焦点简讯:看图学习·乡村之美丨让农民就地过上现代文明生活
- 蓝色协议如何联机
- 售29.80万元起 蔚来ET5 旅行版正式上市
- 协议投资总额达225.4亿元!常州这些项目签约、开工! 焦点短讯
- 城乡居民养老保险怎么交(城乡居民养老保险怎么交划算)_全球今日讯
- 阴阳师上美影联动皮肤上线 一期暴涨二期值不值得买? 天天最新
- 昆明市第十五幼儿园开展“主题活动与区域活动融合的游戏设计与组织”教研活动-每日头条
- 安家费最低50万!中原食品实验室将重点引进这四类人才_看点
- 2023呼和浩特赛罕区第八幼儿园现场材料审核通知
- 天天热头条丨2023工业互联网大会专家谈 张倩:守好工业互联网安全“主阵地”
- 全球动态:郑州中国移动2023暑期实习招聘信息
- 2023洛阳自产瓜果直销点设置最新消息 洛阳瓜果批发市场|最新资讯
- 全球观察:cad怎么导出pdf格式黑白(cad怎么导出pdf格式)
- 世界微头条丨为汽车消费充“电” 为乡村振兴添“绿”!2023年新能源汽车下乡活动启动
- 环球播报:炸沙丁鱼干粉好还是湿粉好?
- 环球实时:第三届“北京市公益创投大赛”启动,申报主体须无不良记录|环球微头条
- 民间借贷多久结案起诉
- 速读:我国经济运行保持恢复态势 重点在六方面发力
- oppoa57t高清语音怎么开通(oppoa57t) 重点聚焦
- 电脑系统分盘怎么分?电脑系统分盘怎么合并 要闻速递
- 热议:网贷债务逾期被起诉怎么办?网贷为啥只催收不起诉
- 望穿秋水是什么动物_望穿秋水描述什么动物
- 环球滚动:厦门方特端午节晚上有营业吗?
- 全球播报:三角形符号图案大全(三角形符号)
- 蒙城三义镇:织密秸秆禁烧安全网
- 【环球时快讯】湾里管理局中考考点设置及周边交通提示2023
- 今亮点!未成年人游戏陪玩该不该管?该如何管?
- 国乒26岁悍将击败达科,单打8人冲击8强!混双抗韩,男女双迎内战
- 从u盘拷贝的3dmax怎么安装(3dmax怎么安装)
- 全球观点:海蟑螂能吃吗?蟑螂会靠近熟睡的人吗?
- 江阴学费补贴怎么领?
- 福特与通用称美国汽车需求迎来提升 环球实时
- * 创业板指涨幅扩大至1% 世界速看料
- 观察:美国“俄亥俄”级核潜艇驶入韩国港口
- 速讯:我国首艘海陆一体化生产运营的智能“海上油气加工厂”在南通交付
- 2023年浙江金华中考作文题目点评解析(四)
- 天天观点:有调整!事关丽水人的医保
- 11岁的小女孩生日礼物
- 38只个股5日量比超过5倍
- 焦点快播:DEHN参与主编的耐高压绝缘引下线(HVI)产品标准 GB/Z 33588.8—2022 发布实施
- 全球微头条丨全民健身,振兴突破!辽宁省第十四届运动会今晚盛大启幕
- 世界热头条丨板块轮动是什么意思?股票板块轮动快的原因是什么?
- 淘宝秒杀在哪(淘宝秒杀怎么能秒到)|全球今亮点
- 每日快讯!金华时光整形医院医生技术实力、口碑点评一览!
- 时讯:青藏线失联近一个月的货车司机遇难,遗体在附近河道被发现
- 每日资讯:KK一夏 端午粽香特惠
- (高质量发展调研行)连云港港:开港90年 开通全球86条集装箱航线
- 能链智电于翔:储能技术推动新能源充电服务升级转型
- 天津开设AP的学校有哪些?-天天热闻
- 智能园区智能制造,台达“智慧永续产业园区”COMPUTEX 2023盛大登场
- 环球动态:液冷概念股震荡走高,飞龙股份拉升封板
- 货币供应量是什么意思?货币供应量增加会导致什么? 世界视点
- 美国疾控中心:枪支暴力推波助澜 青少年谋杀率飙升 天天观焦点
- 环球精选!民泰银行柯桥支行:“蔬”通“配送”路,“鲜”至客户心
- 农药经营许可证办理流程指南_农药许可证办理流程-世界最新
- 【天天时快讯】涉及燃气安全 预防溺水 反诈防骗……2023江苏体育安全生产月“安全宣传咨询日”活动举行
- 全球聚焦:省市联合 共同练兵
- 与张本美和生日隔了一天,球迷给陈梦送祝福,王楚钦更换了新鞋
- 大盘延续反弹,通信ETF大涨逾5%,云计算、人工智能相关ETF涨超4%
- 天天播报:蔡瑁怎么死的(蔡瑁死因)
- 全球快看:肃宁县人民检察院开展防范非法集资和传销宣传活动
- 2023父亲节期间天津海河游船有什么活动?
- 北京拟制定养老服务单用途预付卡管理实施细则 天天热闻
- 天天热点!什么食物里有欧米伽三?
- 山有舍民宿酒店管理公司董事长王湘南:选择“小而美”,用艺术的手法改造乡村废弃老宅
- 今日热搜:专访乌兹别克斯坦第一副议长:中国的人权理念更值得借鉴
- 世界快消息!简单百宝箱下载不了是怎么回事?简单百宝箱哪个版本还能用?
- 天天报道:方华富:黄金多头反攻,周五看涨1972/1985!
- 2018年淄博市大学有哪些在全国排名排名名上什么
- 天天看热讯:风暴中央的肿瘤电场治疗:没做错,有反思,盼前景
- 大众汽车调整战略 重点转向高销量车型|天天新视野
- 哪些情况需要拔除智齿-焦点精选
- “泥石流”中的一股清流?国产武侠游戏将何去何从|即时
- 天天头条:孤岛惊魂6急速车王怎么解锁
- 【全球独家】口袋妖怪燃之智雪拉比捕捉位置一览
- 坦桑尼亚马丁巴工厂的天然气产量增加一倍多
- 全球观热点:脸都不要了吗?迈克尔马龙对没投票给约基奇的媒体成员进行嘲讽
- oppoa55手机锁屏振动怎么关闭?oppoA55怎么可以将铃声放大?
- 湘潭将实施人工增雨 助力大气污染防治-全球快播报
- 青龙管业(002457)6月16日主力资金净卖出339.35万元
- 电动自行车如何增便利除隐患,交警划重点了!
- 一碗小锅米线,藏着味蕾深处,放不下的味道!
- 蓝色协议坐骑怎么获得?蓝色协议坐骑获取攻略
- 中雨!大雨!暴雨在路上!陕西发布最新预警,今晚……|快消息
- 翔安今秋将新开办12所学校
- 看热讯:冰箱密封条可以拆洗吗?冰箱密封条发霉怎么清洗?
- 欧盟:2027 年起所有电子产品需采用“易于更换的电池设计” 当前动态
- 极狐森林版上市,北汽新能源场景化造车再添筹码 世界观焦点
- 格力电器:将继续保持对海外品牌建设的长期投入 全球微动态
- 拆迁补偿标准一般是什么|今日聚焦
- 最美大众成绝唱!CC将停产_环球微速讯
- 淮盐文化研究会(关于淮盐文化研究会介绍)
- 每日快看:Alphabet宣布Google Domains过渡期,Squarespace接手业务和资产
- 阿里国际站:今年5月义乌自营出口订单量同比增长38.2%
- 天天资讯:汉字找茬王找出12个包包通关攻略分享
- 黄剑足球艺术作品助力国际邀请赛
- 焦点滚动:新皮肤情报 | 静夜挟芳,邀月对弈
- 当前讯息:权威钠离子电池测评结果揭晓在即 近二十家企业送样
- 全球高温!1.5摄氏度升温极限已被触及 未来数年恐持续炎热