欢迎光临散文网 会员登陆 & 注册

解锁AI推理部署新体验:极市部署套件EVDeploy正式开启公测!

2023-07-07 11:07 作者:极市平台  | 我要投稿

开发者基于实际工业场景完成算法模型训练后,进行推理部署面临诸多挑战,例如:不知道如何进行部署、所用的模型和学习框架不一定对实际生产部署有良好的支持、需要适配广泛的硬件环境、在复杂的场景下确保算法性能等。

近日,极市平台针对工业级项目落地难题推出部署套件EVDeploy ,旨在简化模型推理步骤,使开发人员专注于业务逻辑代码的编写,加快算法封装速度,让算法落地更简单。


极市部署套件

EVDeploy(极市部署套件)是面向开发者的产业级AI推理部署工具,具备快速集成、跨硬件适配、支持海量模型结构等特点。EVDeploy 支持主流 SOTA 及海量自定义网络结构,支持检测、分割、分类、OCR等多种视觉任务场景。开发者可通过 EVDeploy 提供的通用接口,快速完成AI能力集成,专注AI算法逻辑及工程化业务开发,极大提升AI算法开发效率。

今日,极市部署套件EVDeploy正式开启公测!欢迎各位CVer来平台体验,并提供宝贵反馈~

公测时间:2023年7月6-26日

扫码入群获取指南
抢先体验EVDeploy

为表示感谢,我们将给完成公测任务的开发者可根据任务完成情况获得小极玩偶、CV技术书籍、机械键盘、京东卡等礼品以及平台算力卡时。

根据具体任务完成情况,开发者可领取相应奖品,具体细则见下文。


EVDeploy 公测要求

1.开发者首先在指定榜单项目完成模型开发并测试出分,解锁算法开发模块;

2.使用EVDeploy完成C++ EVSDK算法封装,提交算法后SDK线上规范性测试通过;

3.输出EVDeploy使用反馈并提交给极小新(微信ID:cvmart8)。


公测指定榜单项目及奖励标准:

https://docs.qq.com/sheet/DTWRaTEpZVFVkcHds?tab=BB08J2


参与公测的开发者按照达标时间先后获取相应奖励,每个榜单项目有10个奖励名额 >>>


EVDeploy使用反馈指引

1、如果你是平台老开发者,在平台上完成过封装,请从以下几个方面进行反馈:

(1)对比以往开发流程进行反馈;

(2)对比你使用过的其他部署套件进行反馈;

(3)对比原生TensorRT/Atlas CANN/OpenVINO推理框架进行反馈;

(4)问题/建议/期望。


2、如果你是首次在极市平台上进行算法开发封装,请从以下几个方面进行反馈:

(1)在C++ EVSDK中完成模型推理开发时你遇到什么问题?

(2)使用EVDeploy对你来说是否简化了封装流程?如有,解决了哪些让你不用套件进行封装时可能遇到的比较棘手的问题?

(3)当前使用EVDeploy对你来说比较困难/比较花时间的是什么?

(4)对比使用过的其他部署套件进行反馈;

(5)问题/建议/期望。


EVDeploy 如何使用

极市平台上完成榜单项目模型开发得出成绩分即可解锁算法开发模块,开发者需要在AI开发工作台-算法开发模块按照C++EVSDK规范完成算法封装。环境中完成EVDeploy安装后,即可在EVSDK中进行调用。


EVDeploy安装

下载EVDeploy的release版, git clone

https://gitee.com/cvmart/evdeploy_release, 执行安装脚本:

cd EVDeploy_release

bash install.sh

*无须编译,相关库会安装到指定路径,可在sdk中直接使用。


EVDeploy部署套件使用指引:

https://gitee.com/cvmart/evdeploy_release/blob/master/README.md


如果在使用部署套件过程有疑问或者困难,可以在按照规范提交在线咨询,平台技术人员将进行排查提供支持,在线答疑入口:

https://docs.qq.com/sheet/DTWpKREtyc3loc2JO?tab=BB08J2

长按扫描二维码
加入EVDeploy交流群

相关资源

极市平台算法线上EVSDK封装指南(C++)[内含Demo]:

https://www.cvmart.net/community/detail/6903


视觉AI开发学习地图——从算法开发到落地部署全流程学习资料

https://www.cvmart.net/community/detail/7177


算法开发全流程教学视频合辑

https://space.bilibili.com/85300886/channel/collectiondetail?sid=1072831


极市平台7月冲榜活动进行中,完成算法开发挑战封装奖学金!

长按扫码添加小助手

获取奖励信息&提交反馈



解锁AI推理部署新体验:极市部署套件EVDeploy正式开启公测!的评论 (共 条)

分享到微博请遵守国家法律