什么是端智能?为什么要用端智能?端智能应用挑战在哪?
11 月 9 日下午 2 点半,支付宝体验科技沙龙第 3 期带大家走进蚂蚁端智能技术,从技术能力和应用场景两个维度,与大家分享蚂蚁在端智能领域的进展与思考。
欢迎预约直播:
“支付宝体验科技”微信视频号预约直播
关注“支付宝体验科技”B 站直播间:

什么是端智能
如果要用一句话简单表达,我觉得就是让端具备思考决策能力。移动互联网时代,常见的业务模式是端负责内容呈现,云端进行推荐决策,而端智能则是在端侧进行实时感知、计算、决策和干预,通过让端具备机器学习能力,带来业务效果提升。
为什么要用端智能
涉及到端智能相关的文章都避免不了要说一说这块,不免俗,我们也得提。由于端具有天然的分布式且能实时感知用户的操作和时空行为,在端上进行 AI 方案的部署执行,在实时性、个性化、云端资源消耗和安全隐私上有明显的优势。
端智能应用挑战
这么看端智能还是一个不错的技术领域,那为啥它没像云侧智能那样快速普及和发展呢?抛开应用场景、人员投入等因素,单看技术落地本身,端智能技术相对于云智能技术还面临着特定的挑战:
包大小挑战,在端上进行 AI 工程技术,就涉及占用 APP 的安装包大小、存储资源,这对端计算引擎瘦身、端模型大小、端模型压缩、动态发布等能力都提出了较高的要求。
性能挑战,由于使用移动设备的计算资源,要兼顾用户体验与计算效率的平衡,需要针对移动端设备 CPU/GPU、内存、耗电、指令集、线程调度等进行持续优化。
适配挑战,面对设备、系统版本的碎片化,端智能技术需要进行大量适配,确保运行时的稳定性与可用性。
此外,端智能与云智能本身就不是割裂的技术体系,不是非此即彼,而是相辅相成、互为补充。随着技术的深入发展,如何让两者更好的协同,将是未来更大的挑战。
我们的分享
蚂蚁端智能技术从 2017 年“扫福”活动的提出到现在深入到营销互动、IoT、安全风控等场景的方方面面,逐步搭建起适用于蚂蚁业务场景的端智能基础设施,沉淀了诸如 xNN 推理引擎、MobileAIR 端计算容器、千 X 千模等技术模块。 本次沙龙我们将从技术能力和应用场景两个维度,与大家分享蚂蚁在端智能领域的进展与思考。 重磅内容提前预告:
xNN 轻量化建模向可伸缩建模演进的思考
MobileAIR 计算引擎、特征引擎与决策引擎核心设计思路
从单一模型部署到千 x 千模的工程实施方案
OCR&视觉互动领域算法建模思路
财富 tab 端云协同决策应用实践
详细议程
