Tengine携手百度飞桨，助力AI落地更简单

近日, OPEN AI LAB(开放智能)面向AIoT场景推出的边缘AI计算框架Tengine成功完成了百度飞桨2.x系列版本的适配。后续双方将共同发力,携手降低企业人工智能应用开发门槛、推动人工智能产业落地,助力AI落地更简单。

面对万亿级的AIoT市场,行业落地必然离不开场景。如何以场景为驱动、数据为核心、芯片为骨架、平台工具为依托加速行业智能化进程是关键。

在过去的4年中,开放智能打造了一套开放的边缘AI计算框架Tengine,实现最广泛的芯片层适配,为开发者及合作伙伴提供芯片级易用性及业务加速,为行业落地提供边缘计算模式下的基础支撑,帮助开发者真正解决产业化的全栈工作难题,整体提升体系化生产力,让 AI场景落地不再困难重重。作为开放的边缘 AI计算框架,Tengine不仅能帮助开发者在开发过程中进一步提升算法移植和部署效能;从长期看,它也为打破 AIoT产业壁垒,快速整合上下游以实现 AIoT产业的落地和应用,为丰富全球 AI开源生态提供了重要的推动力。

Tengine携手百度飞桨,让算法落地部署更简单

OPEN AI LAB的边缘AI计算框架Tengine可适配百度飞桨2.x的模型格式,方便开发者使用。本次适配了卷积、池化、激活、全连接、归一化等常用算子,同时打通了PaddleClas/PaddleDetection中的MobileNetV2分类网络和YOLOv3目标检测网络。

Tengine在NPU侧部署有成熟的工具,支持使用飞桨训练的模型通过Tengine直接部署,发挥兩家的长处,降低部署难度;让用户可以直接加载飞桨产业级模型库里面的模型,提供更简单的开发算法和应用,从而达到实际落地的需求,从而扩大其训练框架部署的生态,助力其算法开发能力更便捷,算法落地部署更简单。

本次双方的合作，意味着Tengine已经完成对百度飞桨的适配，进一步扩大了双方在AI产业的生态。

Tengine Framework框架图

如何走顺深度学习的最后一公里

5月20日,深度学习技术及应用国家工程实验室与百度联合主办的WAVE SUMMIT 2021深度学习开发者峰会在北京召开。Tengine开源项目技术负责人圈圈虫受邀参加了《如何走顺深度学习的最后一公里》圆桌对话。

圈圈虫在對談中表示,深度学习最后一公里在端侧面临最大的困境是不同训练框架导出的模型在差异化的边缘计算设备上部署难以解耦,以及边缘计算设备低比特量化策略层出不穷、精度难以统一评估的问题。OPEN AI LAB的Tengine项目通过增强垮硬件平台的移植性,解耦前端模型与后端硬件,支持计算图自动切分、混合精度,增强异构计算单元使用的灵活性等方式去解决這樣的問題,并提出了软件厂商应该结合开源硬件设备,推广普及1-2种低比特量化方案的倡议。

Tengine作为第三方部署平台,一直持有开放、合作的精神,与飞桨及多家训练框架合作,希望能成为国内训练框架技术互通的桥梁。

关于OPEN AI LAB Tengine

Tengine是OPEN AI LAB推出的边缘AI计算框架,致力于解决AIoT产业链碎片化问题,加速AI产业化落地。Tengine为了解决AIoT应用落地问题,重点关注嵌入式设备上的边缘AI计算推理,为海量AIoT应用和设备提供高性能AI推理的技术赋能。

一方面可以通过异构计算技术同时调用CPU、GPU、DSP、NPU等不同计算单元来完成AI网络计算,另一方面,它支持TensorFlow、Caffe、MXNet、PyTorch、MegEngine、DarkNet、ONNX、ncnn等业内主流框架,简化并加速面向场景的AI算法在嵌入式边缘设备上快速迁移,以及实际应用部署落地,提升十倍基础开发的效率。

OPEN AI LAB是国际上为数不多的通过ONNX官方认证的战略合作伙伴之一。在CSDN发布的《中国 AI应用开发者报告》上,被评为“开发者最喜爱的本土 AI软件工具”。

OPEN AI LAB将在“Powered by Tengine”生态伙伴合作项目平台上,与更多同道一起,共同构建AIoT产业生态,助力产业智能化的变革,赋能万物,万物智能!

关于百度飞桨(PaddlePaddle)

飞桨(PaddlePaddle)以百度多年的深度学习技术研究和业务应用为基础,是中国首个开源开放、技术领先、功能完备的产业级深度学习平台。百度飞桨已经凝聚了320万开发者,累计commits超过16万次,以PR或ISSUE提交形式的开源贡献者超过了5000位,其中有120位优秀的开发者通过层层筛选成为了百度飞桨开发者技术专家(PPDE)。产业应用方面,飞桨服务了12万家企业,平台上拥有36万个模型。秉持开源开放、技术创新,产学研用通力融合,飞桨在产业应用、人才培养、开源社区三方面实现了生态的全面繁荣。

关于OPEN AI LAB

OPEN AI LAB(开放智能)是一家专注边缘智能计算及应用的高科技企业,提供边缘AI计算框架与场景化能力生产力工具,简化应用部署,致力于打造中国最易用的人工智能边缘开发部署平台。未来将用十年时间构建起中国最领先的边缘计算生态体系,助力中国成千上万的企业高效、低门槛地实现智能化升级转型。