ELL,即 Embedded Learning Library,嵌入式学习库,是微软研究院发布的全新的项目——将人工智能嵌入一个如同面包屑大小的处理器中。 ELL 将帮助开发人员构建学习模型和部署嵌入式平台,旨将传统需要大规模云计算的 AI 技术小型化 。它允许你将嵌入式学习管道构建并部署到嵌入式平台上,如 Raspberry Pis、Arduinos、micro...
特别是ONNX标准的流行,让我觉得有必要自己开发一个微型推理框架,不为别的,就只为能在低端嵌入式设备上运行各种开源的预训练模型,且不要对模型动刀,况且训练模型,吃力不讨好,还不如用现成的,本来,好用的深度学习模型,就那么些,大家基本都差不多。 说了这么多,再说点技术架构:...