在 2023 年 PyTorch 大会上,部署一个深受巨匠体贴的模民间推理下场患上到了很好的处置 ,会上宣告了一个用于在边缘以及挪移配置装备部署上实现 AI 推理的新工处置妄想 :ExecuTorch ,而且仍是具开经用开源的,而增长这一钻研的源Ma已 ,正是端侧 Meta AI 与 PyTorch 基金会。 ExecuTorch 地址:https://github.com/pytorch/executorch 学习文档 :https://pytorch.org/executorch/stable/index.html 随着 ExecuTorch 的推理开源,预示着 AI 运用挨次在配置装备部署受骗地运行、高效而需衔接到效率器或者云成为可能。部署咱们可能将 ExecuTorch 清晰成一个 PyTorch 平台,模民间其能提供根基配置装备部署来运行 PyTorch 挨次,新工从 AR/VR 可衣着配置装备部署到尺度的具开经用 iOS 以及 Android 配置装备部署的挪移部署。 ExecuTorch 最大优势是可移植性 ,可能在挪移以及嵌入式配置装备部署上运行。不光如斯,ExecuTorch 还可能后退开拓职员的使命功能。 据清晰 ,Meta 曾经履历证了这项技术 |