Tensorflow 新一轮迭代路线图:更好的 XLA 编译和分布式计算

百家 作者:InfoQ 2022-11-20 14:11:24

作者 | Claudio Masolo
译者 | 张卫滨
策划 | 丁晓昀  

谷歌宣布TensorFlow 开发的下一轮迭代。TensorFlow 是由谷歌开发并在七年前开源的机器学习平台,现在是 GitHub 上 star 数量最多的项目之一。另外一个方案是Pytorch,它是由 Facebook 开发和开源的 ML 平台。未来几个TensorFlow 发布版本的开发路线图将基于四个支柱,分别是快捷与扩展性、机器学习应用、部署就绪和简单性。

对于快捷和可扩展的支柱来说,开发工作将主要关注 XLA 编译,因为谷歌认为 XLA 将成为深度学习编译器的行业标准。其目标是使模型训练和推理工作流程在 CPU 和 GPU 上更快地执行。开发也将关注分布式计算方面:借助DTensor,模型将能够在多个设备上进行训练,以解锁未来超大型模型的训练和部署。此外,性能也很重要,所以谷歌将对算法性能的优化进行投资,如 mixed-precision 和 reduced-precision 计算,以提高在 GPU 和 TPU 上的速度。

对于机器学习应用支柱,谷歌将投资 KerasCV 和 KerasNLP 包,这些包是为应用 CV 和 NLP 使用场景设计的,包括大量的预训练模型。该支柱也将以开发者资源为基础:对于流行的和可应用的机器学习场景添加更多的代码样例、指南和文档,以降低机器学习的进入门槛。

对于部署就绪支柱,努力的方向主要在于更便利地将模型导出到移动端、边缘端、服务后端以及 JavaScript 中。尤其是,将模型导出到 TFLite 和 TF.js 将会更易于调用。C++ 原生 API 正处于开发阶段,它会更易于部署使用 JAX 和 TensorFlow Serving 开发的模型,并使用 TFlite 和 TF.js 部署到移动端和 web 中。

NumPy API 和更便利的调试体验将是第四个支柱的核心特征,即简单性。Tensorflow 将采用 NumPy API 的数值标准,以使其更加一致和易于理解。Tensorflow 还会实现更好的调试器功能,以最大限度地减少开发人员解决问题的时间。

谷歌承诺,新的 Tensorflow 版本将 100% 向后兼容,这样,工程师可以立即采用最新的版本,而不用担心现有的代码库会出现问题。

Tensorflow 新功能的预览版计划在 2023 年第二季度推出,生产版本计划在同一年推出。关于路线图和相关更新的更多信息可以参阅 官方博客。

原文链接:

Google’s Tensorflow Roadmap Includes Better XLA Compilation and Distributed Computing(https://www.infoq.com/news/2022/10/google-tensorflow-roadmap/)

相关阅读:

使用 TensorFlow.NET 构建神经网络(https://www.infoq.cn/article/8OADODV0EZZ72TMrDvTz)

声明:本文为InfoQ翻译,未经许可禁止转载。

点击底部阅读原文访问 InfoQ 官网,获取更多精彩内容!

今日好文推荐

推特员工大规模辞职,马斯克被“问候”;知情者:暴雪欲“白嫖”网易、索要中国百万玩家数据;腾讯 10 多万员工平均月薪超 8 万|Q 资讯

24 年的开源项目社区爆发严重分歧:有人不愿接受偏爱“企业利益”的 Linux 基金会赞助

马斯克称Twitter将专注“硬核软件工程”:要么加班,要么走人

GitHub 前 CTO:全面微服务是最大的架构错误!网友:这不是刚改完 GitHub 吗

关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接