当前位置:首页 > 生肖 > 正文内容

打雷下雨是什么生肖(PyTorch 更新1.5版本 TorchServe正式上线)

2024-09-20 12:51:02生肖216

在业界,如果说哪两个深度学习框架最受关注,那无非是以TensorFlow为代表的静态深度学习框架,与PyTorch为代表的动态框架。

而近日,PyTorch正式推出了1.5版本,新版本中备受关注的便是这个新增的大规模生产级工具库 TorchServe。TorchServe由Facebook与 AWS 还合作共同推出,并成为了PyTorch开源项目的一部分。

TorchServe是一个PyTorch模型服务函式库,并且整合TorchElastic和Kubernetes,让分散式训练更加自动化,以帮助使用者能够快速大规模部署经过训练的PyTorch模型。

此外torch_xla现已能在PyTorch 1.5 版本中进行使用,torch_xla通过XLA线性代数编译器在Cloud TPU和Cloud TPU Pod上加速PyTorch深度学习框架,使PyTorch能良好地在Cloud TPU上运算。

TorchServe除了提供低延迟的预测API之外,还为物件侦测与文字分类等常用应用程序,嵌入预设的处理程序(Handler),此外,TorchServe的功能还包括了多模型服务、用于A/B测试的模型版本控制、日志纪录、监控指标,以及为应用程序整合创建的RESTful端点等。使用这个函式库时,没有任何对云端平台或环境的要求。现在已经释出实验版本。

值得注意的一点是,PyTorch 1.5,将不再支持Python 2(特别是2.7版本),未来对Python的支持将仅限于Python 3(Python 3.5、3.6、3.7和3.8)。

对于PyTorch 1.5.0,我们将不再支持Python 2,特别是2.7版。今后,对Python的支持将仅限于Python 3,特别是Python 3.5、3.6、3.7和3.8(在PyTorch 1.4.0中首次启用)。