易百教程

14、什么是 TensorFlow 可服务对象? 解释一下 TensorFlow Serving。

客户端使用一些对象来执行计算,这些对象被称为 Servables。servable 的大小是灵活的。单个 servable 可能包含从查找表到单个模型到推理模型元组的任何内容。这些可服务对象是 TensorFlow Serving 中的核心基本单元。

TensorFlow Serving 专为生产环境而设计。它是一种用于机器学习模型的灵活、高性能的服务系统。TensorFlow Serving 可轻松部署新算法和实验,同时保持相同的服务器架构和 API。TensorFlow Serving 提供与 TensorFlow 模型的开箱即用集成。它还可以轻松扩展以在需要时为其他类型的模型和数据提供服务。