《架构师》2017年4月
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

通信协议(gRPC)

TensorFlow Serving提供了用于从模型调用预测的gRPC接口。gRPC是一个开源的高性能远程过程调用(remote procedure call, RPC)框架,它在HTTP/2上运行。与HTTP/1.1相比,HTTP/2包含一些有趣的增强,比如它对请求复用、双向流和通过二进制传输的支持,而不是文本。

默认情况下,gRPC使用Protocol Buffers (Protobuf)作为其信息交换格式。Protocol Buffers是Google的开源项目,用于在高效的二进制格式下序列化结构化数据。它是强类型,这使它不容易出错。数据结构在.proto文件中指定,然后可以以各种语言(包括Python, Java和C++)将其编译为gRPC请求类。这是我第一次使用gRPC,我很想知道它与其他API架构(如REST)相比谁性能更好。