分布式服务框架gRPC

什么是gRPC

gRPC是Google开发的高性能、通用的开源RPC框架&＃xff0c;其由Google主要面向移动应用开发并基于HTTP/2协议标准而设计&＃xff0c;基于Protobuf(Protocol Buffers)序列化协议开发&＃xff0c;且支持众多开发语言。在gRPC中一个客户端可以像使用本地对象那样直接调用位于不同机器上的服务端应用的方法(methods)。这让你能够更容易的构建分布式的应用和服务。和其他RPC系统类似&＃xff0c;gRPC也是基于定义一个服务&＃xff0c;指定服务可以被远程调用的方法以及他们的参数和返回类型。在服务端&＃xff0c;实现服务的接口然后运行一个gRPC服务来处理可出端的请求。在客户端&＃xff0c;客户端拥有一个存根&＃xff08;stub在某些语言中仅称为客户端&＃xff09;&＃xff0c;提供与服务器相同的方法。

·gRPC客户端和服务器可以在各种环境中运行并相互通信&＃xff0c;并且可以使用gRPC支持的任何语言编写。因此&＃xff0c;例如&＃xff0c;您可以使用Go&＃xff0c;Python或Ruby的客户端轻松地用Java创建gRPC服务器。此外&＃xff0c;最新的Google API的接口将拥有gRPC版本&＃xff0c;可让您轻松地在应用程序中内置Google功能。

使用protocol buffer

默认情况下&＃xff0c;gRPC使用protocol buffer&＃xff0c;用于序列化结构化数据&＃xff08;尽管它可以与其他数据格式&＃xff08;例如JSON&＃xff09;一起使用&＃xff09;。使用协议缓冲区的第一步是在proto文件中为要序列化的数据定义结构&＃xff1a;proto文件扩展名为.proto的普通文本文件。protocol buffer数据被构造为消息&＃xff0c;其中每个消息都是信息的逻辑记录&＃xff0c;其中包含一系列称为字段的名称/值对。这是一个简单的示例&＃xff1a;

message Person {string name &＃61; 1;int32 id &＃61; 2;bool has_ponycopter &＃61; 3;
}

定义了数据结构后&＃xff0c;就可以使用protocol buffer编译器protoc生成你所选语言的数据访问类。访问类为每个字段提供了简单的访问器&＃xff08;例如name())和set_name()&＃xff09;&＃xff0c;以及将整个结构序列化为原始字节或从原始字节中解析出整个结构的方法-例如&＃xff0c;如果您选择的语言是C &＃43;&＃43;&＃xff0c;则在上面的示例将生成一个名为Person的类。然后&＃xff0c;您可以在应用程序中使用此类来填充&＃xff0c;序列化和检索Person的protocol buffer消息。

除此之外你还要在.proto件中定义gRPC服务&＃xff0c;并将RPC方法参数和返回类型指定为protocol buffer消息&＃xff1a;

// The greeter service definition.
service Greeter {// Sends a greetingrpc SayHello (HelloRequest) returns (HelloReply) {}
}// The request message containing the user&＃39;s name.
message HelloRequest {string name &＃61; 1;
}// The response message containing the greetings
message HelloReply {string message &＃61; 1;
}

gRPC使用也是使用编译器protoc从proto文件生成代码&＃xff0c;不过编译器要首先安装一个gRPC插件。使用gRPC插件&＃xff0c;你可以获得生成的gRPC客户端和服务器代码&＃xff0c;以及用于填充&＃xff0c;序列化和检索消息类型的常规protocol buffer访问类代码。

下面会更详细地介绍gRPC里的一些关键的概念。

服务定义

与许多RPC系统一样&＃xff0c;gRPC围绕定义服务的思想&＃xff0c;指定可通过其参数和返回类型远程调用的方法。默认情况下&＃xff0c;gRPC使用protocol buffer作为接口定义语言&＃xff08;IDL&＃xff09;来描述服务接口和有效负载消息的结构。如果需要&＃xff0c;可以使用其他替代方法。

service HelloService {rpc SayHello (HelloRequest) returns (HelloResponse);
}message HelloRequest {string greeting &＃61; 1;
}message HelloResponse {string reply &＃61; 1;
}

gRPC允许定义四种服务方法&＃xff1a;

• 一元RPC&＃xff0c;客户端向服务器发送单个请求并获得单个响应&＃xff0c;就像普通函数调用一样。

rpc SayHello(HelloRequest) returns (HelloResponse){
}

• 服务器流式RPC&＃xff0c;客户端向服务器发送请求&＃xff0c;并获取流以读取回一系列消息。客户端从返回的流中读取&＃xff0c;直到没有更多消息为止。 gRPC保证单个RPC调用中的消息顺序。

rpc LotsOfReplies(HelloRequest) returns (stream HelloResponse){
}

• 客户端流式RPC&＃xff0c;客户端使用提供的流写入消息序列然后将它们发送到服务器。客户端写完消息后&＃xff0c;它将等待服务器读取消息并返回响应。 gRPC保证了在单个RPC调用中的消息顺序。

rpc LotsOfGreetings(stream HelloRequest) returns (HelloResponse) {
}

• 双向流式RPC&＃xff0c;双方都使用读写流发送一系列消息。这两个流是独立运行的&＃xff0c;因此客户端和服务器可以按照自己喜欢的顺序进行读写&＃xff1a;例如&＃xff0c;服务器可以在写响应之前等待接收完所有客户端消息&＃xff0c;或者可以先读取一条消息再写入一条消息&＃xff0c;或其他一些读写组合。每个流中的消息顺序都会保留。

rpc BidiHello(stream HelloRequest) returns (stream HelloResponse){
}

在下面的RPC生命周期章节我们会更详细的比较这几种不同的RPC。

使用API界面

从.proto文件中的服务定义开始&＃xff0c;gRPC提供了protocol buffer编译器插件&＃xff0c;插件可生成客户端和服务器端代码。 gRPC用户通常在客户端调用这些API&＃xff0c;并在服务器端实现相应的API。

• 在服务侧&＃xff0c;服务器实现服务中声明的方法并运行一个gRPC服务器来处理客户端的调用。gRPC的基础设施解码传入的请求&＃xff0c;执行服务的方法&＃xff0c;编码服务的响应。
• 在客户端&＃xff0c;客户端拥有一个名为stub(存根)的本地对象&＃xff08;在有些语言中更倾向于把stub叫做客户端&＃xff09;该对象同样实现了服务中方法。客户端可以只在本地对象上调用这些方法&＃xff0c;将调用参数包装在适当的protocol buffer消息类型中&＃xff0c;gRPC会负责将请求发送给服务器并且返回服务端的protocol buffer响应。

同步vs异步

同步RPC调用会阻塞当前线程直到服务器收到响应为止&＃xff0c;这是最接近RPC所追求的过程调用抽象的近似方法。另一方面&＃xff0c;网络本质上是异步的&＃xff0c;并且在许多情况下能够启动RPC而不阻塞当前线程很有用。

大多数语言中的gRPC编程界面都有同步和异步两种形式。可以在每种语言的教程和参考文档中找到更多信息。

RPC生命周期

现在让我们具体看一下当一个gRPC客户端调用了一个gRPC服务器的方法后都发生了什么。我们不会查看具体实现细节&＃xff0c;留到后面的编程语言教程中再看实现细节。

一元RPC

首先来看一个最简单的RPC类型&＃xff0c;客户端发送一个请求然后接受一个响应。

• 一旦客户端调用了存根/客户端对象上的方法&＃xff0c;服务器会被通知RPC已经被调用了&＃xff0c;同样会接收到调用时客户端的元数据、调用的方法名称以及制定的截止时间(如果适用的话)。
• 然后&＃xff0c;服务器可以立即发送自己的初始元数据&＃xff08;必须在发送任何响应之前发送&＃xff09;&＃xff0c;也可以等待客户端的请求消息-哪个先发生应用程序指定的。
• 服务器收到客户的请求消息后&＃xff0c;它将完成创建和填充其响应所需的必要工作。然后将响应&＃xff08;如果成功&＃xff09;连同状态详细信息&＃xff08;状态代码和可选状态消息&＃xff09;以及可选尾随元数据一起返回。
• 如果状态是OK&＃xff0c;客户端将获得响应&＃xff0c;从而在客户端完成并终结整个调用过程。

服务器流式RPC

一个服务器流式RPC与简单的一元RPC类似&＃xff0c;不同的是服务器在接收到客户端的请求消息后会发回一个响应流。在发送回所有的响应后&＃xff0c;服务器的状态详情&＃xff08;状态码和可选的状态信息&＃xff09;和可选的尾随元数据会被发回以完成服务端的工作。客户端在接收到所有的服务器响应后即完成操作。

客户端流式RPC

客户端流式RPC也类似于一元PRC&＃xff0c;不同之处在于客户端向服务器发送请求流而不是单个请求。服务器通常在收到客户端的所有请求后&＃xff08;但不一定&＃xff09;发送单个响应&＃xff0c;以及其状态详细信息和可选的尾随元数据。

双向流式RPC

在双向流式RPC中&＃xff0c;调用再次由客户端调用方法发起&＃xff0c;服务器接收客户端元数据&＃xff0c;方法名称和期限。同样&＃xff0c;服务器可以选择发回其初始元数据&＃xff0c;或等待客户端开始发送请求。

接下来发生的情况取决于应用程序&＃xff0c;因为客户端和服务器可以按任何顺序进行读取和写入-流操作完全是独立地运行。因此&＃xff0c;例如&＃xff0c;服务器可以等到收到所有客户端的消息后再写响应&＃xff0c;或者服务器和客户端可以玩“乒乓”&＃xff1a;服务器收到请求&＃xff0c;然后发回响应&＃xff0c;然后客户端发送基于响应的另一个请求&＃xff0c;依此类推。

截止时间/超时时间

gRPC允许客户端指定在RPC被DEADLINE_EXCEEDED错误终结前愿意等待多长时间来让RPC完成工作。在服务器端&＃xff0c;服务器可以查看一个特定的RPC是否超时或者还有多长时间剩余来完成RPC。

如何指定期限或超时的方式因语言而异-例如&＃xff0c;并非所有语言都有默认期限&＃xff0c;某些语言API按照期限&＃xff08;固定的时间点&＃xff09;工作&＃xff0c;而某些语言API根据超时来工作&＃xff08;持续时间&＃xff09;。

RPC终止

在gRPC中&＃xff0c;客户端和服务端对调用是否成功做出独立的基于本地的决定&＃xff0c;而且两端的结论有可能不匹配。这意味着&＃xff0c;比如说&＃xff0c;你可能会有一个在服务端成功完成&＃xff08;“我已经发送完所有响应了”&＃xff09;但是在客户端失败&＃xff08;“响应是在我指定的deadline之后到达的”&＃xff09;的RPC。服务器也有可能在客户端发送所有请求之前决定RPC完成了。

取消RPC

客户端或服务器都可以随时取消RPC。取消操作将立即终止RPC&＃xff0c;因此不再进行任何工作。这不是“撤消”&＃xff1a;取消之前所做的更改不会回滚。

元数据

元数据是以键值对列表形式提供的关于特定RPC调用的信息&＃xff08;比如说身份验证详情&＃xff09;&＃xff0c;其中键是字符串&＃xff0c;值通常来说是字符串&＃xff08;但是也可以是二进制数据&＃xff09;。元数据对gRPC本身是不透明的-它允许客户端向服务器提供与调用相关的信息&＃xff0c;反之亦然。

对元数据的访问取决于语言。

通道

一个gRPC通道提供了一个到指定主机和端口号的gRPC服务器的连接&＃xff0c;它在创建客户端存根&＃xff08;或者对某些语言来说就是“客户端”&＃xff09;时被使用。客户端可以指定通道参数来更改gRPC的默认行为&＃xff0c;比如说打开/关闭消息压缩。每个通道都有状态&＃xff0c;状态包括connected和idle(闲置)

gRPC怎么处理关掉的通道是语言相关的&＃xff0c;有些语言还允许查询通道的状态。