# RPC and Threads

## 线程

线程的存在使得程序可以在逻辑上同时做许多事情。程序中的线程共享内存，同时也保存着自己的局部信息，包括程序指针 (PC)，寄存器，栈等。

### **程序中线程的数量**

* 由程序的功能结构决定：如 Web 服务器
* 由 CPU 的核数决定：最大化并行
* 由 I/O 决定：最大化吞吐量

### 线程的挑战

* 数据共享：竞争条件 (Race Condition)
* 线程之间合作：
* 并发的粒度：
  * 粗粒度：并发程度低，但容易处理
  * 细粒度：并发程度高，但容易产生更多的竞争和死锁

### 应用举例：[爬虫](http://nil.csail.mit.edu/6.824/2018/notes/crawler.go)

## RPC

RPC 的目的在于：让远程调用看起来就像本地方法调用一样。但实践起来并不简单。

### RPC 架构

![图1 - RPC 架构](https://1008303647-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LMjQD5UezC9P8miypMG%2F-LNytw_uJFfGruGDvyOH%2F-LNz2BAfTG919cVweKwV%2FRPC%20structure.png?alt=media\&token=42ad378d-8982-4be6-ae51-b939630b1bba)

### 执行细节

* Marshalling: 将 RPC 调用的函数名、参数放到数据包 (packets) 中
* Binding: 客户端绑定 RPC 服务端的过程
  * 使用服务器的域名和端口
  * 服务发现配置

实现举例：[Toy RPC](http://nil.csail.mit.edu/6.824/2015/notes/l-rpc.go)

### 问题与解决方案

#### RPC 调用过程可能出现哪些问题？

* 丢包
* 断网
* RPC 服务器响应慢
* RPC 服务器宕机

#### 这些问题在客户端上的 RPC Lib 眼中的样子

* 永远得不到请求的结果
* 甚至不知道究竟是服务器的问题还是网络的问题

#### 解决方案1：At Least Once/Best Effort

**做法**：在服务器未响应后重试几次，若仍如此则返回错误。\
**缺点**：有写操作存在时可能出现竞争条件\
**结论**：只能在读或幂等操作的情况下使用

思考实验：假设客户端执行

```bash
Put("k", 10);
Put("k", 20);
Get("k");
```

可能会出现哪些结果？

#### 解决方案2：At Most Once

**做法**：RPC 客户端发送请求时为每个请求附加唯一的 xid, 服务端根据 xid 检测重复请求，检测成功后直接返回之前缓存的结果，伪代码如下所示：

```python
if seen[xid]:
  r = old[xid]
else:
  r = handler()
  old[xid] = r
  seen[xid] = true
```

思考实验：

* 如何保证 XID 的唯一性？
  * 大随机数
  * ip + sequence number
* 服务端如何清理不必要的缓存？
  * TCP
* 当前请求还在执行时，又接收到相同的请求？
  * pending flag
  * 等待或者忽略
* RPC 服务器崩溃重启？
  * 持久化数据

例子：Go RPC

* 建立 TCP 连接，调用请求通过 TCP 传输
* Go RPC 不重发请求，因此服务器不会看到重复请求
* Go RPC 得不到回复直接返回错误

#### 解决方案3：Exactly Once

At Most Once + 无限重试 + 能够容错的 RPC 服务

### 应用举例：[KV](http://nil.csail.mit.edu/6.824/2018/notes/kv.go)

## 参考

course note [2015](http://nil.csail.mit.edu/6.824/2015/notes/l-rpc.txt), [2018](http://nil.csail.mit.edu/6.824/2018/notes/l-rpc.txt), [toy RPC](http://nil.csail.mit.edu/6.824/2015/notes/l-rpc.go), [crawler](http://nil.csail.mit.edu/6.824/2018/notes/crawler.go), [kv](http://nil.csail.mit.edu/6.824/2018/notes/kv.go)\
Youtube video [2015](https://www.youtube.com/watch?v=6NXUYWLYTp4\&t=0s\&list=PLpl804R-ZwjKCOwWpTZ21eeaBS3uBrMfV\&index=3)