運営者情報

運営してるひと: @sters9

       

妻と猫と横浜あたりに住んでいる。最近は Go や Kubernetes や GCP をしています。 PHP や JavaScript もすこし。

プライバシーポリシー

tools.gomiba.co

サイト内検索

アーカイブ

2022/01 (7)

2021/12 (11) 2021/11 (1) 2021/10 (4) 2021/09 (2) 2021/08 (1) 2021/07 (2) 2021/06 (5) 2021/05 (10) 2021/04 (1) 2021/03 (8) 2021/02 (12) 2021/01 (8)

2020/05 (2) 2020/04 (2) 2020/02 (2) 2020/01 (1)

2019/12 (3) 2019/11 (2) 2019/10 (5) 2019/09 (3) 2019/07 (6) 2019/06 (4) 2019/04 (3) 2019/01 (2)

2018/12 (6) 2018/10 (4) 2018/09 (6) 2018/08 (7) 2018/07 (16) 2018/06 (7) 2018/05 (7) 2018/04 (5) 2018/03 (3) 2018/02 (10) 2018/01 (6)

2017/12 (8) 2017/11 (6) 2017/10 (10) 2017/09 (12) 2017/08 (12) 2017/07 (3) 2017/06 (1) 2017/01 (4)

2016/12 (5) 2016/10 (3) 2016/09 (1) 2016/07 (2) 2016/06 (1) 2016/04 (1) 2016/02 (1) 2016/01 (2)

2015/12 (1) 2015/10 (1) 2015/09 (3) 2015/06 (1) 2015/01 (1)

2014/08 (2) 2014/07 (3) 2014/05 (1) 2014/01 (7)

2013/12 (2) 2013/11 (4) 2013/10 (1) 2013/09 (1) 2013/08 (3) 2013/07 (4) 2013/06 (5) 2013/05 (2) 2013/04 (7) 2013/03 (1)

go-grpc-midlewareでmercari/go-circuitbreakerを使う

1行で結論

sters/go-grpc-middleware-circuitbreaker: go-grpc-middleware + go-circuitbreaker

もうちょっと詳しく

grpc-ecosystem/go-grpc-middleware: Golang gRPC Middlewares: interceptor chaining, auth, logging, retries and more. を使うことで、クライアント、サーバー、両サイドで処理前後に任意の処理を追加ができる。

mercari/go-circuitbreaker: A context aware circuit breaker library in Go. を使うことで、任意の処理にサーキットブレーカー、つまり一定回数が失敗したときに処理を行わない、ということができる。

詳しくはこのスライドがわかりやすい: mercari.go #12 go-circuitbreakerのご紹介 - Speaker Deck

ということは、合わせることで、どこかのgRPCサービスにリクエストしようとしたときに、そのサービスがたまによく不安定になる、みたいなケースで、Jitter付きのExponentialBackoffなリトライ戦略( BackoffするときにJitterがあると何がいいのかを見る )よりも、効果的にリクエスト量を減らしてお互いに平和的な解決ができるのでは、と考えた。

Backoffなリトライは1リクエストを頑張って届けるぞ!という方向で、サーキットブレーカーはそのサービス宛すべてのリクエストに影響(実装による)して無駄なリクエストを回避する。というイメージ。

もちろんその間、そのサービスへのリクエストができない、機能が利用できないので、自分たちのアプリケーションがどう振る舞うかを考える必要がある。そのサービスへのリクエストだけが動かないのときにどうするか。ようするにグレースフルデグラデーション。 グレースフルデグラデーションをどうするのか

とりあえずgo-circuitbreakerをUnaryClientInterceptorで使えるようなものを書いてみた。

sters/go-grpc-middleware-circuitbreaker: go-grpc-middleware + go-circuitbreaker

このままだと全体に適用されるので、例えばメソッドやリクエストの内容ごとにコントロールできるようにするといいかもしれないな〜と思いつつも、すぐ書けたのでこれは便利なのでは?という気配が漂っている。

外への通信は何かしらの理由で失敗するという前提で考えて、問題がないかもしれないけれど一旦入れておく、でもいいと思った。発動したときどうするか、と、いつ発動するかの設定値を見定める必要があるけれど、いざというときにあらゆる負荷が爆発せずに済む。

とはいえ、こういったあれこれ考えてアプリケーションコード上で実装するのはまあ大変なので、Envoyとかなにかしらのプロキシでいい感じになってほしいな〜〜とおもうけど、その道も結局あれこれ考えて大変なんだよなあ…。アプリケーションコード上はスッキリする(かもしれない)のは間違いなくいいポイントだろう。