第5部の導入:サービスレベル、可用性、信頼性のメトリクス
サービスレベル、可用性、信頼性のメトリクスは、ユーザーがサービスに何を頼れるかを記述します。それによってチームは、届けられるものだけを約束し、約束から外れ始めていることに早く気づき、ユーザーが感じるところに労力を使えます。
第2部から第4部は、作業がどう動くかを見ました。どれだけ速く流れるか、インシデントがどう扱われるか、変更がどう安全に行われるかです。この部は、ユーザーが実際に体験する結果に目を向けます。頻繁に出荷し、インシデントを素早く解決するサービスでも、遅かったり、間違った瞬間に使えなかったり、予測できなかったりすることがあります。ユーザーは、チームがどう組織されているかではなく、必要なときにサービスが機能するかどうかで、サービスを判断します。
二つの伝統が、ここで出会います。ITILの実践は、提供者と顧客の間の期待を設定するために、サービスレベル合意、目標、報告を長く使ってきました。GoogleのSite Reliability Engineeringの本が示すサイト信頼性エンジニアリングの実践は、サービスレベル指標、目標、エラーバジェットを使って、信頼性を、変更のペースに対する明示的なエンジニアリングのトレードオフに変えます。二つは両立します。どちらもユーザーが気にすることから始め、どちらもそれを測れる目標として表し、どちらも目標がどれくらいの頻度で満たされたかの誠実な説明を必要とします。
ある繰り返されるリスクが、この部全体を貫いています。信頼性の数字は、よく見せるのが簡単です。都合のよい指標を選ぶこと、扱いにくい期間を除くこと、ユーザーの旅路ではなくコンポーネントを測ることによってです。そのため、ここのすべてのトピックは、尺度の時計と境界を名指しし、時間とレイテンシをパーセンタイルによる分布として読み(トピック1.6「サービスメトリクスのための統計リテラシー」を参照)、各尺度を防護柵と組にします(トピック1.2「グッドハートの法則とメトリクスの心理学」を参照)。すべてのメトリクスは、サービス、チーム、システムを記述します。どれも個人を順位付けせず、とくにオンコールの尺度は、人々を採点するためではなく、守るために存在します。
この部のトピック
- 5.1 SLA、OLA、XLAのメトリクス:サービスレベル合意、運用レベル合意、体験レベル合意の尺度、そして、ウォーターメロン報告がどう緑のダッシュボードの陰にトラブルを隠すか、それをどう避けるか。
- 5.2 SLI、SLO、エラーバジェット:サービスレベル指標と目標、エラーバジェットのポリシー、バーンレート、ユーザーが気にすることからの指標の選び方。
- 5.3 可用性のメトリクス:稼働時間とダウンタイムの計算、ユーザーで重み付けした可用性、計画停止と計画外の停止、ナインの算術。
- 5.4 キャパシティとパフォーマンスのメトリクス:使用率、飽和、レイテンシのパーセンタイル、余裕、需要の予測。
- 5.5 監視とアラート品質のメトリクス:アラートの量、対応可能なアラートの率、誤検知、検知のカバレッジ、アラート疲れ。
- 5.6 サービス継続のメトリクス:テストで達成された復旧時間目標と復旧時点目標、テストの頻度、ゲームデーの発見、計画の最新性。
- 5.7 トイルとオンコールのメトリクス:シフトあたりの呼び出し、時間外の負荷、時間に占めるトイルの割合、持続可能なローテーションの尺度。
これらのトピックがどう関係し合うか
最初の三つのトピックは、この部の核を成します。約束と、その測り方を定義するからです。トピック5.1(トピック5.1「SLA、OLA、XLAのメトリクス」を参照)は、提供者、社内のチーム、顧客の間の合意と、それらの合意を誠実にも誤解を招くものにもする報告の実践を扱います。トピック5.2(トピック5.2「SLI、SLO、エラーバジェット」を参照)は、エンジニアリング側の対応物を与えます。ユーザーの体験から引かれた指標、それに対して設定された目標、リスクのための残りの余地を見えるようにするエラーバジェットです。トピック5.3(トピック5.3「可用性のメトリクス」を参照)は、両者が依存する算術を固めます。何がダウンタイムと数えられ、どのユーザーが影響を受けるかを含みます。
キャパシティとパフォーマンスは、可用性のすぐ後ろに続きます。技術的には稼働していても、飽和したり遅かったりするサービスは、単純な稼働時間の数字が見逃す形で、ユーザーを失望させます。トピック5.4(トピック5.4「キャパシティとパフォーマンスのメトリクス」を参照)は、可用性を補うレイテンシのパーセンタイルと余裕の尺度を与え、その需要の予測は、目標が脅かされる前に早期の警告を与えます。
検知と復旧は、ユーザーが失敗のどれだけを体験するかを決めます。トピック5.5(トピック5.5「監視とアラート品質のメトリクス」を参照)は、チームが問題を素早く、対応する価値のあるシグナルから知るかどうかを問い、それは第3部の検知と復旧の時間に直接つながります。トピック5.6(トピック5.6「サービス継続のメトリクス」を参照)は、より大きな何かがうまくいかなかったとき、チームが述べた限度内で復旧できるかどうかを問い、その主張を、前提とせず、テストします。
トピック5.7(トピック5.7「トイルとオンコールのメトリクス」を参照)は、ほかのものへの人間の防護柵として働きます。厳しい目標、騒がしいアラート、頻繁なインシデントは、すべて、ポケベルを持つ人々の上に降りかかります。シフトあたりの呼び出しとトイルの割合は、信頼性が持続不可能な労力で買われているときを明らかにし、第2部の計画外の作業の尺度に結びつきます。トピック5.5のアラートの品質とトピック5.7のオンコールの負荷は、組として読むべきです。悪いアラートは、重いローテーションのよくある原因だからです。
最後に、トピック5.2のエラーバジェットは、この部を第4部の変更に結びつけます。バジェットが健全なら、チームはより自由にリリースできます。使い切られたなら、変更と信頼性の作業は再調整されるべきです。そのうえで第6部は、この部の目標を満たしたことが、ユーザーをより良い状態にしたかを確かめます。それは、緑のレポートが単独では答えられない問いです。