ตัวชี้วัดความจุและประสิทธิภาพ
วัดว่าบริการเต็มเพียงใด คำขอที่ช้าที่สุดช้าแค่ไหน และเหลือที่ว่างเท่าใดก่อนที่ผู้ใช้จะสังเกตเห็น จากนั้นพยากรณ์ความต้องการเป็นช่วง เพื่อให้ความจุมาถึงก่อนความต้องการ ไม่ใช่หลังข้อร้องเรียน
ภาพรวมและแรงจูงใจ
ความพร้อมใช้งานบอกว่าบริการตอบสนองหรือไม่ ความจุและประสิทธิภาพบอกว่าตอบสนองได้ดีเพียงใด และจะทำเช่นนั้นต่อไปได้อีกนานเท่าใดเมื่อความต้องการเพิ่มขึ้น หน้าชำระเงินที่ตอบสนองใน 8 วินาทีนับว่า “ใช้งานได้” ตามนิยามความพร้อมใช้งานส่วนใหญ่ แต่ “พัง” ตามนิยามของลูกค้าทุกคน ฐานข้อมูลที่ใช้พื้นที่เก็บข้อมูล 95 เปอร์เซ็นต์สุขภาพดีในวันนี้ และเป็นเหตุล่มในเดือนหน้า หัวข้อนี้ครอบคลุมตัวชี้วัดที่ปิดช่องว่างเหล่านั้น
การวางแผนความจุ (capacity planning) คือแนวปฏิบัติในการกำหนดทรัพยากรที่บริการต้องการเพื่อรองรับความต้องการที่เปลี่ยนไป ใน ITIL 4 สิ่งนี้อยู่ในแนวปฏิบัติการจัดการความจุและประสิทธิภาพ ซึ่งมีเป้าหมายเพื่อให้แน่ใจว่าบริการบรรลุประสิทธิภาพที่ตกลงและคาดหวัง และตอบสนองความต้องการปัจจุบันและอนาคตอย่างคุ้มค่า แนวปฏิบัตินี้อธิบายในสามระดับ: ธุรกิจ (องค์กรจะขออะไรจากบริการของตน) บริการ (บริการทำงานอย่างไรภายใต้โหลด) และองค์ประกอบ (เซิร์ฟเวอร์ ฐานข้อมูล ลิงก์เครือข่าย หรือคิวแต่ละตัวทำงานอย่างไร) ตัวชี้วัดในหัวข้อนี้ส่วนใหญ่ทำงานที่ระดับบริการและองค์ประกอบ และต้องการข้อมูลนำเข้าจากระดับธุรกิจเพื่อพยากรณ์อะไรก็ตาม
วิศวกรรมความน่าเชื่อถือของไซต์ (site reliability engineering: SRE) ถือว่าความหน่วง การจราจร ข้อผิดพลาด และความอิ่มตัวเป็นสี่สัญญาณที่ควรเฝ้าดูในระบบที่หันหน้าสู่ผู้ใช้ทุกระบบ และผูกเป้าหมายประสิทธิภาพกับวัตถุประสงค์ระดับบริการ (ดูหัวข้อ 5.2 “SLI, SLO และงบข้อผิดพลาด”) ทีมแบบคล่องตัวพบความจุในฐานะคำถามด้านการส่งมอบ: รุ่นถัดไปรองรับโหลดที่คาดไว้ได้หรือไม่ และใครเป็นเจ้าของคำตอบ การถือประสิทธิภาพเป็นเกณฑ์การยอมรับที่ตรวจในไปป์ไลน์ย้ายบทสนทนาให้เกิดเร็วขึ้น
มีศัพท์หลายคำที่ปรากฏซ้ำในหัวข้อนี้ อัตราการใช้งาน (utilization) คือสัดส่วนของความจุของทรัพยากรที่ใช้อยู่ในช่วงเวลาหนึ่ง เช่นสัดส่วนเวลาที่โปรเซสเซอร์ไม่ว่าง ความอิ่มตัว (saturation) คือปริมาณงานที่รออยู่เพราะทรัพยากรถูกใช้เต็ม เช่นความยาวของคิวรันหรือคำขอที่ค้าง อัตราการใช้งานบอกว่าทรัพยากรยุ่งเพียงใด ความอิ่มตัวบอกว่างานต่อคิวรอมันหรือไม่ และคิวคือสิ่งที่ผู้ใช้รู้สึก ความหน่วง (latency) คือเวลาระหว่างคำขอกับการตอบสนอง ปริมาณงานที่ผ่าน (throughput) คืออัตราที่บริการทำงานเสร็จ เช่นคำขอต่อวินาที ช่องว่างสำรอง (headroom) คือช่องว่างระหว่างโหลดสูงสุดปัจจุบันกับโหลดที่บริการเลิกบรรลุวัตถุประสงค์ ความต้องการ (demand) คืองานที่ผู้ใช้และธุรกิจขอจากบริการ ซึ่งไม่เหมือนกับงานที่บริการทำเสร็จ: บริการที่โหลดเกินทำเสร็จน้อยกว่าที่ถูกขอ
คุณสมบัติหนึ่งของแถวคอยอธิบายว่าทำไมตัวชี้วัดเหล่านี้ทำงานเช่นนั้น ทฤษฎีแถวคอย (queueing theory) แสดงว่า สำหรับบริการที่มีการเข้ามาแบบสุ่ม เวลารอเพิ่มช้า ๆ ขณะที่อัตราการใช้งานปานกลาง แล้วพุ่งชันเมื่ออัตราการใช้งานเข้าใกล้การใช้เต็ม กฎของลิตเติล (Little's law) เชื่อมจำนวนคำขอเฉลี่ยในระบบกับอัตราการเข้ามาและเวลาเฉลี่ยที่แต่ละคำขออยู่ในนั้น ทรัพยากรที่มีอัตราการใช้งานเฉลี่ยสูงอยู่ใกล้หน้าผา รูปร่างที่แน่นอนของเส้นโค้งขึ้นกับบริการ ดังนั้นให้ค้นหาด้วยการทดสอบระบบของท่านเองด้วยการทดสอบโหลด (load testing) แทนที่จะยืมเกณฑ์จากบทความทั่วไป
ความหน่วงต้องระวังเป็นพิเศษเพราะค่าเฉลี่ยซ่อนประสบการณ์ที่สำคัญ เปอร์เซ็นไทล์ (percentile) ระบุค่าที่สัดส่วนที่กำหนดของข้อสังเกตตกอยู่ต่ำกว่า: เปอร์เซ็นไทล์ที่ 95 (p95) คือความหน่วงที่คำขอ 95 เปอร์เซ็นต์ทำได้ดีกว่า ความหน่วงส่วนหาง (tail latency) มักครอบงำในระบบที่การกระทำของผู้ใช้หนึ่งครั้งแตกเป็นการเรียกภายในจำนวนมาก ให้รายงานเปอร์เซ็นไทล์แทนค่าเฉลี่ยเพียงอย่างเดียว (ดูหัวข้อ 1.6 “ความรู้ด้านสถิติสำหรับตัวชี้วัดบริการ” และหัวข้อ 3.3 “เวลาตอบสนองและเวลาแก้ไขเหตุขัดข้อง” ซึ่งให้เหตุผลเดียวกันสำหรับเวลาแก้ไข)
ท้ายที่สุด ความจุขึ้นกับการพยากรณ์ (forecasting)ความต้องการ และความต้องการมีรูปแบบ: วัฏจักรรายวัน วัฏจักรรายสัปดาห์ และความเป็นฤดูกาล (seasonality)ที่ผูกกับปฏิทิน แคมเปญ และการเปิดตัวผลิตภัณฑ์ การปรับขนาดอัตโนมัติ (autoscaling) เปลี่ยนความรู้สึกของเรื่องนี้ เพราะแพลตฟอร์มคลาวด์เพิ่มทรัพยากรได้ในไม่กี่นาที แต่ไม่ได้ขจัดหัวข้อนี้ การปรับขนาดอัตโนมัติมีขีดจำกัด ความหน่วงเวลา ต้นทุน และการพึ่งพาที่ปรับขนาดไม่ได้ เช่นฐานข้อมูลหรืออินเทอร์เฟซของบุคคลที่สาม ด้านต้นทุนอยู่กับ FinOps (ดูหัวข้อ 7.6 “ตัวชี้วัด FinOps และต้นทุนคลาวด์”)
หัวข้อใกล้เคียงครอบคลุมเลขคณิตของความพร้อมใช้งาน (ดูหัวข้อ 5.3 “ตัวชี้วัดความพร้อมใช้งาน”) การออกแบบการแจ้งเตือน (ดูหัวข้อ 5.5 “ตัวชี้วัดการเฝ้าติดตามและคุณภาพการแจ้งเตือน”) และภาระการหมุนเวร (ดูหัวข้อ 5.7 “ตัวชี้วัดงานซ้ำซากและเวรเรียกฉุกเฉิน”) ที่นี่เรื่องคือทรัพยากรและเวลาตอบสนองของบริการเอง
หลักการสำคัญ
- วัดความอิ่มตัวควบคู่กับอัตราการใช้งาน อัตราการใช้งานแสดงว่าทรัพยากรยุ่งเพียงใด และความอิ่มตัวแสดงว่างานรออยู่หรือไม่ ผู้ใช้สัมผัสการรอ
- รายงานความหน่วงเป็นการกระจาย ใช้เปอร์เซ็นไทล์ต่อการดำเนินการที่หันหน้าสู่ผู้ใช้ และให้เห็นหางที่ช้า ค่าเฉลี่ยของการกระจายที่เบ้อธิบายแทบไม่มีใคร
- ผูกเป้าหมายกับประสบการณ์ผู้ใช้ เกณฑ์มีความหมายเมื่อสืบกลับไปถึงสิ่งที่ผู้ใช้หรือธุรกิจใส่ใจ ไม่ใช่สิ่งที่เครื่องมือบังเอิญวาดกราฟ
- วางแผนด้วยช่วงและทบทวน การพยากรณ์คือช่วงพร้อมข้อสมมติที่ระบุ เปรียบเทียบกับสิ่งที่เกิดขึ้นและเรียนรู้จากความคลาดเคลื่อน
- รู้ขีดจำกัดด้วยการทดสอบ ความจุเป็นเพียงสมมติฐานจนกว่าการทดสอบโหลดที่สมจริงจะยืนยัน ทำซ้ำการทดสอบหลังการเปลี่ยนแปลงที่สำคัญ
- อธิบายระบบ ไม่ใช่บุคคล ตัวชี้วัดเหล่านี้เป็นของบริการ องค์ประกอบ และทีม ไม่ใช่สกอร์การ์ดของบุคคล
- ชั่งต้นทุนเทียบกับความเสี่ยง ความจุสำรองเสียเงิน และความจุที่ขาดเสียลูกค้า ทำให้ข้อแลกเปลี่ยนมองเห็นได้เพื่อให้ถูกเลือก ไม่ใช่ไหลไปเอง
นิยามตัวชี้วัด
ตารางมีตัวชี้วัดเจ็ดตัว นาฬิกาและขอบเขตระบุไว้ในสูตรแต่ละอัน ตัวชี้วัดที่ใช้เปอร์เซ็นไทล์ใช้หน้าต่างคงที่ที่ระบุในทะเบียน และคำนวณจากข้อสังเกตดิบหรือฮิสโทแกรม ไม่เคยเป็นค่าเฉลี่ยของค่าเฉลี่ย
| ตัวชี้วัด | นิยาม | สูตร | หน่วย | แหล่งข้อมูล | แนวปฏิบัติ ITIL | คู่เทียบแบบคล่องตัว | ความถี่ |
|---|---|---|---|---|---|---|---|
| อัตราการใช้งานทรัพยากร | สัดส่วนความจุของทรัพยากรที่ใช้อยู่ในช่วงเวลาหนึ่ง รายงานเป็นเปอร์เซ็นไทล์สูงของอนุกรมช่วงเวลา | ความจุที่ไม่ว่าง / ความจุทั้งหมด ต่อช่วง 1 ถึง 5 นาที รายงานค่ามัธยฐานและเปอร์เซ็นไทล์ที่ 95 ตลอดหน้าต่างทบทวน หน้าต่างบำรุงรักษาที่ระบายทรัพยากรออกแล้วถูกตัดออก | เปอร์เซ็นต์ | การเฝ้าติดตามโครงสร้างพื้นฐานและตัวชี้วัดแพลตฟอร์มคลาวด์ | การจัดการความจุและประสิทธิภาพ การเฝ้าติดตามและการจัดการเหตุการณ์ | เกณฑ์การยอมรับด้านการปฏิบัติการในนิยามของความเสร็จ สัญญาณทรัพยากรของ SRE | รายสัปดาห์ |
| ความอิ่มตัว | ปริมาณงานที่รอทรัพยากรที่ใช้เต็ม | ความยาวคิว คิวรัน คำขอที่รอ หรือคำขอที่ถูกจำกัด ต่อช่วงเวลา รายงานเปอร์เซ็นไทล์ที่ 95 และสัดส่วนของช่วงที่มีการรอ ช่วงที่ไม่มีความต้องการถูกตัดออก | จำนวน หรือเปอร์เซ็นต์ของช่วง | เทเลเมทรีของแอปพลิเคชันและโครงสร้างพื้นฐาน | การจัดการความจุและประสิทธิภาพ การเฝ้าติดตามและการจัดการเหตุการณ์ | สัญญาณความอิ่มตัวของ SRE ขีดจำกัดงานระหว่างทำบนคิวบริการ | รายสัปดาห์ |
| เปอร์เซ็นไทล์ของความหน่วง | เวลาที่ใช้ตอบคำขอสำหรับการดำเนินการที่หันหน้าสู่ผู้ใช้หนึ่งรายการ รายงานที่ค่ามัธยฐาน p95 และ p99 | เวลาตอบสนองจากรับคำขอที่ขอบเครือข่ายถึงส่งไบต์สุดท้าย ต่อคำขอที่สำเร็จ คำขอที่ล้มเหลวรายงานเป็นข้อผิดพลาด ไม่ใช่การตอบสนองที่เร็ว วัดตลอดหน้าต่างเลื่อนต่อเนื่อง | มิลลิวินาที | บันทึกตัวกระจายโหลดหรือเกตเวย์ การติดตาม การเฝ้าติดตามผู้ใช้จริง | การจัดการระดับบริการ การจัดการความจุและประสิทธิภาพ | ตัวบ่งชี้ความหน่วงและวัตถุประสงค์ระดับบริการของ SRE | ต่อเนื่อง ทบทวนรายสัปดาห์ |
| ช่องว่างสำรอง | โหลดที่เหลือซึ่งบริการรองรับได้ก่อนละเมิดวัตถุประสงค์ | (โหลดที่ทำให้พังที่ทดสอบหรือสร้างแบบจำลอง - โหลดสูงสุดปัจจุบัน) / โหลดสูงสุดปัจจุบัน ค่าสูงสุดคือชั่วโมงที่คับคั่งที่สุดในหน้าต่าง โหลดที่ทำให้พังคือโหลดที่ละเมิดวัตถุประสงค์ความหน่วงเป็นครั้งแรกในการทดสอบ ไม่ใช่ค่าสูงสุดของฮาร์ดแวร์ | เปอร์เซ็นต์ หรือวันที่อัตราการเติบโตปัจจุบัน | ผลการทดสอบโหลดและเทเลเมทรีการจราจร | การจัดการความจุและประสิทธิภาพ การจัดการระดับบริการ | ความต้องการที่ไม่ใช่เชิงหน้าที่และการทดสอบประสิทธิภาพในไปป์ไลน์ | รายเดือน และก่อนการเปิดตัวสำคัญ |
| ความคลาดเคลื่อนของการพยากรณ์ | ความแตกต่างระหว่างความต้องการที่พยากรณ์กับความต้องการจริงในรอบเวลา | ค่าสัมบูรณ์ของ (ค่าสูงสุดที่พยากรณ์ - ค่าสูงสุดจริง) / ค่าสูงสุดจริง สำหรับขอบฟ้าที่ระบุ การพยากรณ์ถูกตรึงที่ต้นขอบฟ้าและไม่แก้ไขภายหลัง เหตุการณ์ครั้งเดียวที่ไม่ได้พยากรณ์ถูกระบุไว้ ไม่ถูกตัดออก | เปอร์เซ็นต์ | ทะเบียนการพยากรณ์และเทเลเมทรีการจราจร | การจัดการความจุและประสิทธิภาพ การวางแผนที่เกี่ยวกับความต้องการในการจัดการการเงินของบริการ | การพยากรณ์การปล่อยรุ่นและแผนที่นำทาง การพยากรณ์ความต้องการของ SRE | รายไตรมาส |
| ระยะเวลานำของความจุ | เวลาที่ต้องใช้นำความจุใหม่เข้าให้บริการเมื่อยอมรับความต้องการแล้ว | นาฬิกาเริ่มเมื่ออนุมัติคำขอความจุ และหยุดเมื่อความจุรับการจราจรระบบจริง รายงานค่ามัธยฐานและเปอร์เซ็นไทล์ที่ 85 คำขอที่ยกเลิกถูกตัดออก | วัน | บันทึกคำขอในเครื่องมือ ITSM บันทึกการเปลี่ยนแปลง บันทึกการจัดเตรียม | การจัดการความจุและประสิทธิภาพ การจัดการคำขอบริการ การสนับสนุนการเปลี่ยนแปลง | ลีดไทม์ของรายการแบ็กล็อกแพลตฟอร์ม (ดูหัวข้อ 2.2 “ลีดไทม์ รอบเวลา และประสิทธิภาพการไหล”) | รายไตรมาส |
| ความครอบคลุมการทดสอบประสิทธิภาพ | สัดส่วนของบริการสำคัญที่มีการทดสอบโหลดที่สมจริงและล่าสุด | บริการสำคัญที่มีการทดสอบโหลดที่ผ่านซึ่งอายุน้อยกว่าที่ระบุ บนสภาพแวดล้อมและภาระงานที่เป็นตัวแทน / บริการสำคัญในทะเบียน ขีดจำกัดอายุเขียนไว้ | เปอร์เซ็นต์ | คลังผลการทดสอบและทะเบียนบริการ | การจัดการความจุและประสิทธิภาพ การจัดการการปล่อยรุ่น | การทดสอบที่ไม่ใช่เชิงหน้าที่ในไปป์ไลน์การส่งมอบอย่างต่อเนื่อง | รายไตรมาส |
โดยรวมแล้วตัวชี้วัดเหล่านี้ตอบสี่คำถาม: เต็มเพียงใด ช้าเพียงใด เหลือที่ว่างเท่าใด และเราตอบสนองได้เร็วแค่ไหนเมื่อคำตอบเปลี่ยน
ข้อเสนอแนะ
เริ่มจากผู้ใช้ แล้วจึงทรัพยากร
1. เลือกการดำเนินการไม่กี่อย่างที่ผู้ใช้ใส่ใจ และวัดสิ่งเหล่านั้น บริการมีจุดปลายทางหลายร้อยแห่งและเส้นทางที่สำคัญไม่กี่เส้น เช่นการเข้าสู่ระบบ การค้นหา การชำระเงิน และการดาวน์โหลดใบแจ้งยอด ตกลงสิ่งเหล่านี้กับเจ้าของผลิตภัณฑ์และลูกค้า และตั้งความคาดหวังด้านความหน่วงสำหรับแต่ละอย่าง สิ่งเหล่านี้เชื่อมต่อกับตัวบ่งชี้ระดับบริการโดยธรรมชาติ (ดูหัวข้อ 5.2 “SLI, SLO และงบข้อผิดพลาด”)
2. จับคู่แผนภูมิทรัพยากรทุกแผนภูมิกับแผนภูมิความอิ่มตัว การแสดงการใช้โปรเซสเซอร์อย่างเดียวชวนให้สบายใจเกินจริงว่า “มันถึงแค่ 70 เปอร์เซ็นต์” เพิ่มคิว คำขอที่รอ หรือจำนวนการจำกัดไว้ข้างกัน เมื่อความอิ่มตัวปรากฏก่อนที่อัตราการใช้งานจะดูน่าตกใจ แสดงว่าท่านพบข้อจำกัดจริง และข้อจำกัดนั้นมักไม่ใช่ทรัพยากรที่ท่านเฝ้าดู เช่นพูลการเชื่อมต่อ ขีดจำกัดเธรด หรือขีดจำกัดอัตราบนอินเทอร์เฟซของคู่ค้า
3. เลือกหางที่คับคั่งแทนค่าเฉลี่ยที่เงียบสงบ ค่าเฉลี่ยตลอดวันผสมกลางดึกเข้ากับช่วงเร่งด่วนมื้อเที่ยง ดูช่วงที่คับคั่งที่สุดและบันทึกวันที่และสาเหตุของช่วงที่แย่ที่สุด คำถามในการวางแผนคือบริการทำงานอย่างไรในชั่วโมงที่แย่ที่สุดที่คาดไว้
รายงานความหน่วงอย่างซื่อตรง
4. เผยแพร่เปอร์เซ็นไทล์ต่อการดำเนินการและระบุหน้าต่าง ระบุค่ามัธยฐาน p95 และ p99 ของแต่ละการดำเนินการสำคัญตลอดหน้าต่างเลื่อนต่อเนื่อง และบอกว่าคำขอใดรวมอยู่ อย่าหาค่าเฉลี่ยของเปอร์เซ็นไทล์ข้ามเซิร์ฟเวอร์หรือข้ามการดำเนินการ เพราะผลลัพธ์ไม่ตรงกับประสบการณ์ของผู้ใช้จริงคนใด ให้รวมฮิสโทแกรมหรือข้อสังเกตดิบแทน ถ้าตัวอย่างเล็ก ให้บอก เพราะ p99 จากคำขอไม่กี่ร้อยรายการเป็นตัวเลขที่มีสัญญาณรบกวน (ดูหัวข้อ 1.6 “ความรู้ด้านสถิติสำหรับตัวชี้วัดบริการ”)
5. วัดที่ที่ผู้ใช้อยู่ควบคู่กับที่ที่เซิร์ฟเวอร์อยู่ เวลาฝั่งเซิร์ฟเวอร์ละเลยเครือข่าย เบราว์เซอร์ และอุปกรณ์ เพิ่มการเฝ้าติดตามผู้ใช้จริงหรือการตรวจสังเคราะห์เพื่อแยกแยะแบ็กเอนด์ช้าออกจากไมล์สุดท้ายช้า
6. นับข้อผิดพลาดและการหมดเวลาควบคู่กับความหน่วง ไม่ใช่แทน บริการที่ล้มเหลวเร็วดูเร็วในแผนภูมิความหน่วง และบริการที่หมดเวลาดูช้าด้วยเหตุผลที่ผิด รายงานอัตราข้อผิดพลาดพร้อมเปอร์เซ็นไทล์ความหน่วงเพื่อไม่ให้ความล้มเหลวเร็วทำให้ผลดูดีเกินจริง
ค้นหาขีดจำกัด แล้วเหลือที่ว่าง
7. ทดสอบจุดพังโดยตั้งใจ รันการทดสอบโหลดที่เล่นซ้ำส่วนผสมการดำเนินการที่สมจริง เพิ่มโหลดทีละขั้น และจดว่าวัตถุประสงค์ความหน่วงถูกละเมิดครั้งแรกที่ใดและทรัพยากรใดอิ่มตัวก่อน ทดสอบบนสภาพแวดล้อมที่คล้ายระบบจริงในแง่ที่สำคัญ และเขียนว่าไม่คล้ายตรงไหน การทดสอบที่ล้มเหลวในที่ปลอดภัยเป็นเหตุขัดข้องที่ถูกที่สุดที่ท่านจะมี (ดูหัวข้อ 4.5 “ตัวชี้วัดการปล่อยรุ่นและการติดตั้งใช้งาน” สำหรับการใส่การตรวจสอบในไปป์ไลน์)
8. ตั้งช่องว่างสำรองเป็นนโยบายและทบทวนเป็นข้อแลกเปลี่ยน ตัดสินใจว่าบริการเหลือส่วนเผื่อเหนือจุดสูงสุดที่คาดไว้เท่าใดและเพราะเหตุใด บริการที่หันหน้าสู่ลูกค้าสำคัญสมควรมากกว่า บริการแบตช์ภายในน้อยกว่า ตัวเลขคือทางเลือกทางธุรกิจเรื่องต้นทุนและความเสี่ยง จึงควรบันทึกเหตุผลและทบทวนใหม่เมื่อต้นทุนของเหตุล่มหรือราคาความจุเปลี่ยน อย่าคัดลอกตัวเลขจากองค์กรอื่น
พยากรณ์ความต้องการร่วมกับผู้ที่รู้
9. ถามธุรกิจว่าอะไรกำลังมา และเขียนการพยากรณ์ไว้ แคมเปญการตลาด ลูกค้าใหม่ กำหนดเวลาตามกฎระเบียบ และเหตุการณ์ตามฤดูกาลเปลี่ยนความต้องการนานก่อนที่การจราจรจะแสดง เก็บทะเบียนการพยากรณ์สั้น ๆ ที่มีวันที่ ข้อสมมติ ช่วง เจ้าของ และแหล่งที่มาของข้อมูลนำเข้าแต่ละรายการ การพยากรณ์ที่ให้เป็นช่วง เช่นกรณีต่ำ กรณีที่คาดไว้ และกรณีสูง ซื่อตรงกว่าตัวเลขเดียวและมีประโยชน์กว่าในการตัดสินใจว่าจะซื้อเท่าใด
10. ให้คะแนนการพยากรณ์และใช้ความคลาดเคลื่อนเพื่อปรับปรุง หลังแต่ละรอบ ให้เปรียบเทียบการพยากรณ์ที่ตรึงไว้กับสิ่งที่เกิดขึ้นโดยใช้ความคลาดเคลื่อนของการพยากรณ์ และระบุสาเหตุของการพลาดใหญ่ สาเหตุที่พบบ่อยคือแคมเปญที่ไม่ได้ประกาศ การเปลี่ยนพฤติกรรมผู้ใช้ และการพึ่งพาที่เคลื่อนไป เป้าหมายไม่ใช่ความคลาดเคลื่อนศูนย์ ซึ่งทำไม่ได้ แต่คือการเรียนรู้ว่าข้อมูลนำเข้าใดเชื่อถือได้ และขยายช่วงในที่ที่เชื่อถือไม่ได้
ทำให้เพิ่มความจุง่าย
11. ทำให้ระยะเวลานำของความจุสั้นลงก่อนไล่ตามความแม่นยำ ถ้าความจุใหม่ใช้เวลาหลายสัปดาห์ถึงจะมาถึง ท่านต้องพยากรณ์ไกลล่วงหน้าและเก็บสำรองมากขึ้น ถ้าใช้เวลาไม่กี่นาที ท่านดำเนินงานใกล้ความต้องการได้ ดูขั้นตอนระหว่าง “อนุมัติ” กับ “รับการจราจร” เช่นการจัดซื้อ การอนุมัติ การจัดเตรียม การกำหนดค่า และการทดสอบ และกำจัดการรอที่นานที่สุดก่อน (ดูหัวข้อ 4.3 “ตัวชี้วัดการสนับสนุนการเปลี่ยนแปลง”) ในภาษา ITIL นี่คือทางเลือกกลยุทธ์ความจุ: นำหน้า ตามให้ทัน หรือตามหลังความต้องการ เลือกอย่างตั้งใจต่อบริการ
12. ถือการปรับขนาดอัตโนมัติเป็นระบบที่ต้องวัด บันทึกว่าการปรับขนาดถูกกระตุ้นบ่อยเพียงใด ความจุใหม่ใช้เวลานานเท่าใดกว่าจะมีประโยชน์ ชนค่าสูงสุดที่กำหนดบ่อยเพียงใด และเสียค่าใช้จ่ายเท่าใด ตัวปรับขนาดอัตโนมัติที่ติดที่ขีดจำกัดคือแผนความจุที่ล้มเหลวไปแล้ว ทบทวนสิ่งเหล่านี้ร่วมกับมุมมองต้นทุนเพื่อให้พูดถึงประสิทธิภาพและรายจ่ายด้วยกัน (ดูหัวข้อ 7.5 “ต้นทุนบริการและเศรษฐศาสตร์ต่อหน่วย”)
ช่องทางการบิดเบือนและมาตรการป้องกัน
| ตัวชี้วัด | ถูกบิดเบือนได้อย่างไร | ตัวชี้วัดหรือแนวปฏิบัติป้องกันที่จับคู่ |
|---|---|---|
| อัตราการใช้งานทรัพยากร | เฉลี่ยตามช่วงเวลายาวเพื่อซ่อนจุดสูงสุด นับความจุสำรองที่ว่างว่า “ใช้แล้ว” รายงานเฉพาะทรัพยากรที่เงียบที่สุด | เปอร์เซ็นไทล์ที่ 95 ของชั่วโมงเร่งด่วนข้างค่าเฉลี่ย ตัวชี้วัดความอิ่มตัว รายการทรัพยากรในขอบเขตที่ทบทวนเทียบกับแผนที่บริการ |
| ความอิ่มตัว | เพิ่มขีดจำกัดคิวเพื่อไม่ให้มีอะไรรายงานว่าถูกปฏิเสธหรือถูกจำกัด ย้ายการรอไปคิวอื่นที่ไม่ได้วัด | เปอร์เซ็นไทล์ความหน่วงและอัตราข้อผิดพลาดของการดำเนินการเดียวกัน เวลาคิวแบบต้นทางถึงปลายทาง ไม่ใช่ขั้นเดียว ทบทวนคิวทั้งหมดในเส้นทาง |
| เปอร์เซ็นไทล์ของความหน่วง | รายงานเฉพาะค่าเฉลี่ยหรือมัธยฐาน ตัดคำขอที่ช้าหรือล้มเหลวออกจากตัวอย่าง วัดจากที่ตั้งภายในที่เร็ว ยกเว้น “ค่านอกกลุ่ม” | แสดง p95 และ p99 เสมอ แสดงอัตราข้อผิดพลาดและการหมดเวลาข้างความหน่วง เปรียบเทียบการเฝ้าติดตามผู้ใช้จริงกับเวลาฝั่งเซิร์ฟเวอร์ แสดงขนาดตัวอย่างดิบ |
| ช่องว่างสำรอง | เลือกภาระงานทดสอบที่เบา ทดสอบสภาพแวดล้อมที่ใหญ่กว่าระบบจริง นิยามจุดพังเป็นค่าสูงสุดของฮาร์ดแวร์ | ทบทวนภาระงานทดสอบเทียบกับรูปร่างการจราจรจริง รายการเขียนของความแตกต่างระหว่างการทดสอบกับระบบจริง ทดสอบช่องว่างสำรองซ้ำหลังการเปลี่ยนแปลงที่เกี่ยวข้อง |
| ความคลาดเคลื่อนของการพยากรณ์ | แก้ไขการพยากรณ์หลังเหตุการณ์ ตั้งช่วงกว้างมากจนทุกผลลัพธ์ “อยู่ในช่วง” ตัดเดือนที่มีเรื่องน่าประหลาดใจออกว่าเป็น “เหตุการณ์ที่ไม่ได้พยากรณ์” | ตรึงการพยากรณ์และลงวันที่ในทะเบียน รายงานความกว้างของช่วงพร้อมความคลาดเคลื่อน ระบุและทบทวนทุกเหตุการณ์ที่ตัดออก |
| ระยะเวลานำของความจุ | เริ่มนาฬิกาช้าลงโดยเลื่อนบันทึกการอนุมัติ ปิดคำขอเมื่อสั่งซื้อแทนที่จะเป็นเมื่อความจุรับการจราจร แยกคำขอ | นิยามนาฬิกาจากการอนุมัติถึงรับการจราจร สุ่มเปรียบเทียบคำขอที่ปิดกับบันทึกการจัดเตรียม จำนวนคำขอที่เปิดซ้ำ |
| ความครอบคลุมการทดสอบประสิทธิภาพ | รันการทดสอบเล็กน้อยเพื่ออ้างความครอบคลุม ลดรายการบริการสำคัญ เก็บการทดสอบเก่าที่ผ่านไว้ในบัญชี | บันทึกอายุการทดสอบและความสมจริงของภาระงาน ทบทวนรายการบริการสำคัญเทียบกับแคตตาล็อกบริการและประวัติเหตุขัดข้อง รายงานการทดสอบที่ล้มเหลวควบคู่กับที่ผ่าน |
การอ่านค่าที่ดีแสดงอัตราการใช้งานที่เห็นวัฏจักรรายวันและช่องว่างสำรอง ความอิ่มตัวที่ปรากฏไม่บ่อยและสั้น เปอร์เซ็นไทล์ความหน่วงที่คงที่หรือดีขึ้นในชั่วโมงที่คับคั่งที่สุด และความคลาดเคลื่อนของการพยากรณ์ที่ทราบและค่อย ๆ เล็กลง สัญญาณที่ดีคือเรื่องน่าประหลาดใจถูกอภิปรายพร้อมสาเหตุ ตัวเลขสมบูรณ์แบบควรก่อความสงสัย เพราะมักหมายความว่าการวัดเบามือ
ข้อแลกเปลี่ยน: ข้อดีและข้อเสีย
| แนวทาง | จุดแข็ง | จุดอ่อน |
|---|---|---|
| ดำเนินงานด้วยช่องว่างสำรองเหลือเฟือ | ดูดซับเรื่องน่าประหลาดใจ ปกป้องความหน่วงและความพร้อมใช้งาน | ต้นทุนสูงกว่า ซ่อนความไม่มีประสิทธิภาพและการพยากรณ์ที่อ่อน |
| ดำเนินงานแบบประหยัดด้วยการปรับขนาดอัตโนมัติที่เร็ว | ต้นทุนต่ำกว่า ความจุตามความต้องการ | ขึ้นกับความเร็วและขีดจำกัดของการปรับขนาด การพึ่งพาอาจปรับขนาดไม่ได้ ใช้เหตุผลยากกว่าระหว่างเหตุขัดข้อง |
| เป้าหมายความหน่วงแบบเปอร์เซ็นไทล์ | สะท้อนความรู้สึกของคำขอที่ช้า ต้านกลเม็ดการเฉลี่ย | ต้องการข้อมูลและตัวอย่างใหญ่ขึ้น มีสัญญาณรบกวนที่เปอร์เซ็นไทล์สูงสำหรับบริการที่มีการจราจรต่ำ |
| ความหน่วงเฉลี่ยหรือมัธยฐานเท่านั้น | เรียบง่ายและคงที่ | ซ่อนหางที่ขับเคลื่อนข้อร้องเรียนและการสูญเสียลูกค้า |
| การทดสอบโหลดสังเคราะห์ | ควบคุมได้ ทำซ้ำได้ ปลอดภัย | สมจริงเท่าแบบจำลองภาระงานและสภาพแวดล้อมเท่านั้น |
| เทเลเมทรีระบบจริงเป็นฐาน | สะท้อนพฤติกรรมจริงและส่วนผสมจริง | เผยขีดจำกัดหลังจากชนแล้วเท่านั้น โพรบเกินความต้องการปัจจุบันไม่ได้ |
| แบบจำลองการพยากรณ์โดยละเอียด | จับความเป็นฤดูกาลและการเติบโต | ต้องการข้อมูลและทักษะ ให้ความรู้สึกแม่นยำที่เป็นเท็จเมื่อข้อมูลนำเข้าอ่อน |
| ช่วงง่าย ๆ ที่ตกลงกับธุรกิจ | อธิบายและปรับปรุงง่าย โฟกัสที่ข้อสมมติ | หยาบกว่า ขึ้นกับข้อมูลนำเข้าที่ซื่อตรงจากธุรกิจ |
เลือกวิธีที่เบาที่สุดที่รองรับการตัดสินใจ สำหรับบริการส่วนใหญ่ การดูอัตราการใช้งานช่วงเร่งด่วน ความอิ่มตัว และเปอร์เซ็นไทล์ความหน่วงทุกสัปดาห์ การทดสอบโหลดก่อนการเปลี่ยนแปลงใหญ่ และการทบทวนการพยากรณ์รายไตรมาสก็เพียงพอ เพิ่มการสร้างแบบจำลองในที่ที่ต้นทุนของการผิดพลาดสูง
คำถามสำหรับอภิปรายกับทีม
1. เส้นทางผู้ใช้สามเส้นใดสำคัญที่สุด และผู้ใช้คาดหวังเวลาตอบสนองเท่าใดสำหรับแต่ละเส้น ขอให้กลุ่มระบุเส้นทาง แล้วเปรียบเทียบกับสิ่งที่แดชบอร์ดวาดกราฟ ผู้อำนวยความสะดวกควรผลักดันให้ได้ความคาดหวังที่สืบกลับไปถึงผู้ใช้หรือลูกค้าได้ ไม่ใช่ความชอบของวิศวกร
2. บริการของเราอยู่ใกล้หน้าผาตรงไหน และเรารู้ได้อย่างไร มองหาทรัพยากรอย่างพูลการเชื่อมต่อ ขีดจำกัดเธรด หรือขีดจำกัดอัตราของคู่ค้า ถามว่าแต่ละอย่างถูกทดสอบถึงจุดพังครั้งสุดท้ายเมื่อใด ถ้าไม่มีใครรู้ นั่นคืองานชิ้นแรก
3. วันนี้เรารายงานความหน่วงอย่างไร และผู้ใช้หนึ่งเปอร์เซ็นต์ที่ช้าที่สุดจะพูดว่าอย่างไร แสดงค่าเฉลี่ย ค่ามัธยฐาน p95 และ p99 ของการดำเนินการหนึ่งรายการเคียงกันและอภิปรายช่องว่าง ถามว่าคำขอใดถูกยกเว้นและเพราะเหตุใด และนับคำขอที่ล้มเหลวหรือไม่
4. เราเก็บช่องว่างสำรองไว้เท่าใด ใครเป็นผู้เลือก และเราทบทวนการเลือกนั้นครั้งสุดท้ายเมื่อใด อภิปรายต้นทุนของส่วนเผื่อและต้นทุนของเหตุล่มในวันที่คับคั่งที่สุด ตกลงวันทบทวนและหลักฐานที่จะเปลี่ยนส่วนเผื่อ
5. การพยากรณ์ความต้องการสามครั้งล่าสุดของเราดีเพียงใด และเราเรียนรู้อะไร เปรียบเทียบการพยากรณ์ที่ลงวันที่กับค่าจริงและสาเหตุของการพลาดใหญ่ ถามว่าธุรกิจรู้อะไรที่ฝ่ายปฏิบัติการไม่ได้รับ ตัดสินใจเพิ่มข้อมูลนำเข้าหนึ่งอย่างในทะเบียนการพยากรณ์ เช่นปฏิทินการตลาดหรือกำหนดการเปิดตัว
6. ถ้าเราต้องการความจุเป็นสองเท่าในเดือนหน้า อะไรจะหยุดเรา ระบุทุกขั้นตอนจากคำขอถึงการจราจรระบบจริงและทำเครื่องหมายว่ารอตรงไหน รวมการจัดซื้อ การอนุมัติ ใบอนุญาต และการพึ่งพาที่ปรับขนาดไม่ได้ ผู้อำนวยความสะดวกควรมองหาการรอที่นานที่สุดที่ไม่ใช่เรื่องเทคนิค เพราะมักเป็นการอนุมัติหรือสัญญา ตกลงขั้นตอนหนึ่งที่จะทำให้สั้นลงและวัดผลผ่านระยะเวลานำของความจุ
สี่มุมมอง
ทีมผลิตภัณฑ์และการส่งมอบ
ใส่ความคาดหวังด้านประสิทธิภาพไว้ในเกณฑ์การยอมรับของฟีเจอร์ที่แตะเส้นทางที่คับคั่ง รันการทดสอบโหลดในไปป์ไลน์เมื่อทำได้ และบอกฝ่ายปฏิบัติการเรื่องการเปิดตัวแต่เนิ่น ๆ ระวังนิสัยที่ถือประสิทธิภาพเป็นงาน “เสริมความแกร่ง” ทีหลัง ซึ่งกลายเป็นงานที่ไม่ได้วางแผน (ดูหัวข้อ 2.9 “งานปฏิบัติการและงานที่ไม่ได้วางแผน”)
ทีมบริการและปฏิบัติการ
ทีมปฏิบัติการเป็นเจ้าของเทเลเมทรี แผนความจุ และการตอบสนองเมื่อถึงขีดจำกัด ต้องมีความอิ่มตัวและความหน่วงส่วนหางบนแดชบอร์ดที่ใช้จริง ทะเบียนการพยากรณ์ที่ใช้ร่วมกับธุรกิจ และผลการทดสอบที่ไว้ใจได้ ควรบันทึกเหตุขัดข้องที่เกี่ยวกับความจุแต่ละครั้งพร้อมสาเหตุ (ดูหัวข้อ 4.1 “ตัวชี้วัดการจัดการปัญหา” และหัวข้อ 3.4 “ตัวชี้วัดเหตุขัดข้องรุนแรง”)
ภาวะผู้นำและการกำกับดูแล
ผู้นำตัดสินใจว่าองค์กรยอมรับความเสี่ยงและต้นทุนเท่าใด และนโยบายช่องว่างสำรองคือที่ที่การตัดสินใจนั้นปรากฏ ขอเปอร์เซ็นไทล์ความหน่วงและช่องว่างสำรองต่อบริการสำคัญ พร้อมความคลาดเคลื่อนของการพยากรณ์ข้างกัน และถือคำขอความจุเป็นการตัดสินใจลงทุนที่มีหลักฐาน หน่วยงานกำกับดูแลควรต้านเป้าหมายอัตราการใช้งานเดียวทั่วองค์กร ซึ่งผลักทุกบริการไปยังจุดเดียวกันบนหน้าผา
ลูกค้าและผู้ใช้
ลูกค้ารู้สึกถึงความช้าเป็นความไม่น่าเชื่อถือ นานก่อนที่ตัวเลขความพร้อมใช้งานใดจะเปลี่ยน ระบุประสิทธิภาพเป็นเปอร์เซ็นไทล์ที่โหลดที่ระบุ และแบ่งปันว่าบริการรับมือช่วงเร่งด่วนอย่างไร (ดูหัวข้อ 5.1 “ตัวชี้วัด SLA, OLA และ XLA” และหัวข้อ 6.2 “ข้อตกลงระดับประสบการณ์”)
ในทางปฏิบัติ: ตัวอย่าง ITIL แบบคล่องตัว
ผู้ค้าปลีกออนไลน์ขนาดกลางดำเนินหน้าร้าน บริการชำระเงิน และบริการคำสั่งซื้อ แต่ละบริการเป็นของทีมผลิตภัณฑ์ โดยทีมแพลตฟอร์มให้โครงสร้างพื้นฐานร่วม ตัวเลขทั้งหมดในตัวอย่างนี้เป็นตัวอย่างประกอบ
การทบทวนรายสัปดาห์ของทีมแพลตฟอร์มแสดงการค้นหาของหน้าร้านด้วยความหน่วงมัธยฐาน 180 มิลลิวินาทีและ p95 ที่ 420 มิลลิวินาที ทั้งสองอยู่ในวัตถุประสงค์ และการใช้โปรเซสเซอร์ที่เปอร์เซ็นไทล์ที่ 95 ของชั่วโมงเร่งด่วนที่ 58 เปอร์เซ็นต์ สามสัปดาห์ก่อนการลดราคาตามแผน หัวหน้าฝ่ายสนับสนุนรายงานว่าลูกค้าบอกว่าเว็บไซต์ “คลานช้า” ระหว่างแคมเปญตอนเย็น แดชบอร์ดเป็นสีเขียว
ทีมดู p99 ของการค้นหาที่ชั่วโมงที่คับคั่งที่สุดของการลดราคาครั้งก่อนและพบ 3.1 วินาที เทียบกับวัตถุประสงค์ p99 ที่ 1.5 วินาที ความอิ่มตัวเล่าส่วนที่เหลือ: พูลการเชื่อมต่อไปยังฐานข้อมูลสินค้าแสดงคำขอที่รอใน 14 เปอร์เซ็นต์ของช่วงหนึ่งนาทีระหว่างจุดสูงสุด ขณะที่การใช้โปรเซสเซอร์ไม่เคยเกิน 60 เปอร์เซ็นต์ ข้อจำกัดไม่เคยเป็นโปรเซสเซอร์ แต่เป็นขีดจำกัดของพูลที่ตั้งไว้ตอนที่การจราจรเป็นหนึ่งในสามของวันนี้
เจ้าของผลิตภัณฑ์และหัวหน้าแพลตฟอร์มรันการทดสอบโหลดที่ 1.5 เท่าของจุดสูงสุดปีที่แล้ว โดยใช้ส่วนผสมการดำเนินการของระบบจริง การทดสอบแสดงว่าวัตถุประสงค์ p99 ถูกละเมิดที่ 1.15 เท่าของจุดสูงสุดปีที่แล้ว ช่องว่างสำรองจึงเป็น 15 เปอร์เซ็นต์ เทียบกับนโยบาย 40 เปอร์เซ็นต์สำหรับบริการที่หันหน้าสู่ลูกค้า ปฏิทินการตลาดบ่งชี้ความต้องการ 1.6 เท่าของจุดสูงสุดปีที่แล้วในวันเปิด การพยากรณ์เดิมที่ตรึงไว้ในทะเบียนตั้งช่วงไว้ที่ 1.2 ถึง 1.4 และความคลาดเคลื่อนเทียบกับการลดราคาปีที่แล้วคือ 22 เปอร์เซ็นต์ ส่วนใหญ่มาจากแคมเปญอีเมลที่ไม่ได้ประกาศ
การตัดสินใจที่บันทึกในบันทึกการตัดสินใจมีสี่ส่วน หนึ่ง เพิ่มขีดจำกัดพูลและเพิ่มรีพลิกาสำหรับอ่าน แล้วทดสอบซ้ำ สอง เพิ่มรายการตรวจความพร้อมสำหรับการลดราคาในกระบวนการปล่อยรุ่น เพื่อให้แคมเปญเข้าทะเบียนการพยากรณ์อย่างน้อยหกสัปดาห์ล่วงหน้า สาม เพิ่ม p99 และความอิ่มตัวของพูลในการทบทวนรายสัปดาห์ สี่ ตกลงกับฝ่ายการเงินเรื่องต้นทุนของความจุเพิ่มเติมสำหรับช่วงลดราคา โดยใช้การปรับขนาดตามกำหนดแทนการสำรองตลอดปี
หลังการเปลี่ยนแปลง การทดสอบครั้งที่สองแสดงว่าวัตถุประสงค์ p99 ยังคงอยู่ถึง 1.8 เท่าของจุดสูงสุดปีที่แล้ว ความเสี่ยงเรื่องการบิดเบือนปรากฏระหว่างการทบทวน ผู้รับเหมารายหนึ่งเสนอ “ชัยชนะง่าย ๆ” คือการตัดคำขอที่ช้ากว่า 5 วินาทีออกจากรายงานความหน่วง โดยอ้างว่าเป็นค่านอกกลุ่ม ทีมปฏิเสธ: คำขอที่ถูกตัดคือลูกค้าที่ร้องเรียนพอดี มาตรการป้องกันคือเก็บอัตราข้อผิดพลาดและการหมดเวลาไว้ข้างเปอร์เซ็นไทล์ความหน่วงทุกตัวและบันทึกขนาดตัวอย่าง ระหว่างการลดราคา p99 สูงสุดที่ 1.2 วินาที ความอิ่มตัวของพูลต่ำกว่า 1 เปอร์เซ็นต์ของช่วงเวลา และความคลาดเคลื่อนของการพยากรณ์คือ 9 เปอร์เซ็นต์ บันทึกในทะเบียนพร้อมเหตุผลของการพลาดที่เหลืออยู่
มุมมองตามประเภทองค์กร
สตาร์ทอัป การจราจรน้อยและการเติบโตไม่แน่นอน ดังนั้นตัวชี้วัดราคาถูกดีกว่าที่ซับซ้อน ติดตามเปอร์เซ็นไทล์ความหน่วงของสองถึงสามเส้นทางที่สร้างรายได้ เฝ้าดูความอิ่มตัวบนฐานข้อมูล และรันการทดสอบโหลดง่าย ๆ ก่อนเปิดตัว ตั้งการแจ้งเตือนค่าใช้จ่ายเพื่อไม่ให้บั๊กหรือการจราจรพุ่งกลายเป็นใบแจ้งหนี้
ธุรกิจขนาดเล็ก บริการมักเป็นของที่โฮสต์หรือซื้อมา ดังนั้นความจุจึงเป็นเรื่องของผู้จัดหา ขอรายงานประสิทธิภาพและความจุจากผู้จัดหาเป็นลายลักษณ์อักษร เรียนรู้ว่าสัญญาพูดอะไรเกี่ยวกับช่วงเร่งด่วน และเฝ้าดูมุมมองของลูกค้าด้วยการตรวจสังเคราะห์ไม่กี่อย่าง ติดตามช่องว่างสำรองของระบบเดียวที่ธุรกิจขาดไม่ได้
องค์กรขนาดใหญ่ บริการจำนวนมากใช้โครงสร้างพื้นฐานร่วมกัน ปัญหาความจุจึงปรากฏผิดที่ ลงทุนในแผนที่บริการที่เชื่อมบริการกับองค์ประกอบที่ใช้ กระบวนการพยากรณ์ร่วมกับหน่วยธุรกิจ และนิยามร่วมของเปอร์เซ็นไทล์ความหน่วงข้ามทีม ตั้งนโยบายช่องว่างสำรองตามความสำคัญของบริการ
ภาครัฐและหน่วยงานสาธารณะ ความต้องการถูกกำหนดโดยกำหนดเวลาตามกฎหมาย เช่นวันยื่นภาษี การเรียกร้องสวัสดิการ และการเลือกตั้ง และความล้มเหลวในวันเหล่านั้นเป็นเรื่องสาธารณะ การพยากรณ์ควรใช้ปฏิทินตามกฎหมาย และความจุสำหรับจุดสูงสุดอาจต้องทำสัญญาล่วงหน้าหลายเดือน ระยะเวลานำของการจัดซื้อทำให้ระยะเวลานำของความจุยาวขึ้น จึงควรวัดและวางแผนรอบมัน รายงานสาธารณะเรื่องประสิทธิภาพบริการควรระบุเปอร์เซ็นไทล์และเงื่อนไขโหลด (ดูหัวข้อ 8.5 “การรายงานตามข้อกำหนดและต่อภาครัฐ”)
กรณีทางธุรกิจ: แรงจูงใจ ROI และ TCO
ต้นทุนมีสี่ส่วน ส่วนแรกคือการติดตั้งเครื่องมือวัด: เทเลเมทรีและที่เก็บ ส่วนที่สองคือการทดสอบ: สภาพแวดล้อมที่เป็นตัวแทนและแบบจำลองภาระงานที่ต้องบำรุงรักษา ส่วนที่สามคือกิจวัตรการวางแผน: การดูแลทะเบียนการพยากรณ์และการทบทวนความคลาดเคลื่อนทุกไตรมาส ส่วนที่สี่คือความจุสำรองเอง ซึ่งมักเป็นต้นทุนที่ใหญ่ที่สุดและเป็นอันที่คุ้มค่าที่สุดที่จะทำให้ชัดเจน
ผลตอบแทนมาจากเหตุขัดข้องที่เกี่ยวกับความจุน้อยลง การตัดสินใจที่ดีขึ้นว่าเมื่อใดควรซื้อและเมื่อใดไม่ควร และการหลีกเลี่ยงการใช้จ่ายกับความจุที่ข้อมูลแสดงว่าไม่จำเป็น อย่าสัญญาเปอร์เซ็นต์การประหยัดล่วงหน้า แต่ให้วัดรูปแบบของท่านเอง: จำนวนเหตุขัดข้องที่มีสาเหตุจากความจุต่อไตรมาส สัดส่วนจุดสูงสุดที่ต้องการการดำเนินการฉุกเฉิน รายจ่ายกับความจุที่ว่างเทียบกับนโยบายช่องว่างสำรองที่ตกลง และแนวโน้มของความคลาดเคลื่อนของการพยากรณ์ หนังสือ SRE ของ Google ถือความน่าเชื่อถือเป็นการตัดสินใจทางเศรษฐศาสตร์
ต้นทุนรวมของการเป็นเจ้าของถูกครอบงำโดยบุคลากรและสภาพแวดล้อมการทดสอบ ทีมเล็กเริ่มได้ด้วยการเฝ้าติดตามที่มีอยู่ การทบทวนรายสัปดาห์ และการทดสอบโหลดหนึ่งครั้งสำหรับเส้นทางที่สำคัญที่สุด
รูปแบบที่ไม่ควรทำและข้อควรระวัง
- รายงานอัตราการใช้งานเฉลี่ยเป็นเรื่องราวของความจุ ค่าเฉลี่ยซ่อนจุดสูงสุดและหน้าผา รายงานเปอร์เซ็นไทล์สูงของชั่วโมงเร่งด่วนและตัวชี้วัดความอิ่มตัว
- ความหน่วงเฉลี่ยบนแดชบอร์ดผู้บริหาร หางขับเคลื่อนข้อร้องเรียน แสดง p95 และ p99 พร้อมอัตราข้อผิดพลาดและขนาดตัวอย่าง
- ตัด “ค่านอกกลุ่ม” ออกจากความหน่วง คำขอที่ช้าที่สุดคือผู้ใช้จริง เก็บไว้ และสืบสวนสาเหตุแทนการตัดข้อมูล
- เฉลี่ยเปอร์เซ็นไทล์ข้ามเซิร์ฟเวอร์ ผลลัพธ์ไม่อธิบายใคร รวมฮิสโทแกรมหรือข้อสังเกตดิบก่อนคำนวณเปอร์เซ็นไทล์
- แผนความจุที่สร้างจากการจราจรปีที่แล้วอย่างเดียว ความต้องการขึ้นกับเหตุการณ์ทางธุรกิจ รวมปฏิทินธุรกิจและทบทวนความคลาดเคลื่อนของการพยากรณ์
- ทดสอบในสภาพแวดล้อมที่ไม่เหมือนระบบจริง ผลที่ผ่านให้ความมั่นใจที่เป็นเท็จ บันทึกความแตกต่างและแก้ไข หรือทดสอบบนระบบจริงอย่างปลอดภัย
- ใช้ตัวชี้วัดความจุจัดอันดับวิศวกรหรือทีม อัตราการใช้งานและความหน่วงอธิบายระบบ ทบทวนในแง่การออกแบบบริการและความต้องการ และกันบุคคลออกจากภาพ
แบบจำลองวุฒิภาวะ
| มิติ | 1 เริ่มต้น | 2 พัฒนา | 3 ทำให้เป็นมาตรฐาน | 4 บริหารจัดการ | 5 ประสานจัดการ |
|---|---|---|---|---|---|
| การวัดอัตราการใช้งาน ความอิ่มตัว และความหน่วง | ค่าเฉลี่ยจากเซิร์ฟเวอร์ไม่กี่เครื่อง การแจ้งเตือนเมื่อใช้โปรเซสเซอร์สูง | บางทีมวาดเปอร์เซ็นไทล์ความหน่วงและคิว | นิยามร่วม: เปอร์เซ็นไทล์ต่อการดำเนินการหลัก ความอิ่มตัวข้างอัตราการใช้งาน เขียนหน้าต่างไว้ | มีแนวโน้มเทียบกับวัตถุประสงค์ จับคู่กับอัตราข้อผิดพลาด ทบทวนรายสัปดาห์ | ปรับนิยามร่วมกับผู้จัดหาและลูกค้า กระทบยอดมุมมองฝั่งผู้ใช้และฝั่งเซิร์ฟเวอร์ |
| ขีดจำกัดและช่องว่างสำรอง | ไม่รู้ขีดจำกัดจนกว่าจะล้มเหลว | ทดสอบโหลดเป็นครั้งคราวก่อนการเปิดตัวใหญ่ | ทดสอบโหลดบริการสำคัญเทียบกับนโยบายช่องว่างสำรองที่เขียนไว้ | ติดตามช่องว่างสำรองต่อบริการและทดสอบซ้ำหลังการเปลี่ยนแปลงที่เกี่ยวข้อง | ปรับนโยบายช่องว่างสำรองจากข้อมูลต้นทุน ความเสี่ยง และเหตุขัดข้องข้ามทีมและผู้จัดหา |
| การพยากรณ์ | เดาเฉพาะกิจเมื่อมีคำขอ | แต่ละทีมเก็บการพยากรณ์ไว้ในหัวหรือสเปรดชีต | ทะเบียนการพยากรณ์ร่วมที่มีช่วงและเจ้าของ ป้อนด้วยปฏิทินธุรกิจ | ให้คะแนนและทบทวนความคลาดเคลื่อนของการพยากรณ์ พร้อมสาเหตุของการพลาด | สร้างการพยากรณ์ร่วมกับธุรกิจและผู้จัดหา ปรับปรุงข้อมูลนำเข้าเป็นกิจวัตร |
| การส่งมอบความจุ | เพิ่มความจุหลังเหตุขัดข้อง | คำขอมาตรฐานสำหรับกรณีทั่วไป | เส้นทางที่จัดทำเอกสารจากการอนุมัติถึงการจราจรระบบจริง วัดระยะเวลานำของความจุ | มุ่งเป้าการรอที่นานที่สุดด้วยการปรับปรุงที่ได้รับทุน | เพิ่มความจุโดยอัตโนมัติภายในนโยบาย ทบทวนพฤติกรรมการปรับขนาดและต้นทุนร่วมกัน |
รายการตรวจสอบ
- ระบุชื่อเส้นทางผู้ใช้ที่สำคัญ แต่ละเส้นมีความคาดหวังด้านความหน่วงที่ตกลงกับเจ้าของ
- รายงานความหน่วงเป็นค่ามัธยฐาน p95 และ p99 ต่อการดำเนินการ พร้อมระบุหน้าต่างและขนาดตัวอย่าง
- คำนวณเปอร์เซ็นไทล์จากฮิสโทแกรมหรือข้อสังเกตดิบ ไม่เคยเฉลี่ยข้ามเซิร์ฟเวอร์
- ทุกแผนภูมิอัตราการใช้งานมีแผนภูมิความอิ่มตัวอยู่ข้างกัน
- แสดงอัตราข้อผิดพลาดและการหมดเวลาข้างเปอร์เซ็นไทล์ความหน่วงแต่ละตัว
- บริการสำคัญแต่ละบริการมีการทดสอบโหลด พร้อมเขียนความแตกต่างของภาระงานและสภาพแวดล้อมไว้
- มีนโยบายช่องว่างสำรองตามความสำคัญของบริการ พร้อมบันทึกเหตุผล
- ทะเบียนการพยากรณ์ที่ลงวันที่เก็บช่วง ข้อสมมติ และเจ้าของ และป้อนด้วยปฏิทินธุรกิจ
- ทบทวนความคลาดเคลื่อนของการพยากรณ์ทุกไตรมาส พร้อมบันทึกสาเหตุของการพลาดใหญ่
- วัดระยะเวลานำของความจุจากการอนุมัติถึงการรับการจราจร
- ทบทวนขีดจำกัด ความหน่วงเวลา และต้นทุนของการปรับขนาดอัตโนมัติร่วมกับเจ้าของบริการ
- ไม่มีตัวชี้วัดความจุหรือประสิทธิภาพใดถูกรายงานรายบุคคล
พรอมต์ AI
ทบทวนรายงานความหน่วงเพื่อหาการบิดเบือนที่ซ่อนอยู่
นี่คือวิธีที่เรารายงานความหน่วงของ [การดำเนินการหรือบริการ]: [คำอธิบาย
จุดวัด หน้าต่าง สถิติที่แสดง และคำขอใดรวมหรือไม่รวม] ผู้ใช้ของเราใส่ใจ
[เส้นทางผู้ใช้หรือความคาดหวัง] ระบุวิธีที่รายงานนี้อาจประเมินประสบการณ์
ของผู้ใช้ที่ช้าที่สุดต่ำเกินไป เช่นการเฉลี่ย กฎการยกเว้น การสุ่มตัวอย่าง หรือ
ที่ตั้งการวัด เสนอสิ่งที่ควรแสดงแทนและข้อมูลเพิ่มเติมที่ฉันต้องมี อย่าคิดค่า
เทียบเคียงหรือเกณฑ์ขึ้นเอง ให้ถามฉันถึงค่าที่คุณต้องการ ระบุข้อสมมติของคุณ
ร่างแผนการทดสอบโหลดสำหรับบริการ
ฉันต้องการแผนการทดสอบโหลดสำหรับ [ชื่อบริการ] เส้นทางผู้ใช้หลักคือ
[เส้นทาง] การพึ่งพาคือ [การพึ่งพา] และส่วนผสมการจราจรของระบบจริง
โดยประมาณคือ [คำอธิบายส่วนผสม] สภาพแวดล้อมทดสอบต่างจากระบบจริง
ในแง่เหล่านี้: [ความแตกต่าง] เสนอแบบจำลองภาระงาน รูปแบบการเพิ่มโหลด
ตัวชี้วัดที่ต้องบันทึก (เปอร์เซ็นไทล์ความหน่วง อัตราข้อผิดพลาด อัตราการใช้งาน ความอิ่มตัว)
เงื่อนไขการหยุด และคำถามที่ผลลัพธ์ควรตอบ อย่าสันนิษฐานฟีเจอร์ของเครื่องมือ
หรือคิดค่าเป้าหมายขึ้นเอง ระบุข้อสมมติของคุณและความเสี่ยงของการทดสอบ
จัดโครงสร้างการพยากรณ์ความต้องการร่วมกับธุรกิจ
ฉันกำลังเตรียมการพยากรณ์ความจุสำหรับ [บริการ] ครอบคลุม [ขอบฟ้า]
ข้อมูลนำเข้าที่ทราบ: [คำอธิบายการจราจรในอดีต] [เหตุการณ์ทางธุรกิจและวันที่] และ
[การเปลี่ยนแปลงที่วางแผนไว้] ร่างรูปแบบทะเบียนการพยากรณ์ที่มีกรณีต่ำ กรณีที่คาดไว้
และกรณีสูง ข้อสมมติเบื้องหลังแต่ละกรณี เจ้าของข้อมูลนำเข้าแต่ละรายการ และ
กิจวัตรทบทวนที่ให้คะแนนความคลาดเคลื่อนของการพยากรณ์ เสนอคำถามที่ควรถาม
[ผู้มีส่วนได้ส่วนเสียทางธุรกิจ] อย่าคิดอัตราการเติบโตหรือปัจจัยฤดูกาลขึ้นเอง
ระบุข้อสมมติของคุณ
หาข้อจำกัดจริงจากอาการ
บริการแสดงอาการเหล่านี้ระหว่างโหลดสูงสุด: [อาการ เช่น p99 ช้า คิวโต
ประเภทข้อผิดพลาด] ข้อมูลอัตราการใช้งาน: [สรุปอัตราการใช้งานทรัพยากร]
ข้อมูลความอิ่มตัว: [สรุปคิว พูล การจำกัด] หมายเหตุสถาปัตยกรรม: [คำอธิบายสั้น ๆ]
ระบุทรัพยากรและขีดจำกัดที่อาจเป็นข้อจำกัด หลักฐานที่จะแยกแยะระหว่างกัน
และการทดสอบถัดไปที่ถูกที่สุดสำหรับแต่ละอย่าง อย่าอ้างสาเหตุที่ข้อมูลไม่รองรับ
ระบุข้อสมมติของคุณ
ทักษะ AI
- ทักษะ Agile ITIL Metrics: ใช้เพื่อหาหัวข้อที่นิยามตัวชี้วัดความจุหรือประสิทธิภาพ นาฬิกาของมัน และมาตรการป้องกันที่ควรอยู่ข้างกัน
- ทักษะผู้ดูแล Agile ITIL Metrics: ใช้เพื่อตรวจว่าหัวข้อความจุหรือประสิทธิภาพที่แก้ไขแล้วยังคงจับคู่ทุกตัวชี้วัดกับช่องทางการบิดเบือนและมาตรการป้องกัน
ข้อสรุปสำคัญ
- วัดความอิ่มตัวควบคู่กับอัตราการใช้งาน เพราะผู้ใช้รู้สึกถึงคิว ไม่ใช่เปอร์เซ็นต์
- รายงานความหน่วงเป็นเปอร์เซ็นไทล์ต่อการดำเนินการ พร้อมอัตราข้อผิดพลาดและขนาดตัวอย่าง และไม่เคยเฉลี่ยเปอร์เซ็นไทล์
- ค้นหาขีดจำกัดด้วยการทดสอบและตั้งช่องว่างสำรองเป็นนโยบายที่บันทึกไว้ซึ่งชั่งต้นทุนเทียบกับความเสี่ยง
- พยากรณ์ความต้องการเป็นช่วงร่วมกับธุรกิจ ตรึงการพยากรณ์ และเรียนรู้จากความคลาดเคลื่อน
- ทำให้ระยะเวลานำของความจุสั้นลงและวัดการปรับขนาดอัตโนมัติ เพื่อให้ความจุตามความต้องการ
- อธิบายบริการและระบบ ไม่ใช่บุคคล และถือตัวเลขที่ดูสมบูรณ์แบบเป็นสิ่งกระตุ้นให้ตรวจสอบการวัด
เอกสารอ้างอิงและแหล่งอ่านเพิ่มเติม
- Beyer, B., Jones, C., Petoff, J., and Murphy, N. R. (eds.), Site Reliability Engineering: How Google Runs Production Systems, O'Reilly Media, 2016, https://sre.google/sre-book/table-of-contents/
- Google, "Monitoring Distributed Systems," chapter in Site Reliability Engineering, 2016, https://sre.google/sre-book/monitoring-distributed-systems/
- Beyer, B., Murphy, N. R., Rensin, D. K., Kawahara, K., and Thorne, S. (eds.), The Site Reliability Workbook: Practical Ways to Implement SRE, O'Reilly Media, 2018, https://sre.google/workbook/table-of-contents/
- Dean, J., and Barroso, L. A., "The Tail at Scale," Communications of the ACM, 56(2), 2013.
- Little, J. D. C., "A Proof for the Queuing Formula: L = λW," Operations Research, 9(3), 1961.
- Gregg, B., Systems Performance: Enterprise and the Cloud, 2nd edition, Addison-Wesley, 2020.
- Allspaw, J., The Art of Capacity Planning, O'Reilly Media, 2008.
- Gunther, N. J., Guerrilla Capacity Planning, Springer, 2007.
- Forsgren, N., Humble, J., and Kim, G., Accelerate: The Science of Lean Software and DevOps, IT Revolution, 2018.
- AXELOS (now PeopleCert), ITIL 4 Foundation and the ITIL 4 practice guide for capacity and performance management, 2019 onwards.
- Wikipedia, Capacity planning.
- Wikipedia, Site reliability engineering.
- Wikipedia, Latency (engineering).
- Wikipedia, Throughput.
- Wikipedia, Queueing theory.
- Wikipedia, Little's law.
- Wikipedia, Load testing.
- Wikipedia, Percentile.
- Wikipedia, Tail latency.
- Wikipedia, Forecasting.
- Wikipedia, Seasonality.
- Wikipedia, Autoscaling.