ตัวชี้วัดการกำกับดูแลและความเสี่ยงของปัญญาประดิษฐ์
การใช้ปัญญาประดิษฐ์ต้องมีวินัยเช่นเดียวกับการเปลี่ยนแปลงใด ๆ ของบริการที่ใช้งานจริง คือรู้ว่าอยู่ที่ใด ใครเป็นเจ้าของ เสี่ยงเพียงใด ทดสอบและเปลี่ยนแปลงอย่างไร และจะเกิดอะไรขึ้นเมื่อมีสิ่งผิดพลาด พร้อมการกำกับดูแลที่ผู้คนใช้ได้จริง
ภาพรวมและแรงจูงใจ
ปัญญาประดิษฐ์เข้าสู่องค์กรผ่านหลายประตู ทีมหนึ่งนำผู้ช่วยเขียนโค้ดมาใช้ ผู้ขายเพิ่มฟีเจอร์เชิงสร้างสรรค์ให้ผลิตภัณฑ์ที่ใช้อยู่แล้ว พนักงานวางเอกสารลงในเครื่องมือสาธารณะ แผนกหนึ่งสร้างโมเดลเพื่อให้คะแนนคำขอ แต่ละกรณีคือการใช้ปัญญาประดิษฐ์ที่มีประโยชน์และความเสี่ยงของตนเอง และมีไม่กี่กรณีที่มองเห็นได้ในที่เดียว การกำกับดูแลคือชุดของโครงสร้าง นโยบาย และแนวปฏิบัติที่ทำให้การใช้เหล่านั้นเป็นที่รับรู้ มีผู้รับผิดชอบ และปลอดภัยเพียงพอ ตัวชี้วัดความเสี่ยงบอกว่าการกำกับดูแลได้ผลหรือไม่
ITIL มีส่วนประกอบพื้นฐานอยู่แล้ว ได้แก่ การกำกับดูแลระบบคุณค่าของบริการ การจัดการความเสี่ยง การสนับสนุนการเปลี่ยนแปลง การจัดการความมั่นคงปลอดภัยของข้อมูล การจัดการผู้ให้บริการ และการปรับปรุงอย่างต่อเนื่อง วิธีการทำงานแบบ Agile และ DevOps เติมนิสัยของการเปลี่ยนแปลงเล็ก ๆ ที่ควบคุมและย้อนกลับได้ และการตรวจสอบอัตโนมัติในสายธาร การกำกับดูแลปัญญาประดิษฐ์ไม่ต้องการจักรวาลแยกต่างหาก แต่ต้องการให้แนวปฏิบัติเหล่านี้ใช้กับสิ่งที่ทำงานต่างจากซอฟต์แวร์ทั่วไป
ปัญญาประดิษฐ์ต่างออกไปอย่างไร
- พฤติกรรมเป็นเชิงสถิติและเปลี่ยนได้โดยไม่ต้องเปลี่ยนโค้ด โมเดลอาจทำงานต่างไปหลังการอัปเดตของผู้ขาย การเปลี่ยนแปลงข้อมูลนำเข้า หรือการเปลี่ยนพรอมต์ ข้อมูลที่เห็นในการผลิตอาจเลื่อนไหลจากข้อมูลที่ใช้ทดสอบ ซึ่งเป็นปรากฏการณ์ที่เรียกในการเรียนรู้ของเครื่องว่าการเลื่อนไหล (drift) ระบบอาจเสื่อมคุณภาพอย่างเงียบ ๆ
- ผลลัพธ์คาดเดาได้ไม่สมบูรณ์ การทดสอบครอบคลุมข้อมูลนำเข้าทุกแบบไม่ได้ การประเมินจึงใช้การสุ่มตัวอย่างและการทดสอบเฉพาะจุด ไม่ใช่การพิสูจน์ ระบบอาจล้มเหลวในรูปแบบที่ผู้สร้างไม่ได้คาดไว้
- ความเสียหายอาจกระจายและไม่เท่าเทียม อคติเชิงอัลกอริทึมคือความคลาดเคลื่อนเชิงระบบที่นำไปสู่ผลลัพธ์ที่ไม่เป็นธรรมต่อบางกลุ่ม อาจเกิดจากข้อมูล การออกแบบ หรือการใช้ และอาจไม่ปรากฏในตัวเลขความถูกต้องโดยรวม
- พื้นผิวการโจมตีใหม่ปรากฏ การฉีดพรอมต์ (prompt injection) คือการโจมตีที่คำสั่งซ่อนในข้อมูลนำเข้าชักจูงโมเดลภาษาให้ทำสิ่งที่ไม่ได้ตั้งใจ โมเดลอาจถูกชักนำให้เปิดเผยข้อมูลหรือลงมือทำสิ่งที่เจ้าของไม่ได้ตั้งใจ
- การพึ่งพาผู้ให้บริการลึกซึ้ง ความสามารถด้านปัญญาประดิษฐ์จำนวนมากมาจากผู้ให้บริการภายนอก โดยมองเห็นได้จำกัดว่าสร้างหรือเปลี่ยนแปลงอย่างไร ตัวชี้วัดผู้ให้บริการจึงสำคัญขึ้น (ดูหัวข้อ 8.4 “ตัวชี้วัดผู้ให้บริการและสัญญา”)
- กฎกำลังเกิดขึ้นและต่างกันตามพื้นที่ กฎหมาย มาตรฐาน และแนวทางด้านปัญญาประดิษฐ์พัฒนารวดเร็ว กฎหมายปัญญาประดิษฐ์ของสหภาพยุโรป (Artificial Intelligence Act) ใช้แนวทางอิงความเสี่ยงโดยมีข้อผูกพันที่บังคับใช้เป็นระยะ และเขตอำนาจอื่นเลือกเส้นทางต่างออกไป มาตรฐานเช่น ISO/IEC 42001 ว่าด้วยระบบการจัดการปัญญาประดิษฐ์ และกรอบการจัดการความเสี่ยงปัญญาประดิษฐ์ของ NIST ให้โครงสร้าง ข้อความเกี่ยวกับกฎเฉพาะเจาะจงในหัวข้อนี้อ้างอิง ณ เดือนตุลาคม 2026 และควรตรวจสอบซ้ำ และคำแนะนำทางกฎหมายควรนำทางข้อผูกพันของตน สาขาที่กว้างกว่านี้มีการเรียกต่างกันไปว่าปัญญาประดิษฐ์ที่มีความรับผิดชอบ (responsible AI) หรือปัญญาประดิษฐ์ที่น่าเชื่อถือ และคำถามว่ากฎหมายควรปฏิบัติต่อปัญญาประดิษฐ์อย่างไรเป็นหัวข้อของการกำกับดูแลปัญญาประดิษฐ์ทางกฎหมาย
การกำกับดูแลล้มเหลวได้สองทางตรงข้ามกัน อาจหนักจนทีมหลีกเลี่ยง และการใช้ปัญญาประดิษฐ์ลงใต้ดินเป็นไอทีเงา (shadow IT) หรืออาจเป็นเพียงงานบนกระดาษ มีนโยบายและทะเบียนที่ไม่สะท้อนการปฏิบัติ เป้าหมายแบบ Agile ชี้ทางสายกลาง คือให้ผู้มีส่วนได้ส่วนเสียมีส่วนร่วมอย่างต่อเนื่องในการกำหนดกฎ อนุมัติเล็ก ๆ และเร็วสำหรับการใช้ที่เสี่ยงต่ำ ตรวจสอบเข้มข้นขึ้นที่ที่อาจเกิดอันตราย และปรับปรุงการควบคุมอย่างต่อเนื่องเมื่อประสบการณ์เพิ่มขึ้น บุคลากรที่มีแรงจูงใจซึ่งมีขอบเขตชัดเจนและได้รับความไว้วางใจให้ใช้วิจารณญาณภายในขอบเขตนั้นจะรายงานปัญหา ผู้ที่กลัวถูกลงโทษจะไม่รายงาน
มาตรการป้องกันจากกฎของกูดฮาร์ตใช้กับตัวชี้วัดการกำกับดูแล เมื่อ “เปอร์เซ็นต์ของการใช้ปัญญาประดิษฐ์ที่ขึ้นทะเบียน” เป็นเป้าหมาย ทะเบียนจะเต็มไปด้วยรายการที่ไม่มีใครอ่าน และการใช้จริงยังคงพ้นสายตา (ดูหัวข้อ 1.2 “กฎของกูดฮาร์ตและจิตวิทยาของตัวชี้วัด”)
หัวข้อนี้สร้างบนหัวข้อเรื่องความเสี่ยง การปฏิบัติตามข้อกำหนด และความมั่นคงปลอดภัยในส่วนที่ 8 และหัวข้อก่อนหน้าในส่วนนี้
หลักการสำคัญ
- รู้ว่าใช้ปัญญาประดิษฐ์ที่ใด ทะเบียนการใช้งาน รวมถึงที่ฝังในผลิตภัณฑ์และที่พนักงานนำมาใช้เอง เป็นรากฐาน
- จับคู่ความเข้มของการตรวจสอบกับความเสี่ยง เบาสำหรับการใช้ที่เสี่ยงต่ำ ลึกกว่าสำหรับที่มีผลสืบเนื่อง
- ปฏิบัติต่อการเปลี่ยนแปลงโมเดลและพรอมต์เป็นการเปลี่ยนแปลง ต้องมีการทดสอบ การอนุมัติตามสัดส่วนความเสี่ยง และความสามารถในการย้อนกลับ
- ประเมินก่อนและระหว่างการใช้ ทดสอบกับกรณีที่สมจริง และทดสอบต่อเนื่องในการผลิต
- รักษาการกำกับดูแลโดยมนุษย์ที่มีความหมาย บุคคลต้องเข้าใจ ตั้งคำถาม และยกเลิกได้ และมีเวลาและอำนาจทำเช่นนั้น
- เรียนรู้จากเหตุการณ์โดยไม่กล่าวโทษ ความล้มเหลวของปัญญาประดิษฐ์เป็นเรื่องใหม่ และการรายงานคือวิธีที่องค์กรเรียนรู้
- ทำให้การอนุมัติกรณีปลอดภัยรวดเร็ว การกำกับดูแลที่ช้าผลักการใช้งานให้พ้นสายตา
นิยามตัวชี้วัด
| ตัวชี้วัด | นิยาม | สูตร | หน่วย | แหล่งข้อมูล | แนวปฏิบัติ ITIL | คู่เทียบแบบ Agile | ความถี่ |
|---|---|---|---|---|---|---|---|
| ความครอบคลุมของทะเบียนการใช้ปัญญาประดิษฐ์ | สัดส่วนของการใช้ปัญญาประดิษฐ์ที่พบด้วยวิธีอิสระซึ่งอยู่ในทะเบียนพร้อมเจ้าของและระดับความเสี่ยง | การใช้ที่อยู่ในทะเบียนพร้อมเจ้าของและระดับความเสี่ยง / การใช้ที่พบจากการค้นหาอิสระ (การจัดซื้อ ค่าใช้จ่าย ข้อมูลระบุตัวตน เครือข่าย และรายงานของพนักงาน) | เปอร์เซ็นต์ | ทะเบียน ข้อมูลการจัดซื้อและค่าใช้จ่าย บันทึกการระบุตัวตน แบบสำรวจ | การกำกับดูแล การจัดการสินทรัพย์ไอที การจัดการความเสี่ยง | งานที่มองเห็นได้และความเป็นเจ้าของที่ชัดเจน | รายไตรมาส |
| ความเป็นปัจจุบันของการประเมินความเสี่ยง | สัดส่วนของการใช้ที่เสี่ยงปานกลางและสูงซึ่งมีการประเมินความเสี่ยงภายในรอบที่กำหนด | การใช้ที่ประเมินภายในรอบ / การใช้ที่เสี่ยงปานกลางและสูง | เปอร์เซ็นต์ | การประเมินความเสี่ยง | การจัดการความเสี่ยง การจัดการความมั่นคงปลอดภัยของข้อมูล | การทบทวนความเสี่ยงอย่างสม่ำเสมอ | รายไตรมาส |
| ความครอบคลุมของการควบคุมการเปลี่ยนแปลง | สัดส่วนของการเปลี่ยนแปลงโมเดล พรอมต์ เครื่องมือ และแหล่งข้อมูลในการผลิตที่ผ่านการควบคุมการเปลี่ยนแปลงพร้อมการทดสอบที่กำหนด | การเปลี่ยนแปลงที่มีบันทึกการเปลี่ยนแปลง การทดสอบ และการอนุมัติตามสัดส่วนความเสี่ยง / การเปลี่ยนแปลงที่ตรวจพบ | เปอร์เซ็นต์ | บันทึกการเปลี่ยนแปลงเทียบกับประวัติเวอร์ชันและบันทึกการปล่อยรุ่นของผู้ขาย | การสนับสนุนการเปลี่ยนแปลง การจัดการการปล่อยรุ่นและการติดตั้งใช้งาน | การเปลี่ยนแปลงเล็ก ๆ ที่ควบคุมและย้อนกลับได้ | รายเดือน |
| ความเป็นปัจจุบันของการประเมิน | สัดส่วนของการใช้ในการผลิตที่มีการประเมินปัจจุบัน (ความถูกต้อง ความปลอดภัย และความเป็นธรรมเมื่อเกี่ยวข้อง) และผลอยู่ในเกณฑ์ที่ยอมรับ | การใช้ที่มีการประเมินภายในรอบและผลยอมรับได้ / การใช้ในการผลิตที่อยู่ในขอบเขต | เปอร์เซ็นต์ | บันทึกการประเมิน | การประกันคุณภาพ การจัดการความเสี่ยง | นิยามของความเสร็จสิ้นสำหรับพฤติกรรม | รายไตรมาส |
| อัตราหลักฐานการกำกับดูแลโดยมนุษย์ | สัดส่วนของผลลัพธ์หรือการตัดสินใจที่มีผลสืบเนื่องซึ่งสุ่มตัวอย่าง และมีบันทึกการทบทวนโดยมนุษย์อย่างมีสาระ | รายการที่สุ่มตัวอย่างซึ่งมีการทบทวนที่บันทึกไว้และอาจเปลี่ยนผลลัพธ์ได้ / รายการที่สุ่มตัวอย่าง | เปอร์เซ็นต์ | บันทึกการตัดสินใจที่สุ่มตัวอย่าง | การจัดการความเสี่ยง การกำกับดูแล | ทบทวนก่อนปล่อย | รายเดือน |
| อัตราเหตุการณ์ปัญญาประดิษฐ์และเวลาถึงการควบคุม | เหตุการณ์ที่เกี่ยวข้องกับปัญญาประดิษฐ์ (ผลลัพธ์ที่เป็นอันตราย ข้อมูลรั่วไหล การกระทำที่ไม่ปลอดภัย) ต่อการใช้ และเวลาที่ใช้ควบคุม | เหตุการณ์ต่อการใช้ในการผลิตต่อไตรมาส มัธยฐานและเปอร์เซ็นไทล์ที่ 85 ของชั่วโมงจากการตรวจพบถึงการควบคุม | เหตุการณ์ ชั่วโมง | บันทึกเหตุการณ์ที่ติดแท็กปัญญาประดิษฐ์ | การจัดการเหตุขัดข้อง การจัดการความมั่นคงปลอดภัยของข้อมูล | การตอบสนองและการเรียนรู้โดยไม่กล่าวโทษ | รายไตรมาส |
| ความเป็นปัจจุบันของการตรวจสอบสถานะผู้ให้บริการด้านปัญญาประดิษฐ์ | สัดส่วนของผู้ให้บริการที่ให้ฟีเจอร์ปัญญาประดิษฐ์ในบริการสำคัญ ซึ่งการประเมินเฉพาะด้านปัญญาประดิษฐ์เป็นปัจจุบัน | ผู้ให้บริการที่มีการประเมินปัญญาประดิษฐ์ปัจจุบัน / ผู้ให้บริการสำคัญที่มีฟีเจอร์ปัญญาประดิษฐ์ | เปอร์เซ็นต์ | การประเมินผู้ให้บริการ | การจัดการผู้ให้บริการ การจัดการความเสี่ยง | การทบทวนสิ่งที่พึ่งพาอย่างสม่ำเสมอ | รายไตรมาส |
ให้นิยาม “การใช้ปัญญาประดิษฐ์” ในทะเบียนอย่างกว้าง ได้แก่ โมเดลที่สร้างเอง บริการที่ซื้อ ฟีเจอร์ภายในผลิตภัณฑ์ และเครื่องมือที่พนักงานใช้ ระดับความเสี่ยงและรอบกำหนดในนโยบาย ความครอบคลุมของทะเบียนวัดเทียบกับการค้นหาอิสระ ไม่ใช่เทียบกับทะเบียนเอง ความครอบคลุมของการควบคุมการเปลี่ยนแปลงต้องมีวิธีตรวจจับการเปลี่ยนแปลง ได้แก่ การควบคุมเวอร์ชัน ประกาศของผู้ขาย การเฝ้าติดตามการกำหนดค่า หลักฐานการกำกับดูแลโดยมนุษย์ต้องการว่าการทบทวนอาจเปลี่ยนผลลัพธ์ได้ ไม่ใช่เพียงว่าคลิกปุ่ม อัตราเหตุการณ์บรรยายการใช้และระบบ และไม่ใช้จัดอันดับบุคคล
ข้อเสนอแนะ
รู้และจัดระดับ
1. สร้างทะเบียนด้วยการค้นหา ไม่ใช่แค่การถาม เริ่มด้วยแบบสำรวจและนโยบาย แล้วตรวจเทียบกับบันทึกการจัดซื้อและค่าใช้จ่าย บันทึกการระบุตัวตนและการเข้าถึง ข้อมูลการเรียกเก็บเงินของเครือข่ายและคลาวด์ และการอัปเดตผลิตภัณฑ์ของผู้ขาย รวมฟีเจอร์ปัญญาประดิษฐ์ที่ฝังในเครื่องมือที่มีอยู่แล้ว คาดว่าจะมีเรื่องไม่คาดฝัน ผู้คนใช้เครื่องมือที่ไม่ได้อนุมัติ มักด้วยเหตุผลที่ดี ให้ถือเป็นข้อมูล (ดูหัวข้อ 7.2 “ตัวชี้วัดสินทรัพย์ซอฟต์แวร์และลิขสิทธิ์”)
2. กำหนดเจ้าของและระดับความเสี่ยงให้แต่ละการใช้ เจ้าของคือผู้รับผิดชอบต่อการใช้และผลลัพธ์ ระดับความเสี่ยงสะท้อนความเสียหายหากระบบล้มเหลว ได้แก่ ใครได้รับผลกระทบ เกี่ยวข้องกับการตัดสินใจเกี่ยวกับบุคคลหรือไม่ ลงมือทำเองหรือไม่ แตะข้อมูลอะไร และผลย้อนกลับได้เพียงใด ใช้ระดับจำนวนน้อยพร้อมกฎที่ชัดเจน ใช้กรอบที่เป็นที่ยอมรับ เช่น กรอบการจัดการความเสี่ยงปัญญาประดิษฐ์ของ NIST, ISO/IEC 42001 และกฎหมายที่ใช้บังคับ และปรับให้เข้ากับบริบทของตน
3. ทำให้การอนุมัติเป็นสัดส่วน สำหรับการใช้ที่เสี่ยงต่ำ การลงทะเบียนด้วยตนเองอย่างรวดเร็วพร้อมคำถามไม่กี่ข้อก็เพียงพอ สำหรับการใช้ที่มีผลสืบเนื่อง ให้กำหนดการประเมินความเสี่ยง ผลการประเมิน การออกแบบการกำกับดูแลโดยมนุษย์ที่กำหนดไว้ และการลงนามอนุมัติ เส้นทางลัดสำหรับส่วนใหญ่ที่ปลอดภัยทำให้ผู้คนอยู่ในระบบ และเส้นทางที่ช้ากว่าสำหรับส่วนน้อยที่อันตรายให้การตรวจสอบที่เหมาะสม
ทดสอบและควบคุมการเปลี่ยนแปลง
4. ประเมินกับกรณีที่สมจริง ก่อนและระหว่างการใช้ สร้างชุดกรณีทดสอบที่สะท้อนข้อมูลนำเข้าจริง รวมกรณียากและกรณีเชิงโต้แย้ง และให้คะแนนผลลัพธ์เทียบกับเกณฑ์ที่เป็นลายลักษณ์อักษร รวมการตรวจความปลอดภัยและความเป็นธรรมในที่ที่ผู้คนอาจได้รับผลกระทบ รันการประเมินซ้ำตามกำหนดและเมื่อโมเดล พรอมต์ หรือข้อมูลเปลี่ยน ทีมแดง (red team) คือกลุ่มที่จงใจโจมตีระบบเพื่อหาจุดอ่อน เป็นแนวปฏิบัติที่เป็นประโยชน์สำหรับการใช้ที่เสี่ยงสูงกว่า ดูแนวปฏิบัติการสุ่มตัวอย่างสำหรับงานที่ใช้ปัญญาประดิษฐ์ช่วย (ดูหัวข้อ 10.2 “การวัดงานที่ใช้ปัญญาประดิษฐ์ช่วย”)
5. นำโมเดล พรอมต์ และเครื่องมือเข้าสู่การควบคุมการเปลี่ยนแปลง ควบคุมเวอร์ชันของพรอมต์และการกำหนดค่าเหมือนโค้ด กำหนดให้มีการทดสอบและการอนุมัติตามสัดส่วนความเสี่ยงสำหรับการเปลี่ยนแปลง บันทึกไว้ และรักษาความสามารถในการย้อนกลับ ติดตามการอัปเดตโมเดลที่ผู้ขายเป็นผู้ขับเคลื่อน ซึ่งอาจเปลี่ยนพฤติกรรมโดยไม่แจ้ง และตกลงกับผู้ให้บริการว่าจะได้รับแจ้งอย่างไร ถือการอัปเกรดโมเดลเป็นการเปลี่ยนแปลงที่ต้องมีการควบคุม (ดูหัวข้อ 4.3 “ตัวชี้วัดการสนับสนุนการเปลี่ยนแปลง”)
6. เฝ้าติดตามในการผลิต เฝ้าดูการเลื่อนไหลของข้อมูลนำเข้าและผลลัพธ์ อัตราข้อผิดพลาดและการแก้ไขทับที่สูงขึ้น และรูปแบบที่ผิดปกติ กำหนดเกณฑ์ที่กระตุ้นการทบทวน สำหรับระบบที่ลงมือทำ ให้เฝ้าติดตามบันทึกการกระทำ การเฝ้าติดตามคือวิธีค้นหาปัญหาที่การทดสอบพลาด
รักษาการกำกับดูแลโดยมนุษย์ให้เป็นจริง
7. ออกแบบการกำกับดูแลที่ทำงานได้ บุคคลที่ทบทวนทุกผลลัพธ์ของระบบที่เร็วตามไม่ทัน และบุคคลที่ถูกขอให้อนุมัติสิ่งที่ตนไม่เข้าใจไม่ได้ให้การกำกับดูแล กำหนดว่ามนุษย์ทำอะไร มีข้อมูลอะไร มีเวลาเท่าใด และมีอำนาจยกเลิกเพียงใด สุ่มตัวอย่างการทบทวนเพื่อตรวจว่ามีสาระ ระวังอคติจากระบบอัตโนมัติ คือแนวโน้มที่จะยอมรับผลลัพธ์ของเครื่อง (ดูหัวข้อ 10.1 “ปัญญาประดิษฐ์ในการวัดผลการจัดการบริการ”)
8. เก็บร่องรอยการตรวจสอบ บันทึกข้อมูลนำเข้า ผลลัพธ์ เวอร์ชัน การตัดสินใจ และการกระทำในรูปแบบที่สนับสนุนการสืบสวน ภายใต้กฎความเป็นส่วนตัวและข้อจำกัดการเก็บรักษา ร่องรอยการตรวจสอบ (audit trail) ช่วยให้ตอบได้ว่าเกิดอะไรขึ้นและเพราะเหตุใด สำหรับการตัดสินใจที่มีผลสืบเนื่องเกี่ยวกับบุคคล ให้พิจารณาว่าจะอธิบายอะไรได้และมีเส้นทางอุทธรณ์ใด (ดูหัวข้อ 8.3 “ตัวชี้วัดการปฏิบัติตามข้อกำหนดและการตรวจสอบ”)
9. ปกป้องข้อมูลและต้านทานการชักจูง ควบคุมข้อมูลที่ระบบปัญญาประดิษฐ์เห็นและส่งออกได้ ทดสอบการฉีดพรอมต์และการรั่วไหลของข้อมูล โดยเฉพาะระบบที่อ่านเนื้อหาภายนอกหรือเข้าถึงเครื่องมือได้ ใช้หลักการสิทธิ์น้อยที่สุดที่ใช้กับเอเจนต์ที่ลงมือทำ (ดูหัวข้อ 10.3 “ตัวชี้วัดเอเจนต์ปัญญาประดิษฐ์และแชตบอต” และหัวข้อ 8.1 “ตัวชี้วัดเหตุการณ์ความมั่นคงปลอดภัยและช่องโหว่”) พิจารณาความเป็นส่วนตัวตั้งแต่ขั้นออกแบบ และเชิญผู้เชี่ยวชาญด้านการคุ้มครองข้อมูลเข้าร่วม
ตอบสนองและเรียนรู้
10. ปฏิบัติต่อเหตุการณ์ปัญญาประดิษฐ์เป็นเหตุการณ์ กำหนดว่าอะไรนับ ได้แก่ ผลลัพธ์ที่เป็นอันตรายหรือลำเอียง ข้อมูลรั่วไหล การกระทำที่ไม่ปลอดภัย ข้อผิดพลาดสำคัญที่ไปถึงผู้ใช้ ใช้กระบวนการจัดการเหตุขัดข้องปกติพร้อมแท็กปัญญาประดิษฐ์ ทบทวนโดยไม่กล่าวโทษ และนำบทเรียนไปป้อนการประเมินและการควบคุม ทำให้พนักงานและผู้ใช้รายงานได้ง่าย เวลาถึงการควบคุมสำคัญเท่ากับเหตุการณ์อื่น (ดูหัวข้อ 3.4 “ตัวชี้วัดเหตุขัดข้องรุนแรง”)
11. จัดการปัญญาประดิษฐ์ของผู้ให้บริการ ถามผู้ให้บริการว่าใช้ฟีเจอร์ปัญญาประดิษฐ์ใด ทดสอบและเปลี่ยนแปลงอย่างไร จัดการข้อมูลอย่างไร และรายงานเหตุการณ์อย่างไร เพิ่มข้อกำหนดเฉพาะด้านปัญญาประดิษฐ์ในสัญญาในที่ที่สำคัญ รวมการแจ้งการเปลี่ยนแปลงโมเดลที่มีนัยสำคัญ ประเมินผู้ให้บริการสำคัญซ้ำตามรอบ (ดูหัวข้อ 8.4 “ตัวชี้วัดผู้ให้บริการและสัญญา”)
12. ทบทวนการกำกับดูแลเอง ทุกไตรมาส ตรวจว่าตัวชี้วัดแสดงอะไร ได้แก่ การใช้ที่ไม่ได้ขึ้นทะเบียนอยู่ที่ใด การอนุมัติใดช้าเกินไป การควบคุมใดจับปัญหาไม่ได้ ปรับนโยบายและเส้นทาง เชิญพนักงานและผู้ใช้ร่วมทบทวน รักษากฎให้สั้น ชัดเจน และทันสมัย และเลิกการควบคุมที่ไม่คุ้มต้นทุน
ช่องทางการบิดเบือนและมาตรการป้องกัน
| ตัวชี้วัด | ถูกบิดเบือนได้อย่างไร | ตัวชี้วัดหรือแนวปฏิบัติป้องกันที่จับคู่ |
|---|---|---|
| ความครอบคลุมของทะเบียนการใช้ปัญญาประดิษฐ์ | ขึ้นทะเบียนการใช้ที่ไม่สำคัญเพื่อเพิ่มเปอร์เซ็นต์ จำกัดตัวหารไว้ที่สิ่งที่ขึ้นทะเบียนแล้ว | ใช้การค้นหาอิสระเป็นตัวหาร สุ่มตรวจคุณภาพรายการในทะเบียน นิรโทษกรรมสำหรับการใช้ที่ไม่ได้ขึ้นทะเบียน |
| ความเป็นปัจจุบันของการประเมินความเสี่ยง | การประเมินแบบผิวเผินที่ผ่านเสมอ ประเมินการใช้ที่เสี่ยงต่ำ | ทบทวนความลึกของการประเมิน ตรวจว่าระดับความเสี่ยงตรงกับเกณฑ์ |
| ความครอบคลุมของการควบคุมการเปลี่ยนแปลง | ไม่ตรวจจับการเปลี่ยนแปลงของผู้ขาย บันทึกการเปลี่ยนแปลงภายหลัง | ตรวจจับผ่านประวัติเวอร์ชันและประกาศของผู้ขาย บันทึกการเปลี่ยนแปลงที่ประทับเวลาก่อนปล่อย |
| ความเป็นปัจจุบันของการประเมิน | ประเมินกับกรณีง่าย เลือกเกณฑ์ที่ยอมรับหลังเห็นผล | ชุดทดสอบที่ทบทวนโดยฝ่ายอิสระ กำหนดเกณฑ์ไว้ล่วงหน้า |
| อัตราหลักฐานการกำกับดูแลโดยมนุษย์ | คลิกอนุมัติโดยไม่อ่าน บันทึกการทบทวนที่เปลี่ยนผลลัพธ์ไม่ได้ | สุ่มตรวจเนื้อหาของการทบทวน ฝังข้อผิดพลาดที่ทราบ ภาระของผู้ทบทวน |
| อัตราเหตุการณ์ปัญญาประดิษฐ์และเวลาถึงการควบคุม | ไม่รายงานเหตุการณ์ จำกัดนิยามให้แคบ | รายงานได้ง่ายโดยไม่กล่าวโทษ เปรียบเทียบกับข้อร้องเรียนของผู้ใช้และข้อค้นพบจากการตรวจสอบ |
| ความเป็นปัจจุบันของการตรวจสอบสถานะผู้ให้บริการด้านปัญญาประดิษฐ์ | แบบสอบถามที่ฝ่ายการตลาดตอบ การประเมินที่ไม่มีหลักฐาน | ข้อกำหนดหลักฐานสำหรับผู้ให้บริการสำคัญ การตรวจสอบอิสระ |
ภาพที่ดีคือทะเบียนที่การค้นหาอิสระยืนยัน การประเมินที่ตรงกับความเสี่ยง การเปลี่ยนแปลงที่ผ่านการควบคุม การประเมินที่เป็นปัจจุบัน การกำกับดูแลที่พบข้อผิดพลาดจริง เหตุการณ์ที่รายงานโดยง่ายและควบคุมได้อย่างรวดเร็ว และผู้ให้บริการที่แบ่งปันสิ่งที่ตนเปลี่ยน
ข้อแลกเปลี่ยน: ข้อดีและข้อเสีย
| แนวทาง | จุดแข็ง | จุดอ่อน |
|---|---|---|
| การอนุมัติส่วนกลางสำหรับทุกการใช้ปัญญาประดิษฐ์ | การควบคุม ความสอดคล้อง | ช้า ผลักการใช้ลงใต้ดิน |
| ลงทะเบียนด้วยตนเองพร้อมระดับความเสี่ยง | เร็วสำหรับส่วนใหญ่ที่ปลอดภัย | ต้องมีเกณฑ์ที่ดีและการตรวจสุ่ม |
| ห้ามใช้เครื่องมือสาธารณะ | ลดการเปิดเผยข้อมูล | การใช้แบบเงา สูญเสียประโยชน์ |
| เครื่องมือที่อนุมัติพร้อมแนวทาง | การใช้ที่มองเห็นและจัดการได้ | ต้องจัดหาและสนับสนุน |
| เอกสารมาก | หลักฐานสำหรับการตรวจสอบ | ภาระ อาจไม่สะท้อนการปฏิบัติ |
| การประเมินอัตโนมัติในสายธาร | ต่อเนื่อง สอดคล้อง | ต้องมีชุดทดสอบที่ดี อาจพลาดความล้มเหลวแบบใหม่ |
| มนุษย์ทบทวนทุกอย่าง | ปลอดภัย | ขยายขนาดไม่ได้ ความล้า |
| สุ่มตัวอย่างตามความเสี่ยง | ใช้ได้จริง | ความล้มเหลวบางส่วนหลุดรอด |
คำตอบเชิงบรรยายคือจัดหาเครื่องมือที่อนุมัติแล้วและเส้นทางลัดสำหรับการใช้ที่เสี่ยงต่ำ รวมศูนย์การตรวจสอบไว้ที่การใช้ที่มีผลสืบเนื่อง ทำการประเมินและการเฝ้าติดตามให้เป็นอัตโนมัติ และรักษาการกำกับดูแลโดยมนุษย์ไว้ในที่ที่ทำงานได้จริง
คำถามสำหรับอภิปรายกับทีม
1. วันนี้เราใช้ปัญญาประดิษฐ์ที่ใดซึ่งไม่อยู่ในรายการใด ๆ ถามทีมอย่างตรงไปตรงมาและเสนอการนิรโทษกรรม ดูเครื่องมือที่ใช้ร่าง สรุป เขียนโค้ด และวิเคราะห์ รวมที่อยู่ในผลิตภัณฑ์ ผู้อำนวยการประชุมควรบันทึกการใช้โดยไม่ตัดสิน ตกลงว่าใครจะขึ้นทะเบียนและรายการใดต้องดูใกล้ชิดกว่า
2. หากการใช้ปัญญาประดิษฐ์ที่มีผลสืบเนื่องมากที่สุดของเราทำผิดพลาดจนเป็นอันตราย เราจะรู้ได้อย่างไรและจะทำอย่างไร ไล่ตั้งแต่การตรวจพบ การควบคุม การสื่อสาร และการเรียนรู้ จดช่องว่างในการเฝ้าติดตาม ความเป็นเจ้าของ และอำนาจในการปิดระบบ ตกลงการปรับปรุงหนึ่งอย่าง
3. อะไรเปลี่ยนได้ใต้เท้าเราโดยไม่มีใครอนุมัติ รายการโมเดล พรอมต์ แหล่งข้อมูล และการอัปเดตของผู้ขาย สำหรับแต่ละอย่าง ถามว่าเราจะรู้ได้อย่างไรว่าเปลี่ยน และจะทดสอบอย่างไร ตกลงว่าจะเพิ่มการตรวจจับหรือการทดสอบที่ใด
4. บุคคลที่ทบทวนผลลัพธ์ปัญญาประดิษฐ์ในกระบวนการของเราจับข้อผิดพลาดร้ายแรงได้จริงหรือไม่ ดูปริมาณ ข้อมูล เวลา และอำนาจ ทดสอบด้วยข้อผิดพลาดที่ฝังไว้ หากการทบทวนทำงานไม่ได้ ให้ออกแบบกระบวนการใหม่ก่อนเพิ่มปัญญาประดิษฐ์
5. กฎใดของเราที่เพื่อนร่วมงานที่ยุ่งจะทำตามได้ง่าย และกฎใดที่พวกเขาจะหาทางเลี่ยง รายการกฎปัจจุบันและทดสอบกับเวิร์กโฟลว์จริง อภิปรายว่าทำไมกฎถูกเลี่ยง ตกลงการเปลี่ยนแปลงที่ทำให้เส้นทางปลอดภัยเป็นเส้นทางที่ง่าย
6. ผู้ให้บริการของเราบอกอะไรเราเกี่ยวกับปัญญาประดิษฐ์ของเขา และเรายังไม่ได้ถามอะไร ตรวจแบบสอบถามและสัญญาล่าสุด ระบุผู้ให้บริการสำคัญที่มีฟีเจอร์ปัญญาประดิษฐ์และช่องว่างของข้อมูล ตกลงคำถามสำหรับการทบทวนครั้งถัดไป
สี่มุมมอง
ทีมผลิตภัณฑ์และการส่งมอบ
ทีมส่งมอบสร้างและนำฟีเจอร์ปัญญาประดิษฐ์มาใช้ และรู้สึกถึงการกำกับดูแลเป็นแรงเสียดทานหรือเป็นความช่วยเหลือ ควรขึ้นทะเบียนการใช้แต่เนิ่น ๆ ทดสอบกับกรณีที่สมจริง ควบคุมเวอร์ชันพรอมต์และโมเดล และออกแบบการกำกับดูแลที่ทำงานได้ พวกเขาได้ประโยชน์จากการอนุมัติที่เร็วสำหรับการใช้ที่เสี่ยงต่ำ
ทีมบริการและปฏิบัติการ
ทีมปฏิบัติการเดินระบบปัญญาประดิษฐ์ในการผลิตและตอบสนองต่อเหตุการณ์ ควรเฝ้าติดตามการเลื่อนไหล เก็บบันทึกการกระทำ ติดแท็กเหตุการณ์ปัญญาประดิษฐ์ และมีอำนาจและวิธีการที่จะปิดระบบ พวกเขาก็ใช้ปัญญาประดิษฐ์เองด้วยและควรทำตามกฎเดียวกัน
ภาวะผู้นำและการกำกับดูแล
ผู้นำกำหนดระดับความเสี่ยงที่ยอมรับได้และรับผิดชอบต่อผลลัพธ์ ควรจัดงบประมาณให้ทะเบียน การประเมิน และการเฝ้าติดตาม ยอมรับว่าการใช้ปัญญาประดิษฐ์บางกรณีจะไม่ผ่าน ขอให้มีการค้นหาการใช้โดยอิสระ และติดตามเหตุการณ์และเวลาถึงการควบคุม องค์กรกำกับดูแลควรรักษากฎให้สั้น ทบทวนสม่ำเสมอ และให้พนักงานและผู้ใช้มีเสียง
ลูกค้าและผู้ใช้
ผู้ใช้ได้รับผลกระทบจากการตัดสินใจและผลลัพธ์ของปัญญาประดิษฐ์ โดยมักไม่รู้ พวกเขาควรได้รับรู้เมื่อมีปัญญาประดิษฐ์เกี่ยวข้องกับเรื่องที่กระทบตน ติดต่อบุคคลจริงได้ และโต้แย้งการตัดสินใจได้ ข้อร้องเรียนและการอุทธรณ์เป็นหลักฐานสำคัญเกี่ยวกับการทำงานของการกำกับดูแลในทางปฏิบัติ
ในทางปฏิบัติ: ตัวอย่าง ITIL แบบคล่องตัว
ฝ่ายเทคโนโลยีและปฏิบัติการของธนาคารระดับภูมิภาคแห่งหนึ่งออกนโยบายปัญญาประดิษฐ์หลังพนักงานคนหนึ่งวางรายละเอียดลูกค้าลงในเครื่องมือสาธารณะ ทีมปฏิบัติตามข้อกำหนดเผยแพร่ทะเบียนและคาดหวังให้ทุกการใช้ถูกระบุไว้ ตัวเลขด้านล่างเป็นตัวเลขสมมติเพื่อประกอบภาพ
สามเดือนต่อมา ทะเบียนระบุการใช้ปัญญาประดิษฐ์ 38 รายการ หัวหน้าฝ่ายความเสี่ยงด้านเทคโนโลยีตรวจด้วยวิธีอิสระ ได้แก่ ข้อมูลการจัดซื้อและค่าใช้จ่าย บันทึกการระบุตัวตนที่แสดงการลงชื่อเข้าใช้บริการปัญญาประดิษฐ์ ข้อมูลเครือข่าย และแบบสำรวจพนักงานแบบไม่ระบุตัวตน การค้นหาพบการใช้ 94 รายการ ความครอบคลุมของทะเบียนจึงเป็น 40 เปอร์เซ็นต์ สิบเจ็ดรายการเป็นฟีเจอร์ภายในเครื่องมือที่ธนาคารมีสิทธิ์ใช้อยู่แล้ว และสิบสองรายการเป็นเครื่องมือสาธารณะที่พนักงานใช้ ในการใช้ที่ขึ้นทะเบียน 38 รายการ มีเพียง 14 รายการที่มีระดับความเสี่ยง และสามรายการที่เสี่ยงสูงสุด ได้แก่ โมเดลที่ให้คะแนนการแจ้งเตือนการฉ้อโกง แชตบอตสำหรับลูกค้า และเครื่องมือที่สรุปข้อร้องเรียน ไม่มีการประเมินในช่วงปีที่ผ่านมา การเปลี่ยนแปลงการกำหนดค่าของโมเดลฉ้อโกงและพรอมต์ของแชตบอตทำโดยทีมโดยตรง และบันทึกการเปลี่ยนแปลงของไตรมาสล่าสุดครอบคลุม 21 เปอร์เซ็นต์ของการเปลี่ยนแปลงที่พบในประวัติเวอร์ชัน ตัวอย่างการแจ้งเตือนการฉ้อโกง 60 รายการที่โมเดลปัดตกแสดงว่ามีการบันทึกการทบทวนโดยมนุษย์ 52 รายการ แต่ชุดข้อผิดพลาดที่ทราบและฝังไว้ห้ารายการถูกจับได้โดยผู้ทบทวนเพียงคนเดียว เพราะผู้ทบทวนแต่ละคนจัดการการแจ้งเตือนหลายร้อยรายการต่อวัน เหตุการณ์หนึ่งซึ่งแชตบอตให้จำนวนค่าธรรมเนียมที่ล้าสมัยแก่ลูกค้า พบจากข้อร้องเรียน และใช้เวลาหกวันจึงควบคุมได้เพราะไม่มีใครมีอำนาจปิดมัน
หัวหน้าฝ่ายความเสี่ยงด้านเทคโนโลยีออกแบบการกำกับดูแลใหม่ร่วมกับทีม การลงทะเบียนด้วยตนเองสั้น ๆ ที่มีห้าคำถามทำให้การใช้ที่เสี่ยงต่ำเข้าสู่ทะเบียนภายในไม่กี่นาที และช่วงนิรโทษกรรมสนับสนุนให้พนักงานระบุเครื่องมือที่ตนใช้ ระดับความเสี่ยงอิงความเสียหาย ข้อมูล และความเป็นอิสระในการทำงาน การใช้ที่เสี่ยงสูงกว่าต้องมีการประเมิน การประเมินกับกรณีที่สมจริงและเชิงโต้แย้ง และการออกแบบการกำกับดูแลที่กำหนดไว้ โมเดล พรอมต์ และเครื่องมือเข้าสู่การควบคุมการเปลี่ยนแปลงพร้อมการทดสอบตามสัดส่วนความเสี่ยง และพรอมต์ของแชตบอตถูกควบคุมเวอร์ชันพร้อมการย้อนกลับ กระบวนการแจ้งเตือนการฉ้อโกงถูกออกแบบใหม่ให้ผู้ทบทวนจัดการการแจ้งเตือนน้อยลงแต่จัดลำดับความสำคัญดีขึ้น และข้อผิดพลาดที่ฝังไว้ทดสอบการตรวจจับของพวกเขา เจ้าของที่มีชื่อสำหรับทุกการใช้ที่เสี่ยงสูงมีอำนาจปิดระบบ และการตอบสนองต่อเหตุการณ์ครอบคลุมปัญญาประดิษฐ์ ผู้ให้บริการคลาวด์และปัญญาประดิษฐ์ของธนาคารถูกถามว่าใช้ฟีเจอร์ปัญญาประดิษฐ์ใดและแจ้งการเปลี่ยนแปลงอย่างไร
สองไตรมาสต่อมา ความครอบคลุมของทะเบียนเทียบกับการค้นหาอิสระคือ 88 เปอร์เซ็นต์ การใช้ที่เสี่ยงสูงทั้งหมดได้รับการประเมินและประเมินผลภายในรอบ ความครอบคลุมของการควบคุมการเปลี่ยนแปลงคือ 84 เปอร์เซ็นต์ การตรวจจับข้อผิดพลาดที่ฝังไว้โดยผู้ทบทวนเพิ่มเป็น 4 จาก 5 และเวลามัธยฐานถึงการควบคุมเหตุการณ์ปัญญาประดิษฐ์คือ 3 ชั่วโมง พนักงานใช้เครื่องมือที่อนุมัติสำหรับงานส่วนใหญ่ ผู้บริหารอาวุโสคนหนึ่งขอเป้าหมายความครอบคลุมของทะเบียน 100 เปอร์เซ็นต์ หัวหน้าฝ่ายความเสี่ยงด้านเทคโนโลยีเสนอให้ติดตามความครอบคลุมเทียบกับการค้นหาอิสระ ความเป็นปัจจุบันของการประเมิน และการจัดการเหตุการณ์ และอธิบายว่าทะเบียนที่ไม่มีการค้นหาอาจถึง 100 เปอร์เซ็นต์ได้และยังพลาดความเสี่ยง การตัดสินใจถูกบันทึกไว้
มุมมองตามประเภทองค์กร
สตาร์ทอัป ความเร็วสำคัญ และความเสี่ยงส่วนใหญ่คือการเปิดเผยข้อมูลและผลลัพธ์ที่ไม่น่าเชื่อถือ เก็บรายการเครื่องมือและการใช้ที่สั้นพร้อมเจ้าของ ตั้งกฎชัดเจนไม่กี่ข้อว่าข้อมูลใดใช้ที่ใดได้ และควบคุมเวอร์ชันพรอมต์ ทบทวนใหม่เมื่อความต้องการหลักประกันของลูกค้าเพิ่มขึ้น
ธุรกิจขนาดเล็ก พนักงานจะใช้เครื่องมือสาธารณะ จัดตัวเลือกที่อนุมัติแล้ว เขียนกฎหนึ่งหน้าเรื่องข้อมูล และทบทวนวิธีใช้เครื่องมือ ถามผู้ให้บริการเกี่ยวกับฟีเจอร์ปัญญาประดิษฐ์ และเก็บบันทึกว่าปัญญาประดิษฐ์ตัดสินใจเกี่ยวกับลูกค้าหรือพนักงานที่ใด
องค์กรขนาดใหญ่ ขนาดที่ใหญ่ต้องการรูปแบบการดำเนินงาน ได้แก่ ทะเบียน ระดับความเสี่ยง มาตรฐานการประเมิน การควบคุมการเปลี่ยนแปลง และกระบวนการเหตุการณ์ ที่รวมเข้ากับหน้าที่ด้านความเสี่ยงและความมั่นคงปลอดภัยที่มีอยู่ ใช้การค้นหาอิสระ ทำการประเมินในสายธารให้เป็นอัตโนมัติ และสอดคล้องกับมาตรฐาน ให้ทีมมีเส้นทางลัด
ภาครัฐและหน่วยงานสาธารณะ การตัดสินใจที่กระทบประชาชนนำมาซึ่งหน้าที่ด้านความโปร่งใส ความเป็นธรรม และการอุทธรณ์ และกรอบการจัดซื้อและกฎหมายกำหนดสิ่งที่อนุญาต รักษาบันทึกสาธารณะของการใช้ที่มีผลกระทบสูงในที่ที่กำหนด ประเมินผลกระทบต่อสิทธิ คงมนุษย์ไว้ในวงจรอย่างมีความหมาย และตรวจกฎหมายและแนวทางปัจจุบัน (ดูหัวข้อ 8.5 “การรายงานตามข้อกำหนดและต่อภาครัฐ”)
กรณีทางธุรกิจ: แรงจูงใจ ROI และ TCO
ต้นทุนรวมความพยายามในการสร้างและดูแลทะเบียน เครื่องมือหรือการวิเคราะห์เพื่อค้นหา การประเมินความเสี่ยง ชุดและการรันการประเมิน การควบคุมการเปลี่ยนแปลงสำหรับพรอมต์และโมเดล การเฝ้าติดตาม การฝึกอบรม และขีดความสามารถในการตอบสนองต่อเหตุการณ์ การกำกับดูแลยังเพิ่มความล่าช้าบ้างสำหรับการใช้ที่เสี่ยงสูงกว่า ต้นทุนเหล่านี้เพิ่มตามจำนวนและความเสี่ยงของการใช้ ซึ่งเป็นเหตุผลที่ควรรักษาการอนุมัติการใช้ที่เสี่ยงต่ำให้เบา
ผลตอบแทนรวมความเสียหายและการเปิดเผยที่หลีกเลี่ยงได้ เรื่องที่ไม่คาดฝันน้อยลงในการตรวจสอบและการทบทวนโดยหน่วยงานกำกับ การนำไปใช้อย่างปลอดภัยที่เร็วขึ้นด้วยกฎที่ชัดเจน และความไว้วางใจจากลูกค้าและพนักงาน ให้สร้างกรณีทางธุรกิจจากข้อมูลของตนเอง ได้แก่ จำนวนการใช้ที่พบนอกทะเบียนและข้อมูลที่แตะ เหตุการณ์และต้นทุน เวลาที่ใช้ในการอนุมัติเฉพาะกิจก่อนและหลัง และข้อค้นพบในการตรวจสอบ หลีกเลี่ยงการอ้างสถิติที่เผยแพร่เกี่ยวกับเหตุการณ์ปัญญาประดิษฐ์หรือค่าปรับโดยไม่มีแหล่งที่มาที่ตรวจสอบย้อนกลับได้และความเกี่ยวข้องกับบริบทของตน รวมต้นทุนของการไม่กำกับดูแล ซึ่งรวมถึงความเป็นไปได้ของความเสียหายทางกฎหมายและชื่อเสียงที่สำคัญ (ดูหัวข้อ 7.7 “ผลตอบแทนจากการลงทุนและกรณีทางธุรกิจ”)
รูปแบบที่ไม่ควรทำและข้อควรระวัง
- ทะเบียนที่ไม่มีใครตรวจ ความครอบคลุมดูสูงแต่พลาดการใช้จริง ให้ใช้การค้นหาอิสระ
- การห้ามแบบครอบจักรวาล ผลักการใช้ลงใต้ดิน ให้จัดเครื่องมือที่อนุมัติและเส้นทางลัด
- ปฏิบัติต่อพรอมต์และโมเดลเหมือนการกำหนดค่าที่ไม่มีเจ้าของ พฤติกรรมเปลี่ยนโดยไม่มีใครสังเกต ให้นำเข้าสู่การควบคุมการเปลี่ยนแปลง
- ประเมินครั้งเดียว ระบบเลื่อนไหลและเปลี่ยนแปลง ให้รันซ้ำตามกำหนดและเมื่อเปลี่ยน
- การกำกับดูแลเพียงในนาม ผู้ทบทวนจับสิ่งที่ตนมองไม่เห็นไม่ได้ ให้ทดสอบด้วยข้อผิดพลาดที่ฝังไว้และแก้ภาระงาน
- ไม่มีอำนาจปิดระบบ การควบคุมใช้เวลาหลายวัน ให้ระบุเจ้าของที่มีอำนาจหยุดระบบ
- เพิกเฉยต่อปัญญาประดิษฐ์ของผู้ให้บริการ ความเสี่ยงของเรารวมความเสี่ยงของพวกเขา ให้ถาม ทำสัญญา และประเมินซ้ำ
- กฎที่ไม่มีใครทำตามได้ ถูกเลี่ยง ให้รักษากฎให้สั้นและทำให้เส้นทางปลอดภัยง่าย
แบบจำลองวุฒิภาวะ
| มิติ | 1 เริ่มต้น | 2 พัฒนา | 3 ทำให้เป็นมาตรฐาน | 4 บริหารจัดการ | 5 ประสานจัดการ |
|---|---|---|---|---|---|
| การรู้และการจัดระดับ | ไม่เห็นการใช้ปัญญาประดิษฐ์ | มีนโยบายและรายการบางส่วน | มีทะเบียนพร้อมเจ้าของและระดับความเสี่ยง ใช้การค้นหาอิสระวัดความครอบคลุม | จัดการความครอบคลุม ความเป็นปัจจุบันของการประเมิน และเวลาอนุมัติ | มุมมองทะเบียนร่วมข้ามหน่วยธุรกิจและผู้ให้บริการ ทบทวนระดับร่วมกับหน่วยงานกำกับและผู้ใช้ |
| การทดสอบและการเปลี่ยนแปลง | เฉพาะกิจ | มีการประเมินบ้างสำหรับบางการใช้ | ประเมินกับกรณีที่สมจริง พรอมต์และโมเดลอยู่ภายใต้การควบคุมการเปลี่ยนแปลง | ประเมินอย่างต่อเนื่องและเฝ้าติดตามการเลื่อนไหล จัดการความครอบคลุม | การประเมินและการเปลี่ยนแปลงตามความเสี่ยงที่เป็นอัตโนมัติในสายธาร ตรวจสอบโดยอิสระ |
| การกำกับดูแลและการเรียนรู้ | พึ่งความไว้วางใจ | มีการทบทวนในหลักการ | ออกแบบและสุ่มตัวอย่างการกำกับดูแล ติดแท็กและทบทวนเหตุการณ์ปัญญาประดิษฐ์โดยไม่กล่าวโทษ | จัดการการทดสอบข้อผิดพลาดที่ฝังไว้ เวลาถึงการควบคุม และการประเมินผู้ให้บริการ | พัฒนาการกำกับดูแล การเรียนรู้จากเหตุการณ์ และนโยบายร่วมกับพนักงาน ผู้ใช้ และพันธมิตร |
รายการตรวจสอบ
- ทะเบียนระบุการใช้ปัญญาประดิษฐ์พร้อมเจ้าของและระดับความเสี่ยง และตรวจเทียบกับการค้นหาอิสระ
- มีเส้นทางลัดสำหรับการใช้ที่เสี่ยงต่ำ และเส้นทางที่ลึกกว่าสำหรับการใช้ที่มีผลสืบเนื่อง
- การใช้ที่เสี่ยงสูงกว่ามีการประเมินความเสี่ยงปัจจุบันและการออกแบบการกำกับดูแลโดยมนุษย์ที่กำหนดไว้
- การประเมินกับกรณีที่สมจริงและเชิงโต้แย้งเป็นปัจจุบันและรันซ้ำเมื่อมีการเปลี่ยนแปลง
- พรอมต์ โมเดล เครื่องมือ และแหล่งข้อมูลถูกควบคุมเวอร์ชันและอยู่ภายใต้การควบคุมการเปลี่ยนแปลง
- การเฝ้าติดตามการผลิตจับตาการเลื่อนไหล ข้อผิดพลาด การแก้ไขทับ และการกระทำที่ผิดปกติ
- ทดสอบการกำกับดูแลด้วยข้อผิดพลาดที่ฝังไว้ และภาระของผู้ทบทวนสมเหตุสมผล
- ร่องรอยการตรวจสอบสนับสนุนการสืบสวนภายใต้กฎความเป็นส่วนตัวและการเก็บรักษา
- เหตุการณ์ปัญญาประดิษฐ์ถูกติดแท็ก ทบทวนโดยไม่กล่าวโทษ และเจ้าของปิดระบบได้
- ผู้ให้บริการที่มีฟีเจอร์ปัญญาประดิษฐ์ได้รับการประเมินและมีข้อผูกพันที่จะแจ้งการเปลี่ยนแปลงที่มีนัยสำคัญ
พรอมต์ AI
ร่างการจัดระดับความเสี่ยงสำหรับการใช้ปัญญาประดิษฐ์
เสนอการจัดระดับความเสี่ยงอย่างง่าย (สามหรือสี่ระดับ) สำหรับการใช้ปัญญาประดิษฐ์ใน [ประเภทของ
องค์กร] โดยอิงความเสียหายหากผิด ผู้ที่ได้รับผลกระทบ การเกี่ยวข้องกับการตัดสินใจ
เกี่ยวกับบุคคล ความเป็นอิสระของการกระทำ ความอ่อนไหวของข้อมูล และการย้อนกลับได้
สำหรับแต่ละระดับ ให้ระบุตัวอย่างการใช้ การอนุมัติและหลักฐานที่ต้องมี และรอบการทบทวน
อย่าสรุปข้อกฎหมาย ระบุสมมติฐานและประเด็นที่ต้องยืนยันกับ
ผู้เชี่ยวชาญด้านกฎหมาย ความเสี่ยง และความมั่นคงปลอดภัย
ออกแบบแบบฟอร์มลงทะเบียน
ออกแบบแบบฟอร์มลงทะเบียนด้วยตนเองสั้น ๆ สำหรับการใช้ปัญญาประดิษฐ์ใหม่ โดยมีคำถามไม่เกิน
แปดข้อ ที่กำหนดระดับความเสี่ยงเริ่มต้นโดยอัตโนมัติและส่งการใช้ที่เสี่ยงสูงกว่า
ไปทบทวน ครอบคลุมวัตถุประสงค์ ข้อมูล ผู้ใช้ที่ได้รับผลกระทบ ความเป็นอิสระ ผู้ขาย
และเจ้าของ อธิบายวิธีทำให้เร็วสำหรับกรณีที่เสี่ยงต่ำ ระบุสมมติฐาน
และความเสี่ยงของการจัดระดับผิด
วางแผนชุดการประเมิน
เราใช้ปัญญาประดิษฐ์สำหรับ [งาน] ใน [กระบวนการ] ช่วยออกแบบชุดการประเมิน: ประเภทของ
กรณีที่สมจริง กรณียากและเชิงโต้แย้ง เกณฑ์ที่เป็นลายลักษณ์อักษรสำหรับผลลัพธ์ที่ถูกต้อง
และปลอดภัย การตรวจความเป็นธรรมในที่ที่ผู้คนได้รับผลกระทบ ชุดขนาดเท่าใดจึงใช้ได้จริง
ควรรันซ้ำบ่อยเพียงใด และการเปลี่ยนแปลงใดควรกระตุ้นให้รันซ้ำ อย่า
อ้างว่าชุดใดเพียงพอ ระบุสมมติฐานและข้อจำกัด
ทบทวนเหตุการณ์ปัญญาประดิษฐ์
นี่คือคำอธิบายเหตุการณ์ที่เกี่ยวข้องกับปัญญาประดิษฐ์: [วาง โดยไม่มีข้อมูลส่วนบุคคล]
ร่างการทบทวนโดยไม่กล่าวโทษ: ลำดับเหตุการณ์ วิธีตรวจพบ ปัจจัยที่มีส่วนเกี่ยวข้อง
(ข้อมูล พรอมต์ โมเดล การกำกับดูแล ผู้ให้บริการ กระบวนการ) ผลกระทบ สิ่งที่ควบคุมเหตุการณ์ได้
และการดำเนินการพร้อมเจ้าของ เสนอการเปลี่ยนแปลงต่อการประเมิน การเฝ้าติดตาม และการควบคุม
การเปลี่ยนแปลง อย่าโยนความผิดให้บุคคล ระบุสมมติฐานและคำถามที่ยังเปิดอยู่
ทักษะ AI
- ทักษะ Agile ITIL Metrics: ใช้เพื่อค้นหาตัวชี้วัดป้องกันที่จับคู่กันสำหรับตัวชี้วัดการกำกับดูแลหรือความเสี่ยงของปัญญาประดิษฐ์
- ทักษะผู้ดูแล Agile ITIL Metrics: ใช้เพื่อตรวจสอบว่ารายการตัวชี้วัดการกำกับดูแลปัญญาประดิษฐ์ใช้หลักฐานอิสระ และมีช่องทางการบิดเบือนและมาตรการป้องกันครบถ้วน
ข้อสรุปสำคัญ
- สร้างทะเบียนปัญญาประดิษฐ์ด้วยการค้นหาอิสระ และจับคู่ความเข้มของการตรวจสอบกับความเสี่ยง พร้อมเส้นทางลัดสำหรับการใช้ที่ปลอดภัย
- ปฏิบัติต่อโมเดล พรอมต์ เครื่องมือ และแหล่งข้อมูลเป็นการเปลี่ยนแปลงที่ต้องมีการทดสอบ การอนุมัติ และการย้อนกลับ
- ประเมินก่อนใช้และระหว่างใช้ กับกรณีที่สมจริงและเชิงโต้แย้ง
- ออกแบบการกำกับดูแลโดยมนุษย์ที่ทำงานได้ และทดสอบด้วยข้อผิดพลาดที่ฝังไว้
- ปฏิบัติต่อเหตุการณ์ปัญญาประดิษฐ์เหมือนเหตุการณ์อื่น พร้อมการทบทวนโดยไม่กล่าวโทษ และให้เจ้าของมีอำนาจปิดระบบ
- ถามผู้ให้บริการเกี่ยวกับปัญญาประดิษฐ์ของเขา รักษากฎให้สั้น และทำให้เส้นทางปลอดภัยง่าย
เอกสารอ้างอิงและแหล่งอ่านเพิ่มเติม
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023.
- ISO/IEC 42001, Information technology: Artificial intelligence: Management system, International Organization for Standardization, 2023.
- ISO/IEC 23894, Information technology: Artificial intelligence: Guidance on risk management, International Organization for Standardization, 2023.
- European Parliament and Council, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), 2024.
- Organisation for Economic Co-operation and Development, OECD AI Principles, 2019 (updated 2024).
- Mitchell, M., et al., "Model Cards for Model Reporting," Proceedings of the Conference on Fairness, Accountability, and Transparency, 2019.
- Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
- Wikipedia, Algorithmic bias.
- Wikipedia, Prompt injection.
- Wikipedia, Artificial Intelligence Act.
- Wikipedia, Responsible AI.
- Wikipedia, Regulation of artificial intelligence.
- Wikipedia, Shadow IT.
- Wikipedia, Goodhart's law.
- Wikipedia, Audit trail.