الملخص والدافع

تضع منظمات كثيرة اليوم مساعدًا حواريًا بين المستخدمين ومكتب الخدمة، وبعضها يمنح وكلاء الذكاء الاصطناعي القدرة على التصرف: إعادة ضبط كلمة مرور أو طلب معدات أو إعادة تشغيل خدمة أو تغيير تهيئة. روبوت المحادثة تطبيق برمجي يجري محادثة، والمساعد الافتراضي يضيف القدرة على أداء مهام نيابة عن المستخدم. والفكرة الأوسع، الوكيل الذكي، نظام يدرك بيئة ويتخذ إجراءات نحو أهداف. وتجعل النماذج اللغوية الحديثة هذه الأنظمة أقدر بكثير على المحادثة المفتوحة من سابقاتها القائمة على القواعد، وقد أظهر أول برنامج حواري، إليزا من جوزيف فايزنباوم في ستينيات القرن الماضي، كم يسهل أن ينسب الناس فهمًا إلى آلة تنتج ردودًا معقولة فحسب.

والجاذبية واضحة. يحصل المستخدمون على مساعدة في أي ساعة دون انتظار. وتصرف الفرق وقتًا أقل على الطلبات الروتينية. والخدمة الذاتية هدف قديم في ITSM، والانتقال إلى اليسار، أي نقل الحل إلى نقاط أبكر وأرخص، فكرة محورية في مكتب الخدمة (انظر الموضوع 3.7، مقاييس الخدمة الذاتية والأتمتة). ومشكلة القياس أن الأرقام البديهية تكافئ الأشياء الخطأ. فالروبوت الذي ينهي محادثة يُعدّ قد "احتواها"، سواء ساعد المستخدم أو استسلم. والروبوت الذي لا يعرض إنسانًا أبدًا يعظّم الاحتواء. والروبوت الذي يعطي بثقة إجابة خاطئة ينتج فشلًا هادئًا يظهر اتصالًا غاضبًا بعد أيام.

ويحتاج نوعان من الأنظمة إلى قياسات متمايزة.

  • المساعدون الحواريون يجيبون عن الأسئلة ويرشدون المستخدمين ويجمعون المعلومات. وخطرهم إجابات خاطئة أو غير مفيدة وحبس المستخدمين في حلقات. وتركز القياسات على الحل والدقة والطريق إلى شخص.
  • الوكلاء الذين يتصرفون يغيرون أشياء في العالم: حسابات وأنظمة وتذاكر وأموال. وخطرهم إجراء خاطئ بعواقب حقيقية. وتركز القياسات على صحة الإجراءات وقابليتها للعكس وحدود الصلاحيات ومسارات التدقيق. وتستدعي هذه الاستخدامات حوكمة أقوى، وكثيرًا موافقة بشرية على الخطوات ذات العواقب (انظر الموضوع 10.5، مقاييس حوكمة الذكاء الاصطناعي ومخاطره).

وتشكل عدة مسائل تصميمية ما تقيسه.

  • الصدق بشأن مع من يتحدث المستخدم. لدى ولايات قضائية كثيرة، أو هي تطور، واجبات إخبار الناس حين يتفاعلون مع نظام ذكاء اصطناعي، وهذه القواعد حتى أكتوبر 2026 في تطور، فتحقق مما ينطبق عليك. والممارسة الجيدة أن تقول ذلك بوضوح في كل حال.
  • طريق للخروج. يجب أن يستطيع المستخدمون الوصول إلى شخص دون عناء. والروبوت الذي يخفي الطريق إلى إنسان نمط خداعي، تصميم يخدع المستخدمين أو يحبسهم في نتائج لم يكونوا ليختاروها.
  • إمكانية الوصول. يجب أن تعمل الواجهات الحوارية لمن يستخدمون تقنيات مساعدة ومن لديهم قدرة لغوية محدودة ومن يحتاجون لغة أو قناة أخرى.
  • القرارات الآلية. حين يؤثر مخرج مساعد في حقوق شخص أو وصوله، ينطبق موضوع اتخاذ القرار الآلي والواجبات المحيطة به. أبقِ هذه القرارات مع الناس، أو بضمانات قوية.

وضابط الحماية المستمد من قانون غودهارت صارخ هنا: إن كان الاحتواء أو التحويل هدفًا فأرخص طريقة لبلوغه جعل الإنسان أصعب وصولًا (انظر الموضوع 1.2، قانون غودهارت وعلم نفس المقاييس). وتضع القياسات أدناه الحل ونتيجة المستخدم أولًا.

المبادئ الأساسية

  • الحل هو المقياس لا الاحتواء. محادثة انتهت ليست مشكلة حُلّت.
  • تحقق، وافحص العودة. عدّ الاتصال محلولًا فقط حين يؤكد المستخدم أو لا يعود.
  • وفّر دائمًا طريقًا إلى شخص. اجعل الطريق سهلًا وسريعًا ومرئيًا، وانقل السياق.
  • كن صادقًا بشأن النظام. قل إنه ذكاء اصطناعي وما يستطيع فعله وما لا يستطيع.
  • حدّ ما يجوز للوكلاء فعله. امنح أقل صلاحية، واشترط موافقة للإجراءات ذات العواقب، واحتفظ بمسار تدقيق.
  • قِس جودة الإجابات بأخذ العينات. الردود السلسة قد تكون خاطئة.
  • أصغِ إلى المستخدمين وإلى الموظفين الذين يلمّون الشتات. هم يرون ما تفوته القياسات.

تعريفات المقاييس

المقياس التعريف الصيغة الوحدة مصدر البيانات ممارسة ITIL المقابل في أجايل التكرار
معدل الحل المتحقق منه حصة محادثات الروبوت التي أكد فيها المستخدم أن المسألة حُلّت، أو لم يعد خلال فترة معلنة المحادثات ذات الحل المؤكد أو بلا اتصال عائد خلال 7 أيام / المحادثات التي بدأت بنية قابلة للحل نسبة مئوية سجلات المحادثات، تأكيد المستخدم، بيانات التذاكر والاتصالات مكتب الخدمة؛ إدارة المعرفة نتيجة عاملة للمستخدم أسبوعي
معدل الاتصال العائد حصة المحادثات التي أنهاها الروبوت وتلاها اتصال بشأن المسألة نفسها عبر أي قناة المحادثات التي تلاها اتصال ذو صلة خلال 7 أيام / المحادثات المنتهية بلا تسليم نسبة مئوية سجلات المحادثات مربوطة بسجلات التذاكر والاتصالات مكتب الخدمة؛ إدارة الحوادث عيوب متسربة أسبوعي
اكتمال سياق التسليم حصة عمليات التسليم إلى شخص التي كانت لدى الشخص فيها المعلومات اللازمة دون أن يطلب من المستخدم التكرار عمليات التسليم المأخوذة عينةً التي حكم الموظف المستقبِل أنها كاملة / عمليات التسليم المأخوذة عينةً نسبة مئوية عمليات تسليم بالعينات، تغذية راجعة الموظفين مكتب الخدمة؛ إدارة المعرفة تعاون سلس عبر الحد شهري
الزمن إلى إنسان الزمن من طلب المستخدم شخصًا، أو قرار الروبوت التسليم، إلى تولي شخص الوسيط والمئين 85 للدقائق دقائق سجلات المحادثات، بيانات الطوابير مكتب الخدمة؛ إدارة الحوادث الاستجابة حين يحتاج المستخدم مساعدة أسبوعي
دقة الإجابات حصة إجابات الروبوت المأخوذة عينةً التي يحكم مراجع مؤهل أنها صحيحة وكاملة وآمنة الإجابات المحكوم بصحتها / الإجابات المأخوذة عينةً نسبة مئوية مراجعة بالعينات إدارة المعرفة؛ ضمان الجودة تعريف الإنجاز لإجابة شهري
رضا الروبوت والجهد تقييم المستخدم للرضا والسهولة بعد محادثة، مع تعليقات التقييمات الإيجابية / التقييمات؛ متوسط تقييم الجهد نسبة مئوية؛ نقاط مقياس استبيان قصير بعد المحادثة مكتب الخدمة؛ تجربة العملاء تغذية راجعة على برمجيات عاملة أسبوعي
معدل عكس إجراءات الوكيل حصة الإجراءات التي اتخذها وكيل ذكاء اصطناعي واضطر إلى تصحيحها أو التراجع عنها أو تصعيدها الإجراءات المعكوسة أو المصححة / الإجراءات المتخذة، بحسب نوع الإجراء وفئة الخطر نسبة مئوية سجل تدقيق الإجراءات، سجلات التغيير تمكين التغيير؛ إدارة الحوادث إعادة العمل والتراجع أسبوعي

عرّف النوايا التي يعالجها الروبوت، واستبعد من الاحتواء ما ينبغي تسليمه دائمًا. ويحسب الحل المتحقق منه محادثة فقط إن كانت المسألة ضمن النطاق وأكد المستخدم أو لم يُظهر اتصالًا عائدًا. ويبدأ الزمن إلى إنسان عند طلب المستخدم لا عند نهاية قائمة. ويُحكم على دقة الإجابات مقابل قاعدة المعرفة والسياسة بيد شخص لم يبنِ الروبوت. ويقسَّم عكس إجراءات الوكيل بحسب نوع الإجراء وفئة الخطر، ويُبلَّغ عن أي إجراء ضار بشكل منفصل حادثةً.

التوصيات

عرّف النجاح حلًّا

1. عرّف النوايا والنتيجة التي تريدها. اسرد المشكلات التي ينبغي أن يعالجها المساعد، مثل إعادة ضبط كلمة المرور وحالة الوصول وأسئلة كيف أفعل، والنتيجة لكل منها: أُجيب أو أُنجز أو سُلِّم. وقرر أي النوايا يجب أن تذهب دائمًا إلى شخص: الشكاوى وأي شيء يتعلق بكرب أو سلامة أو حقوق قانونية أو مال. والروبوت الذي يحاول معالجة كل شيء يفشل فشلًا سيئًا عند الأطراف.

2. قِس الحل المتحقق منه والعودات. اسأل المستخدمين في النهاية هل حُلّت مسألتهم، وابحث أيضًا عن اتصالات ذات صلة بعد ذلك. لا يكفي أحدهما وحده: من يستسلمون لا يجيبون، وبعض من حصلوا على مساعدة يتصلون مع ذلك. وهما معًا يقرّبان الحل الحقيقي. عامل معدل الاتصال العائد ضابط الحماية الرئيسي لأي رقم احتواء (انظر الموضوع 3.1، مقاييس مكتب الخدمة).

3. تجنب الاحتواء هدفًا. أبلغ بالاحتواء رقمًا وصفيًا فقط وبجانب الحل المتحقق منه والعودات والرضا دائمًا. واحتواء متصاعد مع عودات متصاعدة يعني أن الروبوت يصرف الناس. لا تضع هدف احتواء ولا تربط أداء أحد به.

اجعل الطريق إلى شخص سهلًا وجيدًا

4. دع المستخدمين يصلون إلى شخص في أي نقطة. وفّر طريقة واضحة بسيطة لطلب إنسان، والتزم بها. وقِس الزمن إلى إنسان وحصة المحادثات التي طلب فيها المستخدمون أكثر من مرة. واختبر المسار بنفسك بانتظام. وحيث لا يتوفر شخص فقل متى سيتوفر، وعرض معاودة الاتصال.

5. سلّم مع السياق. حين يمرر الروبوت محادثة إلى شخص، أدرج الملخص وما جُرّب وكلمات المستخدم وتفاصيل الحساب ذات الصلة حتى لا يكرر المستخدم نفسه. واطلب من الموظفين المستقبِلين تقييم هل التسليم كامل، وخذ عينات من النتائج. وعمليات التسليم الرديئة تقلل ثقة المستخدمين بالروبوت وبالخدمة (انظر الموضوع 9.3، مقاييس التعاون والتسليم بين الفرق).

6. صمّم لكل المستخدمين. اختبر المساعد مع مستخدمين يستخدمون تقنيات مساعدة ويكتبون بلغات أخرى وفي عجلة أو كرب وغير مرتاحين للتقنية. وقدم قنوات أخرى. وقِس الحل المتحقق منه والرضا بحسب مجموعة المستخدمين حيث يكون ذلك آمنًا وقانونيًا. فالمتوسطات تخفي من يفشل الروبوت معهم أكثر.

افحص جودة ما يقوله ويفعله

7. خذ عينات من الإجابات للدقة والسلامة. كل شهر اسحب عينة عشوائية من المحادثات ودع شخصًا مؤهلًا يحكم على الإجابات: صحيحة وكاملة وآمنة وصادقة بشأن عدم اليقين. وسجّل الأخطاء بالنوع: قديمة أو مختلَقة أو مخالفة للسياسة أو مسيئة الفهم. وغذِّ قاعدة المعرفة والتهيئة بالأخطاء. وأضف اختبارات موجهة للمواضيع الحساسة ولمحاولات دفع المساعد خارج نطاقه.

8. أبقِ المعرفة حديثة. المساعد بقدر المحتوى والأدوات التي يستمد منها. اربط أخطاء الإجابات بمقالات المعرفة، وقِس حداثة المعرفة التي يستخدمها (انظر الموضوع 3.6، مقاييس إدارة المعرفة). وحيث يستخدم النظام الاسترجاع من قاعدة معرفة، أدرج فحصًا بأنه يذكر مصادره وأن المصادر صحيحة.

9. كن صادقًا مع المستخدمين. قل في البداية إنهم يتحدثون مع ذكاء اصطناعي وما يستطيع وما لا يستطيع. ولا تعطه اسمًا بشريًا أو أسلوبًا يوحي بغير ذلك. وحيث لا يكون متأكدًا فعليه أن يقول ذلك ويعرض شخصًا. وتحقق من القانون المنطبق على الإفصاح.

احكم الوكلاء الذين يتصرفون

10. صنّف الإجراءات بالمخاطر واضبط الصلاحيات بما يناسب. لكل إجراء يستطيع الوكيل اتخاذه عرّف فئة خطره: معلوماتي أو قابل للعكس منخفض الأثر أو ذو عواقب. وامنح أقل صلاحية لازمة. واشترط موافقة بشرية للإجراءات ذات العواقب. واحتفظ بمسار تدقيق لكل إجراء بسببه والمستخدم والنتيجة. وترتبط هذه الضوابط بقياسات التغيير والأمن في أجزاء أسبق (انظر الموضوع 8.1، مقاييس الحوادث الأمنية والثغرات، والموضوع 8.2، مقاييس المخاطر والضوابط).

11. قِس صحة الإجراءات وقابليتها للعكس. تتبع معدل العكس بحسب نوع الإجراء، وراجع كل إجراء ضار حادثةً، بلا لوم. واختبر الوكلاء في بيئة آمنة قبل منح الوصول، وأعد الاختبار حين يتغير النموذج أو الأدوات. وقد يغير إصدار جديد من النموذج السلوك، فعامله تغييرًا يحتاج ضبطًا (انظر الموضوع 4.3، مقاييس تمكين التغيير).

12. أصغِ إلى من يلمّون الشتات. يرى موظفو مكتب الخدمة عواقب إخفاقات الروبوت: مستخدمون غاضبون واتصالات متكررة وفوضى تحتاج تنظيفًا. اسألهم بانتظام ما الذي يخطئ فيه الروبوت وما الذي يجعل الأمر أصعب. وتغذيتهم الراجعة وتعليقات المستخدمين دليل لا يلتقطه أي مقياس بالكامل، وينبغي أن تشكل الجولة التالية من التغييرات.

طرق التلاعب وضوابط الحماية

المقياس كيف يُتلاعب به ضابط الحماية المقترن (مقياس أو ممارسة)
معدل الحل المتحقق منه عدّ أي نهاية محادثة محلولة؛ أسئلة تأكيد موجِّهة عرّف التأكيد بحياد؛ معدل الاتصال العائد؛ خذ عينات من المحادثات
معدل الاتصال العائد القياس عبر قناة واحدة فقط؛ نوافذ قصيرة اربط كل القنوات؛ استخدم نافذة أطول فحصًا؛ خذ عينات من العودات
اكتمال سياق التسليم تمرير نص طويل بدل ملخص؛ أخذ عينة من عمليات تسليم سهلة تقييم الموظف المستقبِل؛ عينة عشوائية؛ زمن الحل بعد التسليم
الزمن إلى إنسان بدء الساعة بعد القوائم؛ عدّ إقرار الطابور تولّيًا الساعة تبدأ عند الطلب؛ التولي يعني أن شخصًا نشط في المحادثة
دقة الإجابات أخذ عينة من محادثات سهلة؛ مراجعون متساهلون عينة عشوائية بمراجعين مستقلين؛ حالات اختبار عدائية
رضا الروبوت والجهد استبيان المحادثات المكتملة فقط؛ وضع الاستبيان حيث يصل إليه المستخدمون الراضون فقط استبيان المحادثات المهجورة أيضًا؛ معدل الاستجابة والتركيبة؛ اقرأ التعليقات
معدل عكس إجراءات الوكيل عدم تسجيل العكوس؛ إعادة تصنيف التصحيحات عملًا جديدًا سجل تدقيق مقاوم للعبث؛ ربط العكوس بالإجراءات؛ مراجعة الحوادث

القراءة الصحية حل متحقق منه مرتفع بعودات منخفضة، وطرق سهلة وسريعة إلى شخص بعمليات تسليم كاملة، وإجابات دقيقة في المراجعة بالعينات، ومستخدمون راضون عبر المجموعات، ووكلاء نادرًا ما تحتاج إجراءاتهم إلى عكس ولا تسبب ضررًا دون أن يُرى.

المفاضلات: المزايا والعيوب

النهج نقطة القوة نقطة الضعف
روبوت قائم على القواعد متوقَّع، سهل الاختبار ضيق؛ هش؛ محبط خارج السيناريوهات
مساعد نموذج لغوي مرن، سلس قد يخطئ بثقة؛ أصعب اختبارًا
استرجاع من معرفة معتمدة إجابات مؤسَّسة، أسهل تصحيحًا يعتمد على جودة المحتوى
توليد مفتوح تغطية واسعة خطر اختلاق أعلى
موافقة بشرية للإجراءات أمان أبطأ؛ إرهاق المراجع
إجراءات مستقلة سرعة نطاق ضرر أوسع عند الخطأ
نطاق صارم مع تسليم مبكر آمن احتواء أقل
نطاق واسع احتواء أعلى أخطاء أكثر عند الأطراف

والجواب العملي البدء بنوايا ضيقة مفهومة جيدًا، وتأسيس الإجابات على معرفة معتمدة، وتسهيل المساعدة البشرية، وتوسيع النطاق والاستقلالية بقدر ما تبرره القياسات فقط.

أسئلة للنقاش مع فريقك

1. لو أراد مستخدم شخصًا الآن، كم خطوة سيستغرق، وهل جربناه بأنفسنا؟ اختبروا المسار معًا. عدّوا الخطوات والانتظار. وعلى الميسّر تدوين كل عائق. واتفقوا على تغييرات تقصّر المسار، وقيسوا الزمن إلى إنسان.

2. أي حصة من المحادثات التي أنهاها روبوتنا حلّت المشكلة فعلًا؟ افحصوا العودات والتأكيدات لعينة. وقارنوا برقم الاحتواء. وناقشوا الفجوة. وقرروا أي رقم ينبغي أن يراه القادة.

3. ماذا يخطئ فيه روبوتنا، ومن يكتشف؟ اسألوا مكتب الخدمة. راجعوا محادثات بالعينات. ابحثوا عن أنماط: مقالات قديمة وأسئلة غامضة ومواضيع حساسة. واتفقوا على طريق من الأخطاء إلى الإصلاحات، بمالك.

4. أي إجراءات يجوز للوكيل اتخاذها بنفسه، وأيها يحتاج شخصًا؟ اسردوا الإجراءات بفئات مخاطرها وصلاحياتها. واسألوا ما أسوأ فشل واقعي لكل منها. واتفقوا على قواعد الموافقة ومسار التدقيق ومن يراجع الحالات الضارة.

5. من يخذله الروبوت بصمت؟ فكروا في مستخدمين في عجلة أو كرب أو بحاجات وصول أو بلغة محدودة. وانظروا إلى الحل والرضا بحسب المجموعة، حيث يكون آمنًا. واتفقوا على اختبار واحد مع مثل هؤلاء المستخدمين.

6. ما الذي سيجعلنا نطفئ الروبوت أو نضيّق نطاقه؟ عرّفوا الدليل: عودات فوق مستوى أو إجراءات ضارة أو دقة دون معيار. وقرروا من يملك القرار. وامتلاك قاعدة إيقاف سلفًا يسهّل التصرف.

المنظورات الأربعة

فرق المنتج والتسليم

الفرق التي تبني المساعد تملك جودته. وينبغي لها تعريف النوايا، وتأسيس الإجابات على معرفة معتمدة، والاختبار بحالات عدائية، وإصدار التغييرات تحت ضبط، وقراءة الإخفاقات. وأن تعترض على أهداف الاحتواء التي تكافئ حبس المستخدمين.

فرق الخدمة والعمليات

يعمل موظفو مكتب الخدمة مع المساعد ويرثون إخفاقاته. وينبغي لهم تقييم عمليات التسليم، والتبليغ عن الإجابات الخاطئة، وإبقاء المعرفة حديثة، والتولي سريعًا حين يُطلب. وهم أفضل من يحكم هل يساعد المساعد المستخدمين، وعبء عملهم وضغطهم جزء من الصورة.

القيادة والحوكمة

يرعى القادة المساعد ويريدون وفورات. وينبغي لهم طلب الحل المتحقق منه والعودات والرضا بجانب الاحتواء، واشتراط قاعدة إيقاف، وتمويل الطريق البشري، ومراجعة فئات المخاطر للوكلاء. وعلى الحوكمة فحص الإفصاح وإمكانية الوصول والواجبات القانونية.

العملاء والمستخدمون

يريد المستخدمون مساعدة بجهد قليل ودون خداع. وينبغي أن يعرفوا أنهم يتحدثون مع ذكاء اصطناعي، وأن يستطيعوا الوصول إلى شخص بسهولة، وأن يثقوا بأن النظام لن يتصرف بلا سبب وجيه. وتجربتهم، وبخاصة مع الفشل، الدليل الأول على هل المساعد يستحق الاقتناء.

عمليًا: مثال على أجايل ITIL

تشغّل جامعة وطنية مكتب خدمة للطلاب والموظفين يعالج نحو 30000 اتصال شهريًا. وتطلق روبوت محادثة للطلبات الشائعة، وتبلّغ لوحة المورد عن معدل احتواء 74 في المئة. الأرقام أدناه توضيحية.

يتحقق رئيس خدمات الطلاب. من بين المحادثات التي أنهاها الروبوت في الشهر الأخير، تلا 29 في المئة اتصال ذو صلة عبر البريد أو الهاتف خلال سبعة أيام. والحل المتحقق منه، بتأكيد المستخدم وغياب العودة، 49 في المئة للنوايا ضمن النطاق. ووسيط الزمن للوصول إلى شخص بعد الطلب 6 دقائق، بمئين 85 يساوي 22، جزئيًا لأن الطريق يتطلب ثلاث خطوات قوائم. وتجد عينة من 100 محادثة راجعها مستشاران ذوا خبرة 88 إجابة صحيحة و12 معيبة: 7 قديمة و3 اختلقت تفاصيل عن موعد نهائي و2 أُسيء معالجة حالات حساسة تخص طالبًا في ضائقة. ويقيّم الموظفون المستقبِلون 54 في المئة من عمليات التسليم كاملة. والرضا عن الروبوت أقل للطلاب الذين يستخدمون قارئات الشاشة وللكاتبين بلغات غير الإنجليزية. ويبلّغ فريق مكتب الخدمة عن اتصالات كثيرة تبدأ بـ"لم يستطع روبوت المحادثة مساعدتي".

يجري رئيس خدمات الطلاب تغييرات مع الفريق. توجَّه النوايا الحساسة، مثل الرعاية والشكاوى والنزاعات حول الرسوم، مباشرة إلى شخص، ويقول الروبوت ذلك. ويظهر خيار "تحدث إلى شخص" على كل شاشة، ويُتتبع الزمن إلى إنسان، بهدف الرد خلال دقائق قليلة في ساعات التوظيف. وتتضمن عمليات التسليم ملخصًا تلقائيًا وكلمات المستخدم نفسه. ويصلح مالكو قاعدة المعرفة المقالات القديمة، وتغذيهم مراجعة شهرية بالعينات. ويُقيَّد المساعد بالإجابة من محتوى معتمد ويُلزم بقول متى لا يعرف. وتتيح تجربة ثانية لوكيل إعادة ضبط كلمات المرور بعد التحقق من الهوية، مع تسجيل كل إجراء وقابليته للعكس خلال حد زمني، ومعدل عكس متتبع. وتستبدل اللوحة الاحتواء بالحل المتحقق منه ومعدل الاتصال العائد والدقة والزمن إلى إنسان والرضا بحسب المجموعة.

وبعد ثلاثة أشهر يبلغ الحل المتحقق منه 66 في المئة للنوايا ضمن النطاق، وينخفض معدل الاتصال العائد إلى 14 في المئة، ووسيط الزمن إلى إنسان إلى دقيقتين، وترتفع حصة عمليات التسليم الكاملة إلى 86 في المئة، وتصل الدقة في الإجابات المأخوذة عينةً إلى 95 في المئة، دون حالات حساسة أُسيء التعامل معها في العينة. ومعدل عكس إجراءات الوكيل في تجربة كلمات المرور 1.2 في المئة. ويطلب مكتب نائب رئيس الجامعة هدف احتواء 85 في المئة. ويشرح رئيس خدمات الطلاب أن هدف احتواء أعلى سيكافئ إخفاء الطريق إلى شخص، ويقترح الحل المتحقق منه والعودات قياسين، مع مراجعة ما يُوسَّع تاليًا. ويُسجَّل القرار.

النظرة حسب القطاع

الشركات الناشئة. يستطيع المساعد تغطية الدعم بكلفة منخفضة، وقد تكلف إجابة سيئة واحدة عميلًا. أبقِ النطاق ضيقًا، وأسّس الإجابات على توثيقك، واجعل الخيار البشري واضحًا، واقرأ كل تصعيد. واحذر من ترك وكيل يتصرف في حسابات أو مدفوعات.

الأعمال الصغيرة. يستطيع مساعد جاهز على موقع إلكتروني معالجة الأسئلة الشائعة. اختبره كما يفعل عميل، وتأكد أن رقم الهاتف أو البريد الإلكتروني سهل العثور عليه، وراجع المحادثات أسبوعيًا. وتحقق مما يفعله المورد بالبيانات.

المؤسسات الكبرى. يقدم الحجم وفورات ومخاطر. شغّل عملية حوكمة لفئات المخاطر والموافقات والتدقيق، وقِس بحسب النية ومجموعة المستخدمين، وتأكد أن شخصًا يمكن الوصول إليه على كل قناة. ونسّق عبر الدعم والأمن والشؤون القانونية وإمكانية الوصول.

الحكومة والقطاع العام. قد لا يكون لدى المواطنين مزود بديل، وتنطبق بقوة واجبات إمكانية الوصول والوصول اللغوي والمعاملة العادلة. أبقِ شخصًا متاحًا، وتجنب القرارات الآلية بشأن الاستحقاقات دون ضمانات، وانشر كيف يُستخدم المساعد، وتحقق من الإفصاح وواجبات القانون الإداري (انظر الموضوع 8.5، التقارير التنظيمية والحكومية).

دراسة الجدوى: الدوافع والعائد على الاستثمار وإجمالي تكلفة الملكية

الكلف هي التراخيص أو رسوم الاستخدام والتكامل وإعداد المحتوى والعينات والمراجعة المستمرة وصيانة قاعدة المعرفة والاختبار والحوكمة. وطريق بشري جيد يكلف مالًا أيضًا، لأنه يجب أن يُوظَّف.

والعوائد المحتملة انتظارات أقصر للمسائل البسيطة وراحة من الاتصالات المتكررة وتغطية خارج ساعات العمل. وجانب الخطر يشمل العودات وفقدان الثقة والضرر من إجابات أو إجراءات خاطئة والتعرض القانوني. ابنِ الحجة من أرقامك: الحل المتحقق منه والعودات وكلفة الاتصال المحلول بما فيها عمليات التسليم ووقت الموظفين المصروف في إصلاح إخفاقات الروبوت والرضا بحسب المجموعة. وتجنب استخدام ادعاءات المورد عن الاحتواء أو التحويل تقديرًا لك. وعدّ كلفة الطريق البشري والحوكمة (انظر الموضوع 7.7، العائد على الاستثمار ودراسة الجدوى).

الأنماط المضادة والمزالق

  • الاحتواء هدفًا. يكافئ إبعاد الناس عن المساعدة. أبلغ بالحل المتحقق منه والعودات.
  • طريق مخفي أو بطيء إلى شخص. نمط خداعي، والمستخدمون يلاحظون. اجعله قصيرًا واختبره.
  • التسليم بلا سياق. يكرر المستخدمون أنفسهم وتقل الثقة. مرر ملخصًا.
  • ترك الروبوت يعالج الحالات الحساسة. الرعاية والشكاوى والحقوق تحتاج ناسًا. وجّهها مباشرة.
  • إجراءات مستقلة بلا تدقيق أو موافقة. خطأ واحد قد يتسع. صنّف وحدّ وسجّل.
  • قياس ما تعرضه لوحة المورد فقط. تجامل. اربط بياناتك.
  • تجاهل مجموعات يخذلها الروبوت. المتوسطات تخفيها. اختبر وقسّم حيث يكون آمنًا.
  • لا قاعدة إيقاف. يبقى روبوت فاشل قائمًا. عرّف الدليل الذي سيضيّقه أو يطفئه.

نموذج النضج

البُعد 1 البدء 2 التطوير 3 التوحيد 4 الإدارة 5 التنسيق
النتائج يُبلَّغ بالاحتواء الرضا مستطلَع الحل المتحقق منه والعودات متتبعان لكل نية مقسَّم بحسب مجموعة المستخدمين؛ قواعد الإيقاف معرَّفة؛ الدقة بالعينات شهريًا المساعد والموظفون والمعرفة تُحسَّن معًا بدليل مشترك
الطريق إلى الناس صعب العثور عليه الخيار متاح طريق قصير؛ الزمن إلى إنسان متتبع؛ عمليات التسليم تحمل السياق جودة التسليم مقيَّمة ومحسَّنة؛ التوظيف يطابق الطلب الروبوت والموظفون يتعاونون بسلاسة عبر القنوات، مع احترام اختيار المستخدم
الوكلاء الذين يتصرفون أتمتة ارتجالية إجراءات مبرمجة إجراءات مصنفة بالمخاطر، أقل صلاحية، موافقة وتدقيق يُراجَع معدل العكس والضرر؛ التغييرات مضبوطة سلوك الوكيل محكوم عبر المنظمة والموردين بضمان مستقل

قائمة التحقق

  • نوايا المساعد مسرودة، مع ما يجب أن يذهب دائمًا إلى شخص.
  • الحل المتحقق منه ومعدل الاتصال العائد مبلَّغ بهما بجانب الاحتواء.
  • طريق مرئي قصير إلى شخص على كل شاشة، والزمن إلى إنسان مقيس.
  • تتضمن عمليات التسليم ملخصًا وكلمات المستخدم، ويقيّمها الموظفون المستقبِلون.
  • تؤخذ عينات من الإجابات شهريًا بمراجعين مؤهلين مستقلين.
  • يُخبَر المستخدمون أنهم يتحدثون مع ذكاء اصطناعي وما يستطيع.
  • اختبار إمكانية الوصول واللغات الأخرى يجري مع مستخدمين حقيقيين.
  • إجراءات الوكلاء مصنفة بالمخاطر، بصلاحيات أقل امتياز، ومسجلة للتدقيق.
  • معدلات العكس والإجراءات الضارة تُراجَع بلا لوم.
  • قاعدة إيقاف تحدد متى يُضيَّق المساعد أو يُطفأ.

مطالبات الذكاء الاصطناعي

عرّف النوايا وقواعد التسليم.

We run a service desk for [type of organization]. The most common contact reasons
are: [list with volumes]. Propose which intents a chatbot should handle fully,
which it should only help with and then hand off, and which must always go to a
person, with reasons. Include handoff information to pass along. Do not invent
statistics. List your assumptions and risks for sensitive cases.

افحص ادعاء احتواء.

Our chatbot dashboard shows containment of [value]. We also have: return contacts
within seven days [value], survey results [values], and a sample of
conversations [describe]. Explain what verified resolution might be, how to
compute it from our data, what the gap between containment and resolution
suggests, and what to check next. Do not claim causes the data cannot support.
List your assumptions.

صمّم تصنيف مخاطر لإجراءات الوكيل.

An AI agent might take these actions: [list]. For each, propose a risk class
(informational, reversible low impact, consequential), the permission it should
need, whether a person must approve, what to log, how to reverse it, and a
test to run before enabling it. Do not assume specific tools. List your
assumptions and decisions needing security and legal input.

خطّط لمراجعة محادثات الروبوت.

Design a monthly review of bot conversations: sample size and selection
(including some abandoned ones and some from user groups at risk of poor
service), reviewer qualifications, a short rubric for correctness, safety, and
honesty about uncertainty, how to record errors and fix their sources, and how to
report without identifying users. List your assumptions and privacy cautions.

مهارات الذكاء الاصطناعي

النقاط الرئيسية

  • قِس الحل المتحقق منه والاتصالات العائدة، وعامل الاحتواء رقمًا وصفيًا فقط.
  • اجعل الطريق إلى شخص قصيرًا ومرئيًا، وسلّم مع السياق.
  • خذ عينات من الإجابات للدقة والسلامة، وأبقِ المعرفة التي يستخدمها المساعد حديثة.
  • كن صادقًا بأن المستخدمين يتحدثون مع ذكاء اصطناعي، واختبر مع المستخدمين الأرجح أن يُخذَلوا.
  • للوكلاء الذين يتصرفون، صنّف الخطر، وحدّ الصلاحيات، واشترط موافقة للإجراءات ذات العواقب، واحتفظ بمسار تدقيق.
  • عرّف قاعدة إيقاف سلفًا.

المراجع والقراءة الإضافية

  1. Weizenbaum, J., "ELIZA: A computer program for the study of natural language communication between man and machine," Communications of the ACM, 9(1), 1966.
  2. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023.
  3. European Parliament and Council, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), 2024.
  4. Dixon, M., Toman, N., and DeLisi, R., The Effortless Experience, Portfolio/Penguin, 2013.
  5. Parasuraman, R., and Manzey, D. H., "Complacency and bias in human use of automation: An attentional integration," Human Factors, 52(3), 2010.
  6. Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
  7. Wikipedia, Chatbot.
  8. Wikipedia, Virtual assistant.
  9. Wikipedia, Intelligent agent.
  10. Wikipedia, Self-service.
  11. Wikipedia, Dark pattern.
  12. Wikipedia, Automated decision-making.
  13. Wikipedia, Goodhart's law.