ما الذي ينبغي السماح به لوكيل الذكاء الاصطناعي في شركتك؟
السؤال المفيد عن وكيل الذكاء الاصطناعي ليس مدى ذكائه، بل ما يُسمح له بفعله. الوكيل الذي يصوغ مسودة ردّ يختلف في مخاطره عن الوكيل الذي يرسله، وينبغي أن يكون هذا الفرق قراراً تتخذه عن قصد.
صنّف الإجراءات حسب عواقبها
اكتب قائمة بما يمكن أن يفعله الوكيل في مسار العمل، ثم صنّف كل إجراء حسب ما يحدث إذا أخطأ فيه.
- القراءة والتلخيص: مخاطر منخفضة، وأتمتتها آمنة في العادة
- إعداد مسودات يراجعها شخص: مخاطر منخفضة وقيمة عالية
- إجراءات روتينية يمكن التراجع عنها مثل التصنيف أو الجدولة: اسمح بها ضمن حدود
- التزامات مالية أو تعاقدية أو موجّهة للعملاء: اشترط لها الاعتماد
- كل ما لا يمكن التراجع عنه أو يخرج عن غرض الوكيل: لا تسمح به
امنحه الصلاحيات التي يحتاجها فقط
ينبغي أن يرى الوكيل البيانات التي تتطلبها مهمته لا أكثر. تتبع الصلاحيات الدور، كما هو الحال مع أي موظف، والأدوات التي يستطيع استدعاءها قائمة معتمدة، لا كل ما يستطيع النظام فعله.
أبقِ شخصاً في المواضع المهمة
خطوات الاعتماد ليست فشلاً للأتمتة. في الإجراءات الحساسة هي التصميم نفسه. الوكيل يجهّز العمل، وشخص يؤكده، والسجل يبيّن من اتخذ القرار.
اجعل عمله قابلاً للتتبع
ينبغي أن تستطيع رؤية ما طُلب من الوكيل، وما المعلومات التي استخدمها، وما فعله، وكم كلّف. دون هذا السجل لا تستطيع تحسينه، ولا تستطيع تفسيره حين يسأل أحد.
قِس قبل توسيع الحدود
ابدأ بنطاق ضيق. اتفق على شكل النتيجة الجيدة، واختبر على أمثلة حقيقية، ولا توسّع صلاحيات الوكيل إلا حين تدعم النتائج ذلك.
مثال من دعم العملاء
في SoAppy يستخدم HelpDesk الذكاء الاصطناعي لفرز التذاكر وتلخيصها، والعثور على حالات سابقة مشابهة، وصياغة مسودات ردود وفق السياق. يراجع الموظفون المسودة قبل إرسال أي شيء، وتحسّن تصحيحاتهم الاقتراحات اللاحقة.