انتقل إلى المحتوى
YA
كل الكتابات
الذكاء الاصطناعيغير منشور1 دقائق قراءة

دع النموذج يكتب، ودع الكود يقرر

كيف يمنع «وكيل» النموذج اللغوي من إنشاء عملاء لم يوافق عليهم أحد — ولماذا تحكم القاعدة نفسها كل ميزة ذكية أبنيها.

هذا المقال مسودة مبنية على قرارات حقيقية من المشاريع، وبانتظار مراجعة الكاتب.

النماذج اللغوية كتّاب ممتازون وقضاة غير موثوقين. وفي منتج يتصرف نيابة عن نشاط تجاري، هذا الفرق هو التصميم كله.

المشكلة

يجمع موظف «وكيل» الذكي اسم العميل ورقمه لإنشاء عميل محتمل. وقد يتخيل النموذج تأكيداً، أو يقبل تفاصيل تغيّرت أثناء المحادثة، أو — عند إعادة تشغيل مهمة خلفية — ينشئ العميل نفسه مرتين.

القاعدة

إذا كان للقرار عواقب، فإنه يُتخذ في الكود. يستطيع النموذج أن يقترح، لكنه لا يستطيع أن يلتزم.
  • تُتحقق الحقول في الكود، ثم تُقرأ على العميل بقالب ثابت بلهجته.
  • تُحفظ مسودة على المحادثة، وتُصنّف الرسالة التالية حتمياً إلى نعم أو لا أو غير واضح.
  • يصبح معرّف المسودة معرّف العميل، فتجد المهمة المُعادة أنه موجود مسبقاً.

أبعد من العملاء

تظهر القاعدة نفسها في NOVA، حيث تقرر بوابة الصلاحيات — لا النموذج — أي استدعاءات الأدوات تُنفَّذ، وفي SUBZERO الذي يجيب مساعده فقط عمّا يفهمه من بيانات الجهاز ويصرّح حين لا يفهم.

قراءات ذات صلة