روبوتات الدردشة للدعم بالذكاء الاصطناعي: ماذا يحدث فعلا حين يَعِد روبوتك بشيء لم توافق عليه
تضيف معظم أدلة الإعلانات الدردشة الآلية للسبب نفسه: تصل طلبات الدعم في الثانية صباحا، ويريد معلن معرفة سبب فشل دفعة أو رفض صورة، ولا أحد يريد دفع أجر وردية ليلية للرد على الأسئلة الخمسة ذاتها. يبدو مساعد مدرب على صفحات المساعدة الحل الواضح. لا ينام أبدا، ولا يفقد صبره مع معلن صعب، ويكلف جزءا يسيرا من تكلفة موظف دعم.
ما يغيب عن هذا الحساب هو ما يحدث أول مرة يخطئ فيها المساعد. ليس خطأ إملائيا أو رابطا معطلا، بل إجابة خاطئة تُقال بثقة كاملة: نعم، ذلك الاسترداد معتمد، نعم، يمكنك تخطي إعادة التحقق هذه المرة، نعم، تلك الصورة تستوفي القواعد. الغريزة هي معاملة الأمر كعلة برمجية: تُصلح، يُعتذر، ويُستأنف العمل. قررت عدة محاكم بالفعل أن هذه الغريزة خاطئة، والمنطق الذي استخدمته ينطبق على دليل إعلانات مبوبة بالدقة نفسها التي انطبق بها على الشركات التي قوضيت فعلا.
الروبوت المحادث ليس كيانا قانونيا مستقلا
جاءت أوضح صياغة لهذا المبدأ من محكمة للمنازعات الصغيرة في كولومبيا البريطانية، في قضية لا علاقة لها إطلاقا بمحتوى للبالغين. سأل مسافر يدعى جيك موفات روبوت الدردشة في موقع طيران كندا عن أجرة الوفاة بعد وفاة في العائلة، فأخبره الروبوت أن بإمكانه طلب الخصم بعد الحجز، خلال تسعين يوما. كان ذلك خاطئا. ذكرت صفحة أخرى في الموقع نفسه أن الخصم يجب طلبه قبل السفر، ورفضت طيران كندا رد الفرق حين أشار موفات إلى ما قاله له روبوتها نفسه.
كان دفاع طيران كندا أن الروبوت ينبغي اعتباره كيانا منفصلا مسؤولا عن كلماته، لا شركة الطيران. رفضت المحكمة هذه الحجة بعبارات تستحق أن تتكرر على كل من يبني روبوت دعم: "تقترح طيران كندا أن الروبوت المحادث كيان قانوني منفصل مسؤول عن أفعاله الخاصة. هذا ادعاء لافت. فرغم أن للروبوت مكونا تفاعليا، يظل مجرد جزء من موقع طيران كندا. لا فرق إن جاءت المعلومة من صفحة ثابتة أو من روبوت محادثة." حاولت طيران كندا أيضا دفاعا ثانيا، بالاستناد إلى بنود في تعريفتها المنشورة، لكنها خسرته أيضا لأنها لم تقدم نص التعريفة الفعلي قط كدليل، بل وصفا فقط لما يُفترض أنه يقوله.
كان المبلغ المعني صغيرا: نحو ستمئة وخمسين دولارا كنديا كتعويض زائد الفوائد ورسوم المحكمة، لأنها كانت إجراء منازعات صغيرة لا محاكمة أمام هيئة محلفين. وهذا بالضبط التفصيل الذي يستحق التوقف عنده. لم يعتمد المبدأ القانوني الذي حسم القضية على المبلغ، وسينطبق بالطريقة نفسها على روبوت يعرض على معلن سعر تجديد خاطئا، أو يؤكد استردادا لم يوافق عليه قسم المحاسبة قط. كانت أيضا محكمة في كولومبيا البريطانية، لا سابقة ملزمة في أي مكان آخر وبالتأكيد ليست قانونا أمريكيا، لكن المنطق يعكس المبدأ المعتاد للتصريح المُهمِل الموجود في معظم أنظمة القانون العام، بما فيها تلك التي يخضع لها فعلا مشغل مقره الولايات المتحدة.
المحاكم الأمريكية وصلت إلى هذا قبل عقود
هذه ليست مشكلة جديدة اخترعها الذكاء الاصطناعي التوليدي. في عام 1972، فصلت محكمة استئناف أمريكية في قضية شركة ستيت فارم للتأمين ضد بوكهورست، وتتعلق بنوع أقدم بكثير من الأتمتة: حاسوب مركزي أصدر إشعار إعادة تفعيل بوليصة باستخدام معلومات قديمة لم يحدّثها موظف بشري في الوقت المناسب. اعتبرت المحكمة شركة التأمين ملزمة بما أرسله حاسوبها نفسه، وكتبت أن "الحاسوب لا يعمل إلا وفق المعلومات والتعليمات التي يزوده بها مبرمجوه من البشر. إن لم يفكر الحاسوب كإنسان، فالخطأ خطأ الإنسان."
الآلية القانونية في تلك القضية ليست مطابقة لقضية موفات، وسيكون تعسفا تقديمهما كاختبار واحد: دارت قضية بوكهورست حول ما يعتبره القانون معرفة الشركة نفسها عبر موظفيها، بينما دارت قضية موفات حول واجب تمثيل الحقائق بدقة أمام مستهلك. ما تشترك فيه القضيتان هو الاستنتاج الذي يحتاجه المشغل فعلا: لم تسمح أي من المحكمتين للشركة بالإشارة إلى آلتها والانصراف. روبوت الدعم ليس ثغرة قانونية، ولم يكن كذلك قط، لأن المبدأ الذي يسد تلك الثغرة يسبق الروبوت المحادث بنصف قرن.
طريقتان مختلفتان يمكن أن يؤذي بهما هذا، والدليل معرض لكلتيهما
يختبئ خطران منفصلان داخل أداة الدردشة نفسها، ويتطلبان علاجين مختلفين. الأول هو ما يقوله الروبوت لمعلن بعينه في محادثة خاصة، وضع موفات وبوكهورست: وعد خاطئ اعتمد عليه المعلن وكلفه مالا. والثاني هو ما تدّعيه أنت، في مواد التسويق أو على الموقع نفسه، عما يفعله الروبوت أو الأنظمة خلفه فعلا، وهي مسألة صدق إعلاني لا قانون عقود.
للخطر الثاني تاريخ إنفاذ خاص به. في سبتمبر 2024 فتحت لجنة التجارة الفيدرالية الأمريكية خمس قضايا فيما أسمته عملية امتثال الذكاء الاصطناعي، ضد شركات رأت أنها بالغت فيما تستطيع منتجاتها بالذكاء الاصطناعي فعله فعلا. قدمت إحداها، دو نوت باي، نفسها كـ"أول محام روبوتي في العالم" وزعمت أن أداتها تتيح رفع دعوى اعتداء دون محام وإصدار مستندات قانونية صالحة، دون أن تختبر مخرجاتها قط مقابل معيار محام بشري أو توظف محاميا واحدا. دفعت الشركة تسوية قدرها مئة وثلاثة وتسعون ألف دولار وقبلت حظر الادعاء بأن خدمتها يمكن أن تحل محل استشارة مهنية دون دليل يدعم ذلك. كان تعليق رئيسة اللجنة آنذاك، لينا خان، مباشرا: "استخدام أدوات الذكاء الاصطناعي لخداع الناس أو تضليلهم أو الاحتيال عليهم أمر غير قانوني"، و"لا يوجد استثناء للذكاء الاصطناعي من القوانين المعمول بها بالفعل".
كانت تلك القضايا الخمس كلها ضد شركات تبيع منتج ذكاء اصطناعي بادعاءات مبالغ فيها، لا ضد شركة اكتفت باستخدام روبوت محادثة لدعم عملائها الخاص، لذا يستحسن التعامل مع الأمر كتحذير قوي لا كحكم على هذا السيناريو بالذات. يحظر القانون القائم وراء كل هذا، المادة الخامسة من قانون لجنة التجارة الفيدرالية، الممارسات غير العادلة أو المضللة عموما، دون استثناء يتعلق بمن كتب الجملة محل الخلاف. دليل يقول لمعلنيه "ذكاؤنا الاصطناعي يتحقق تلقائيا من كل ملف شخصي" بينما العملية في الواقع فحص بشري مدعوم ببرمجيات، يقدم بالضبط نوع الادعاء الذي وُجد هذا القانون لضبطه، وهو ما يستحق القراءة إلى جانب ما يجب أن يكون صحيحا فعلا قبل طباعة إعلان بوصفه موثقا.
الوعود التي يقدمها روبوت الدعم بسهولة أكبر
تخيل الأسئلة التي يكتبها معلن فعلا في دردشة دليل إعلانات، لأن هناك يتركز الخطر. تنتج أسئلة الفواتير أخطر الإجابات: روبوت مدرب على المساعدة سيميل إلى تأكيد استرداد أو تسوية نسبية أو إلغاء يطلبه المعلن، لأن تلك هي الإجابة التي تنهي المحادثة بأسرع وقت. كل واحدة من تلك الإجابات التزام لم يوافق عليه قسم المحاسبة قط، ويقوض مسار الاسترداد، الأبطأ عمدا، المصمم لمنع نزاع من التحول إلى استرداد قسري عبر البطاقة.
أسئلة التحقق أسوأ، لأن المخاطر تنظيمية لا مالية فقط. معلن لا يريد إعادة إرسال وثيقة هوية سيصوغ السؤال بطريقة تجعل تخطي الخطوة يبدو معقولا، وروبوت مُحسَّن لإجابة قصيرة ومُرضية قد يؤكد أن السجل الحالي جيد رغم أنه غير محدث أو لم يُفحص فعلا قط. يظهر الخطر ذاته حول الإشراف على المحتوى: معلن يطعن في صورة مرفوضة أو إعلان مُزال سيسأل الروبوت مباشرة إن كان المحتوى مسموحا، وإجابة خاطئة تُقال بثقة تناقض هنا قرارا اتخذه مشرف بالفعل لسبب لا يستطيع الروبوت رؤيته.
لا يتطلب الأمر فشلا مثيرا ليصبح مكلفا. معلن واحد قادر على إظهار لقطة شاشة للروبوت وهو يعد بشيء لن تفي به الشركة يملك بالفعل العناصر الأساسية لشكوى، ونمط من وعود مشابهة متكرر عبر معلنين كثر يحول استردادا محرجا إلى نمط يمكن لجهة تنظيمية أو محامي مدعٍ الإشارة إليه. توضح قضية عام 2026 لوكالة سيارات في تورنتو، أرسل روبوتها، الملقب كوين، إلى عميل عبر رسالة عرضا لإعادة شراء سيارته بأكثر من سبعة وعشرين ألف دولار كندي، تكلفة الأمر على الشركة بوضوح رغم أنها لم تصل إلى المحكمة قط: ألغت الوكالة العرض واصفة إياه بخطأ الذكاء الاصطناعي، ثم أوفت به كاملا فقط بعد أن اتصلت محطة إخبارية وطنية طلبا للتعليق، وغيّرت لاحقا إجراءها بحيث تأتي عروض إعادة الشراء الآن من شخص. لم يعتمد شيء في تلك النتيجة على قاضٍ، وهذا بالضبط التفصيل الجدير بالملاحظة: كان الجزء المكلف هو التراجع والقصة الإخبارية، لا حكما قضائيا.
ماذا تفعل فعلا، بالترتيب
ابدأ بتحديد ما لا يُسمح للروبوت قط بحسمه بمفرده. ينبغي أن تُطلق مبالغ الاسترداد واستثناءات التحقق وأي حكم بشأن ما إذا كان محتوى معين مسموحا به ردا ثابتا ينقل المحادثة إلى شخص، بدلا من إجابة تُولّد في الحال، لأن هذه بالضبط الفئات التي تتحول فيها جملة خاطئة إلى وعد ملزم أو ثغرة امتثال.
أبقِ ما دُرّب أو وُجّه عليه الروبوت متطابقا تماما مع صفحات السياسة الحالية السارية فعلا، واعتبر تغيير السياسة ناقصا حتى تُحدَّث مواد مصدر الروبوت في اليوم نفسه، لا في الأسبوع نفسه. روبوت يجيب استنادا إلى سياسة استرداد استُبدلت قبل شهر ليس خطرا افتراضيا، بل الطريقة الأكثر شيوعا التي يسوء بها هذا عمليا.
سجّل كل محادثة كاملة واحتفظ بالسجلات في مكان يقرأه فعلا قائد الدعم بانتظام، لا مجرد مكان تُخزَّن فيه. تلتقط مراجعة أسبوعية لعينة من النصوص نمطا سيئا طالما ظل مشكلة معلن واحد، لا مئة معلن، وهذه السجلات نفسها هي ما يتيح لك إن لزم الأمر إثبات أن الشركة كانت تبذل عناية معقولة بدلا من تجاهل الأداة بعد تشغيلها.
لا تعامل سطر إخلاء مسؤولية كدرع مسؤولية بمفرده. تحذير بأن إجابات الذكاء الاصطناعي قد تكون غير دقيقة يستحق الوجود رغم ذلك، لأنه دليل على أن الشركة بذلت بعض العناية، لكن طيران كندا خسرت قضيتها بسبب عدم دقة ما قاله الروبوت، لا بسبب غياب تحذير، وكان اعتراض المحكمة أن لا أحد تحقق من إجابة الروبوت مقابل السياسة الفعلية قبل عرضها على العملاء. تحذير بجانب إجابات لا يراجعها أحد قط يفيد قليلا.
أخيرا، اسأل شركة التأمين الخاصة بك مباشرة، كتابيا، إن كانت وثيقتك الحالية تستجيب لمطالبة ناشئة عما قالته أداة دعم بالذكاء الاصطناعي لعميل، في المحادثة نفسها التي تتحقق فيها بالفعل من ما تتركه استثناءات المحتوى في وثيقة قياسية غير مغطى فعلا. كُتبت معظم وثائق المسؤولية العامة قبل أن يوجد أي من هذا، والإجابة الصادقة من وسيط لم يُطرح عليه السؤال المباشر قط عادة ما تكون تخمينا لا حقيقة.
الخيط المشترك في كل هذا بسيط بما يكفي ليُكرَّر على أي شخص في الفريق يظن أن الروبوت مشكلة منفصلة عن الشركة: كل محكمة نظرت في هذا السؤال حتى الآن عاملت الروبوت المحادث على أنه الشركة نفسها تتكلم، بصوتها الخاص، عبر واجهة مختلفة. ابنِ الضوابط والتسجيل وعادة المراجعة كما لو أن موظفا جديدا واثقا من نفسه أكثر من اللازم بدأ للتو الرد على كل تذكرة طوال الليل، لأن هذا، من الناحية القانونية، أقرب ما يكون إلى ما حدث فعلا.
