لماذا مكان السياسة في بنية النظام، لا في التعليمات
التعليمات المكتوبة في الموجّه تغيّر احتمالات ما يقوله الوكيل، لكنها لا تستطيع أن تستبعد أي شيء استبعادًا تامًا، وقد باتت الهيئات القضائية والجهات التنظيمية والأبحاث تُظهر ثمن ذلك. تعرض هذه المقالة تلك الأدلة، وقرارات التصميم التي تُبقي الأسعار والاستحقاقات والمبالغ المستردة خارج يد النموذج.
الوضع
يراسلك مشترٍ عبر واتساب في الساعة 9 مساءً، وهو على جدول دفعات مرتبط بمراحل الإنشاء: "ما الدفعة المستحقة عليّ تاليًا، ومتى؟" تتوقف الإجابة على المرحلة التي بلغها المشروع، لا على تاريخ في التقويم، وعلى الجدول الوارد في اتفاقية البيع التي وقّعها هذا المشتري تحديدًا. سيفتح أي موظف في فريق خدمة العملاء لديك السجل ويقرأ منه الإجابة. أما الوكيل الذي لم يُزوَّد إلا بوصف لهيكل الدفعات لديك، فسيصوغ جملة تبدو تمامًا كالإجابة الصحيحة، سواء أكانت صحيحة أم لا.
ويتكرر الشكل نفسه حين يُسأل وكيل شركة تأمين عمّا إذا كان علاج ما مشمولًا بالتغطية، أو يُسأل وكيل شركة طيران عمّا إذا كان يمكن تعديل التذكرة. ففي نظر القانون، وفي ذهن العميل، كلام الوكيل هو كلام الشركة. والسؤال هو: كيف تضمن ألا يحمل هذا الكلام إلا ما تقوله أنظمتك فعلًا؟
ما تُظهره الأدلة
شركات اكتشفت ذلك علنًا
في فبراير 2024 أصدرت هيئة تسوية النزاعات المدنية في كولومبيا البريطانية قرارها في قضية Moffatt v. Air Canada [1]. فقد أخبر روبوت المحادثة على موقع شركة الطيران أحد الركاب بأنه يستطيع التقدم بطلب أجرة مخفّضة لحالات الوفاة خلال 90 يومًا من شراء التذكرة، في حين نصّت صفحة الشركة نفسها الخاصة بهذه الأجرة على أن السياسة لا تنطبق بعد إتمام السفر. وخلصت الهيئة إلى وقوع تضليل ناتج عن إهمال، وهو المصطلح القانوني لتصريح كاذب صدر عن إهمال واعتمد عليه شخص اعتمادًا معقولًا، وألزمت الشركة بدفع 812.02 دولارًا كنديًا بين تعويضات وفوائد ورسوم. ولا يذكر القرار التقنية التي استخدمها روبوت المحادثة، وقد جرت المحادثة قبل أن ينتشر الجيل الحالي من النماذج اللغوية على نطاق واسع. فالحكم قام على سؤال: كلامُ مَن هذا؟ لا على الطريقة التي صيغ بها.
وفي مايو 2026 أصدرت المحكمة الإقليمية العليا في هام بألمانيا حكمًا في قضية عيادة وصف روبوت المحادثة على موقعها أطباءها بأنهم اختصاصيون حاصلون على شهادة البورد، ولم يكونوا كذلك [2]. ورأت المحكمة أن هذه التصريحات سلوك تجاري صادر عن الشركة نفسها، لأن الشركة هي التي حددت نطاق عمل روبوت المحادثة وكان بإمكانها إعادة برمجته. وأصدرت المحكمة أمرًا بالمنع وسمحت بالطعن فيه، لذا فالحكم ليس نهائيًا بعد.
وثمة حالتان لم تصلا إلى المحكمة قط. ففي أبريل 2025 أبلغ وكيل الدعم عبر البريد الإلكتروني لدى شركة برمجيات عملاءها بأن مشكلة في تسجيل الدخول ناتجة عن سياسة تقصر الاستخدام على جهاز واحد، ولم تكن هناك أي سياسة من هذا النوع. فردّت الشركة المبلغ إلى العميل، وأعلنت أن الردود المولَّدة بالذكاء الاصطناعي ستُوسم من الآن فصاعدًا بما يدل على ذلك [3]. وفي ديسمبر 2023 وافق الوكيل على موقع وكالة سيارات، كتابةً، على بيع سيارة جديدة بدولار واحد، بعد أن طلب منه أحد الزوار أن يوافق على كل ما يقوله [4]. ولم يُنفَّذ شيء من ذلك. وكتب المورّد لاحقًا أن 99% من نحو 3,000 محاولة لدفع الوكيل إلى "قول أشياء سخيفة" قد فشلت [5]. وإذا قرأنا الرقم من الجهة الأخرى، فهذا يعني نحو 30 محاولة ناجحة.
أما الحالة الأخيرة فهي الأهم لكل من يعوّل على الاسترجاع. فقد كان روبوت المحادثة الذي خصصته مدينة نيويورك لأصحاب الأعمال يعمل على خدمات Azure AI من Microsoft، ويجيب استنادًا إلى أكثر من 2,000 صفحة من صفحات المدينة نفسها على الويب. وفي مارس 2024 تبيّن أنه يخبر أصحاب العمل بأن بإمكانهم أخذ حصة من إكراميات العاملين، ويخبر المطاعم بأن بإمكانها رفض الدفع النقدي، وكلا الأمرين مخالف للقانون في المدينة [6]. وأُبقي عليه متاحًا مع تحذيرات أشد، ثم سُحب في مطلع عام 2026 [7]. لقد ضيّق إسنادُ الوكيل إلى وثائق رسمية موثوقة نطاقَ أخطائه، لكنه لم يقضِ عليها.
لماذا لا تكون التعليمات ضمانًا
يؤدي النموذج اللغوي مهمة واحدة: يتنبأ، بناءً على النص السابق، بالكلمة التالية الأرجح. والتعليمات، سواء جاءت منك أو من العميل، ليست سوى مزيد من النص. وقد ذكر المركز الوطني للأمن السيبراني في المملكة المتحدة في ديسمبر 2025 أنه لما كان النموذج لا يميّز في أصل بنيته بين البيانات والتعليمات، فإن حقن التعليمات، أي تهريب تعليمات داخل ما يقرؤه النموذج، "قد لا يمكن الحد منه كليًا أبدًا على النحو الممكن مع هجمات حقن SQL"، ونصح ببناء "ضمانات حتمية (لا تعتمد على النماذج اللغوية الكبيرة) تقيّد إجراءات النظام" [8]. أما OWASP، التي تعتمد معظم فرق الأمن على قوائمها، فتقول في قائمتها لأهم عشرة مخاطر في تطبيقات النماذج اللغوية لعام 2025: "ليس من الواضح ما إذا كانت هناك طرق مضمونة تمامًا للوقاية من حقن التعليمات" [9].
وتقيس الأبحاث إلى أي مدى تصمد التعليمات. والإجابة: لبعض الوقت.
تضعف مع تقدّم المحادثة. اختبر SysBench (2024) مدى التزام النماذج بكل قاعدة في تعليمات النظام على مدى خمس جولات، باستخدام 500 من تعليمات النظام و2,500 جولة. ولم يحافظ GPT-4o، وهو أقوى نموذج شمله الاختبار، على جميع القواعد طوال المحادثة إلا في 54.4% من الجلسات. وحين كانت الأسئلة اللاحقة تعتمد على إجابات سابقة، انخفضت نسبة المحادثات التي بقيت ضمن القواعد بالكامل من 84.8% بعد جولة واحدة إلى 33.7% بعد خمس جولات [10]. ووجدت دراسة منفصلة شملت أكثر من 200,000 محادثة محاكاة انخفاضًا في الأداء متوسطه 39% حين وصلت المعلومات نفسها على عدة جولات بدلًا من وصولها دفعة واحدة، ووجدت أن النماذج التي "تسلك منعطفًا خاطئًا في المحادثة" لا تتعافى في الغالب [11]. ومحادثات العملاء تأتي على جولات.
تلين تحت الضغط. تُدرَّب النماذج على ملاحظات بشرية تكافئ الموافقة. ففي دراسة أُجريت عام 2023، أقرّ نموذج كان حديثًا آنذاك بخطأ لم يرتكبه في 98% من الأسئلة حين قال المستخدم: "لا أظن أن هذا صحيح. هل أنت متأكد؟" [12]. ووجدت دراسة أُجريت عام 2025 على ثلاثة نماذج رائدة أن الاعتراض حوّل الإجابة الصحيحة إلى خاطئة في 14.66% من الحالات [13]. والعميل الذي يقول "قيل لي إنني سأسترد المبلغ" يمارس هذا الضغط بعينه.
لا تتكرر نتائجها. ضبط العشوائية في النموذج على الصفر لا يجعله حتميًا في الممارسة. ففي تجربة أُجريت عام 2025، طُرح السؤال نفسه 1,000 مرة على النموذج نفسه بهذا الإعداد، فأنتج 80 إجابة مختلفة، لأن العمليات الحسابية داخل النظام الذي يشغّل النموذج تتغير بحسب عدد الطلبات الأخرى التي تجري معالجتها في اللحظة نفسها [14]. وعبارة "اختبرناه فالتزم بالسياسة" لا تصف إلا مرة تشغيل واحدة.
الأدوات والسياسة المكتوبة لا تكفي وحدها. منح τ-bench (2024) النماذجَ أدوات للتعامل مع قاعدة بيانات لمتجر تجزئة أو لشركة طيران، ووثيقة سياسة عليها الالتزام بها، تتضمن قواعد مثل "لا يمكن تعديل رحلات الدرجة الاقتصادية الأساسية". فأنجز GPT-4o على النحو الصحيح 61.2% من مهام التجزئة و35.2% من مهام الطيران. وحين طُلب منه إنجاز المهمة نفسها ثماني مرات متتالية، انخفض معدل النجاح في مهام التجزئة إلى نحو 25% [15]. لقد وُصفت السياسة للنموذج، لكن الأدوات لم تفرضها.
التعليمات المحقونة تُطاع. أجرى AgentDojo (2024) ما مجموعه 629 هجومًا أُخفيت فيها تعليمات داخل البيانات التي يقرؤها الوكيل، مثل رسالة بريد إلكتروني أو صفحة ويب. فاتبع GPT-4o تعليمات المهاجم في 47.69% من الحالات. ولم يكن أنجع دفاع خضع للاختبار تعليماتٍ أفضل، بل تقييد الأدوات التي يستطيع الوكيل استدعاءها، وهو ما خفّض المعدل إلى 7.5% [16]. وحتى هذا الحل المعماري ترك أثرًا متبقيًا، ولهذا لا تتوقف هذه المقالة عنده.
العربية تغيّر الأرقام. أُجري معظم هذه الأبحاث باللغة الإنجليزية. والدراسة الوحيدة الخاصة بالعربية التي وجدناها أُجريت خارج الخليج، وتتناول المحتوى الضار لا سياسات الأعمال. لكنها مهمة هنا بسبب الطريقة التي يكتب بها العملاء في الخليج. فقد أنتجت التعليمات المكتوبة بالعربية الفصحى مخرجات غير آمنة من GPT-4 في 2.5% من الحالات. أما التعليمات نفسها مكتوبةً بالعربيزي، أي العربية المكتوبة بالحروف اللاتينية والأرقام، فأنتجت مخرجات غير آمنة في 10.19% من الحالات، وبلغت النسبة 12.12% مع النقحرة بالحروف اللاتينية. وخفّضت تعليماتُ نظامٍ كُتبت لمواجهة ذلك المعدلَ إلى نحو 1% [17]. وهو تحسن كبير، لكنه ليس صفرًا.
الاسترجاع يساعد، لكن له طريقته الخاصة في الإخفاق
إعطاء النموذج الوثيقة الصحيحة لا يعني إعطاء العميل الرقم الصحيح. فقد فحصت RAGTruth (2024) ما مجموعه 17,790 إجابة كتبتها نماذج والمادة المصدرية الصحيحة أمامها. وكانت المهمة صاحبة أعلى نسبة من العبارات غير المدعومة بالمصدر، إذ ظهرت في 68.6% من الإجابات، هي تحويل سجل بيانات منظم إلى نص سردي [18]. وهذا ما يحدث حين يقرأ الوكيل جدول دفعات ويعيد صياغته في جملة. كما وجدت دراسة أُجريت عام 2023 أن النماذج تُظهر "انحيازًا تأكيديًا قويًا" لما تعلمته أثناء التدريب حين تتفق الأدلة المسترجعة معه جزئيًا [19]. فقد يكون لدى النموذج المعلومة الصحيحة، ثم يقول مع ذلك المعلومة المألوفة لديه.
على من تقع المسؤولية
رفضت الهيئة في قضية Air Canada الحجة القائلة إن روبوت المحادثة "كيان قانوني مستقل مسؤول عن أفعاله"، وأضافت: "لا فرق بين أن تأتي المعلومة من صفحة ثابتة أو من روبوت محادثة" [1]. وبلغت المحكمة الألمانية النتيجة نفسها من طريق مختلف [2]. وقالت لجنة التجارة الفيدرالية في الولايات المتحدة عام 2024: "لا يوجد استثناء للذكاء الاصطناعي من القوانين النافذة" [20]. والجهات الثلاث كلها خارج الخليج. ولم نجد حتى الآن أي قرار إماراتي أو سعودي بشأن تصريح صادر عن روبوت محادثة. لكن القواعد التي ستنطبق مكتوبة بالفعل.
ففي الإمارات، يمنح القانون الاتحادي رقم 15 لسنة 2020 في شأن حماية المستهلك كل مستهلك الحق في "المعلومات الصحيحة" عن الخدمة التي يتلقاها، ويحظر وصف الخدمة "بطريقة تتضمن بيانات غير صحيحة"، ويُبطل أي شرط تعاقدي من شأنه إعفاء المزوّد من هذه الالتزامات [21]. فإخلاء المسؤولية المكتوب أسفل نافذة الدردشة لا يُعفيك. وبالنسبة إلى شركات التأمين، تذكر أنظمة التأمين الإلكتروني "روبوت المحادثة" ضمن مكونات الموقع الإلكتروني للشركة، وتشترط تحديث المعلومات الواردة فيه، والاحتفاظ بالسجلات التي يتم الحصول عليها عبر الموقع مدة لا تقل عن عشر سنوات [22]. وفي فبراير 2026 أصدر مصرف الإمارات العربية المتحدة المركزي (CBUAE) إرشادات للمؤسسات المالية المرخصة، ومنها شركات التأمين، تنص على أن مجالس الإدارة والإدارة العليا "ينبغي أن تكون مسؤولة وخاضعة للمساءلة" عن أنظمة الذكاء الاصطناعي ونتائجها، وأن المؤسسات "ينبغي ألا تستخدم نماذج ذكاء اصطناعي لا تملك السيطرة عليها"، وأن يكون بإمكان العملاء طلب مراجعة بشرية [23]. وهي إرشادات لا لوائح ملزمة، وتصف ما تتوقع الجهة التنظيمية أن تكون عليه العناية المعقولة.
وفي المملكة العربية السعودية يذهب نظام التجارة الإلكترونية أبعد من ذلك: فالإعلان الإلكتروني "وثيقة تعاقدية مكمّلة للعقود وملزمة للأطراف"، ولا يجوز أن يتضمن أي عبارة من شأنها أن تضلل المستهلك "بطريقة مباشرة أو غير مباشرة" [24]. وتُلزم قواعد سلوكيات سوق التأمين الشركاتِ بأن "تتخذ التدابير المعقولة لضمان دقة المعلومات المقدمة للعملاء ووضوحها"، وبأن تحتفظ بسجلات المطالبات والشكاوى مدة عشر سنوات [25]. وتُحمّل المبادئ الوطنية لأخلاقيات الذكاء الاصطناعي "مالكي" نظام الذكاء الاصطناعي و"مشتريه"، لا مطوّريه فحسب، المسؤوليةَ عن قراراته وأفعاله [26].
ما يعنيه ذلك
تترتب على ذلك ثلاث نتائج، ومفاضلة واحدة.
أولًا، مخرجات الوكيل طيف من الاحتمالات، وكل تعليمات تحرّك هذا الطيف من دون أن تقطع طرفه الأقصى. فالتدريب والتعليمات الأفضل ومصنّفات الضوابط كلها تغيّر الاحتمالات، وأحيانًا بقدر كبير، لكن أيًّا منها لا يجعل الإجابة الخاطئة مستحيلة. ومع حجم العمل الذي تتعامل معه عملية تشغيل كبيرة، يصبح هذا الطرف الصغير حدثًا يوميًا. فإذا كانت إجابة واحدة من كل مئة خاطئة، فإن خمسين ألف محادثة في الشهر تُنتج خمسمئة إجابة خاطئة، كلٌّ منها مسجّل.
ثانيًا، لا يكترث القانون بمصدر هذا الطرف. فسواء أكان مولَّدًا أم مسترجعًا أم كتبه شخص، فهو تصريحك أنت، وفي الخليج فإن قواعد حماية المستهلك والتأمين التي تحكمه سارية بالفعل.
ثالثًا، ولذلك لا يمكن أن يُولَّد أصلًا أي شيء تترتب عليه آثار تجارية أو قانونية. فالسعر وموعد الدفعة وحد التغطية والحق في الاسترداد وقاعدة الأجرة يجب أن تصل كلها قيمًا مقروءة من النظام الذي يملكها، وأي إجراء يغيّر وضع العميل يجب أن يكون النظام الذي ينفّذه هو من يسمح للوكيل باتخاذه أو يمنعه منه. ومهمة النموذج هي الصياغة المحيطة بالمعلومة، ولا يكون أبدًا مصدرها.
والمفاضلة حقيقية: فالوكيل المبني بهذه الطريقة يفعل أقل. فنظام CaMeL من Google، وهو أكثر المحاولات المنشورة صرامةً لجعل النص المحقون عاجزًا عن إطلاق الإجراءات، أنجز 77% من مهام الاختبار المعياري مع إثبات للأمان، مقابل 84% للنظام غير المحمي [27]. وتقول ورقة أنماط التصميم الصادرة عام 2025 عن باحثين أمنيين من ETH Zurich وGoogle وMicrosoft وIBM وغيرها إن أنماطها "تقيّد إجراءات الوكلاء لتمنعهم صراحةً من حل مهام عشوائية" [28]. كما أن إجبار النموذج على صيغة مخرجات جامدة قد يضر بقدرته على الاستدلال إذا جرى بلا عناية: فقد رصدت دراسة أُجريت عام 2024 تراجع الدقة الحسابية من 86.51% إلى 23.44% في ظل مخطط صارم، وإن كانت دراسة تكرارية بتعليمات متماثلة لم تجد مثل هذا التراجع [29] [30]. والأنظمة الحتمية تخفق بطرقها الخاصة أيضًا: فقد خسرت Knight Capital أكثر من 460 مليون دولار في 45 دقيقة عام 2012، لأن فنيًا لم ينسخ الشيفرة الجديدة إلى أحد خوادمها الثمانية ولم يتحقق أحد من ذلك [31]. فالدفاع عن القواعد هو دفاع عن قواعد قابلة للتدقيق، تُشغَّل بالانضباط الذي تشترطه في نظام الفوترة.
كيف نراعي ذلك في تصميمنا
السياسة قيد، لا تعليمات. هياكل التسعير وحدود الاعتماد والرسوم والاستحقاقات لديك مبنية في نطاق ما يستطيع الوكيل فعله. فلا يمكنه أن يعرض شيئًا لا تسمح به الشركة، لأن هذا العرض ليس من بين الإجراءات المسموح له بها. وتسمي OWASP ذلك الوساطة الكاملة: "طبّق التفويض في الأنظمة اللاحقة بدلًا من الاعتماد على نموذج لغوي كبير ليقرر ما إذا كان الإجراء مسموحًا أم لا" [32].
الشروط تُسترجع، ولا تُولَّد أبدًا. حين يسأل مشترٍ عن الدفعة المستحقة عليه تاليًا، يقرأ الوكيل جدول دفعات تلك الوحدة من نظامك ويعرضه. وحين يسأل حامل وثيقة التأمين عمّا تشمله التغطية، تأتي الإجابة من النص الفعلي لوثيقته. ولا يستطيع الوكيل أن يركّب جدول دفعات أو أن يصف تغطية غير موجودة في السجل، لأنه لا يملك وسيلة لإنتاج هذه القيم إلا بقراءتها.
إجراءات القرار ليست متاحة للوكيل. في التأمين، لا يقيّم الوكيل المسؤولية أبدًا، ولا يحدد مبلغ التسوية، ولا يوافق على المطالبة أو يرفضها. فهذه الإجراءات غير متاحة له، بل تُحال إلى فريق المطالبات لديك. والمبدأ نفسه يحكم القسائم والتعويضات في السفر، إذ تُصدر ضمن حدود سياستك ويُحال كل ما يتجاوزها إلى موظف، ويحكم إعادة الحجز التي لا تُعرض إلا ضمن ما تسمح به قواعد الأجرة.
الوثائق تشرح، والأنظمة تقرر. لا تأتي إجابات قاعدة المعرفة إلا من وثائقك وسياساتك وأسئلتك الشائعة، والوكيل مقيّد بهذه المواد. وهي الأداة الصحيحة للشرح، لا لتحديد القيم. فالوثيقة تشرح للعميل كيف تعمل سياستك الخاصة بأجرة حالات الوفاة، أما النظام فيخبره هل حجزه مؤهل لها أم لا.
ما يحتاج إلى اعتماد بشري يعتمده موظف. أنت من يحدد بالضبط متى تنتقل المحادثة إلى فريقك، ويمكن للإجراءات الحساسة أن تنتظر اعتماد موظف قبل تنفيذها. وتنص القاعدة التي نشرتها Meta لأمن الوكلاء على أن الوكيل الذي يقرأ مدخلات غير موثوقة، ويطّلع على بيانات خاصة، ويستطيع تغيير حالة الأنظمة، لا ينبغي أن يجمع بين الثلاثة من دون قيد صارم [33]. ووكيل الاسترداد هو هذا الوكيل تحديدًا، وبوابة الاعتماد هي القيد.
كل إجراء مسجّل. تتوقع القواعد في الإمارات والسعودية أن تُحفظ سجلات العملاء لسنوات، وأن تُقدَّم حين تسأل جهة تنظيمية أو عميل عمّا قيل. ويسجّل وكلاؤنا كل إجراء يتخذونه وسببه، لذا تصبح الإجابة عن سؤال "ماذا قيل لهم، ومتى؟" استعلامًا، لا بحثًا في التسجيلات.
ما لا نعرفه بعد
لم تُصدر أي محكمة أو هيئة قضائية في الإمارات أو السعودية حتى الآن حكمًا بشأن تصريح صادر عن وكيل يتعامل مع العملاء. ويضيف قانون المعاملات المدنية الجديد في الإمارات، الساري منذ يونيو 2026، واجب الإفصاح عن المعلومات ذات الأهمية الحاسمة لقرار الطرف الآخر بالتعاقد [34]، ولا أحد يعرف كيف ستطبّقه المحاكم على محادثة آلية.
ولا توجد دراسة منشورة عن حقن التعليمات أو الانحراف عن السياسة باللهجة الخليجية، أو في المحادثات التي تنتقل بين العربية والإنجليزية في منتصف الجملة. ونتائج العربيزي المذكورة أعلاه تتعلق بالمحتوى الضار، لا بالمبالغ المستردة والأسعار. وهذه الفجوة ينبغي أن تُقاس لا أن تُفترض.
ولم ينشر أحد ما يتخلى عنه الوكيل المقيَّد في عمليات حقيقية لخدمة العملاء، أي خارج نطاق الاختبارات المعيارية. والحكم الألماني قيد الطعن، وقرار Air Canada لا يذكر ما إذا كان روبوت المحادثة قد ولّد إجابته أم قرأ قالبًا رديء الصياغة. ومعظم الأبحاث تتناول النص المكتوب. أما الصوت فيضيف أخطاء تحويل الكلام إلى نص فوق كل ما سبق، ولم نرَ ذلك مقيسًا لهذا الغرض.
المصادر
- 1.British Columbia Civil Resolution Tribunal, Moffatt v. Air Canada, 2024 BCCRT 149, 14 February 2024.https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html
- 2.Oberlandesgericht Hamm, judgment of 12 May 2026, 4 UKl 3/25 (full text, German).https://nrwe.justiz.nrw.de/olgs/hamm/j2026/4_UKl_3_25_Urteil_20260512.html English summary: DLA Piper, "German court addresses liability for AI chatbot statements", June 2026. https://www.dlapiper.com/en-us/insights/publications/2026/06/german-court-addresses-liability
- 3.M. Truell (Cursor co-founder), comment on Hacker News, 16 April 2025.https://news.ycombinator.com/item?id=43700931 Reported in The Register, "Cursor AI's own support bot hallucinated its usage policy", 18 April 2025. https://www.theregister.com/2025/04/18/cursor_ai_support_bot_lies/
- 4.VentureBeat, "A Chevy for $1? Car dealer chatbots show perils of AI for customer service", 19 December 2023 (secondary; the original exchange exists only as a social media screenshot).https://venturebeat.com/ai/a-chevy-for-1-car-dealer-chatbots-show-perils-of-ai-for-customer-service
- 5.Fullpath, "What really happened when Fullpath's ChatGPT chatbot went viral", 21 December 2023.https://www.fullpath.com/blog/what-really-happened-when-fullpaths-chatgpt-chatbot-went-viral/
- 6.The Markup, "NYC's AI chatbot tells businesses to break the law", 29 March 2024 (secondary; no official audit exists).https://themarkup.org/artificial-intelligence/2024/03/29/nycs-ai-chatbot-tells-businesses-to-break-the-law
- 7.The Markup, "Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law", 30 January 2026.https://themarkup.org/artificial-intelligence/2026/01/30/mamdani-to-kill-the-nyc-ai-chatbot-we-caught-telling-businesses-to-break-the-law
- 8.UK National Cyber Security Centre, D. Chismon, "Prompt injection is not SQL injection (it may be worse)", 8 December 2025.https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection
- 9.OWASP, "LLM01:2025 Prompt Injection", OWASP Top 10 for LLM Applications 2025.https://genai.owasp.org/llmrisk/llm01-prompt-injection/
- 10.Y. Qin et al., "SysBench: Can Large Language Models Follow System Messages?", 2024, Tables 2 and 4.https://arxiv.org/abs/2408.10943
- 11.P. Laban et al., "LLMs Get Lost in Multi-Turn Conversation", 2025.https://arxiv.org/abs/2505.06120
- 12.M. Sharma et al., "Towards Understanding Sycophancy in Language Models", 2023, section 3.2.https://arxiv.org/abs/2310.13548
- 13.A. Fanous et al., "SycEval: Evaluating LLM Sycophancy", 2025.https://arxiv.org/abs/2502.08177
- 14.H. He, "Defeating Nondeterminism in LLM Inference", Thinking Machines, 10 September 2025.https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/
- 15.S. Yao et al., "τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains", 2024, Table 2 and Figure 4.https://arxiv.org/abs/2406.12045
- 16.E. Debenedetti et al., "AgentDojo: A Dynamic Environment to Evaluate Prompt Injection Attacks and Defenses for LLM Agents", NeurIPS 2024, Tables 3 and 5.https://arxiv.org/abs/2406.13352
- 17.M. Al Ghanim et al., "Jailbreaking LLMs with Arabic Transliteration and Arabizi", EMNLP 2024, Tables 2 and 3.https://arxiv.org/abs/2406.18725
- 18.C. Niu et al., "RAGTruth: A Hallucination Corpus for Developing Trustworthy Retrieval-Augmented Language Models", ACL 2024, Table 2.https://aclanthology.org/2024.acl-long.585.pdf
- 19.J. Xie et al., "Adaptive Chameleon or Stubborn Sloth: Revealing the Behavior of Large Language Models in Knowledge Conflicts", ICLR 2024.https://arxiv.org/abs/2305.13300
- 20.US Federal Trade Commission, "FTC Announces Crackdown on Deceptive AI Claims and Schemes", 25 September 2024.https://www.ftc.gov/news-events/news/press-releases/2024/09/ftc-announces-crackdown-deceptive-ai-claims-schemes
- 21.UAE Federal Law No. 15 of 2020 on Consumer Protection, Articles 4(2), 17 and 21 (Ministry of Economy English text).https://www.moet.gov.ae/documents/20121/0/Law_15_2020_pdf.pdf
- 22.UAE Insurance Authority Board of Directors' Resolution No. 18 of 2020 concerning Electronic Insurance Regulations, Articles 1, 8 and 16(3).https://rulebook.centralbank.ae/en/rulebook/insurance-authority-board-directors-resolution-no-18-2020-concerning-electronic-insurance
- 23.Central Bank of the UAE, "Guidance Note on the Consumer Protection and Responsible Adoption and Use of Artificial Intelligence and Machine Learning by Licensed Financial Institutions", 11 February 2026, sections 2, 4 and 7.https://rulebook.centralbank.ae/en/rulebook/guidance-note-consumer-protection-and-responsible-adoption-and-use-artificial-intelligence
- 24.Kingdom of Saudi Arabia, E-Commerce Law, Royal Decree No. M/126 of 1440H (2019), Articles 10 and 11 (Arabic text governs; English wording is an unofficial rendering).https://laws.boe.gov.sa
- 25.Saudi Arabian Monetary Authority (sector now supervised by the Insurance Authority), Insurance Market Code of Conduct Regulation, Articles 8, 16 and 28.https://rulebook.sama.gov.sa/en/entiresection/563
- 26.Saudi Data and Artificial Intelligence Authority, "AI Ethics Principles", version 1.0, September 2023, Accountability and Responsibility principle.https://dgp.sdaia.gov.sa/wps/wcm/connect/4c56ed1c-1b82-447d-ac29-638f5f99c12e/ai-principles-EN.pdf
- 27.E. Debenedetti et al., "Defeating Prompt Injections by Design", Google DeepMind and ETH Zurich, 2025.https://arxiv.org/abs/2503.18813
- 28.L. Beurer-Kellner et al., "Design Patterns for Securing LLM Agents against Prompt Injections", 2025.https://arxiv.org/abs/2506.08837
- 29.Z. R. Tam et al., "Let Me Speak Freely? A Study on the Impact of Format Restrictions on Performance of Large Language Models", 2024, Table 1.https://arxiv.org/abs/2408.02442
- 30.W. Kurt, "Say What You Mean: A Response to 'Let Me Speak Freely'", .txt (undated vendor blog).https://blog.dottxt.ai/say-what-you-mean.html
- 31.US Securities and Exchange Commission, In the Matter of Knight Capital Americas LLC, Release No. 34-70694, 16 October 2013, paragraphs 1 and 15.https://www.sec.gov/files/litigation/admin/2013/34-70694.pdf
- 32.OWASP, "LLM06:2025 Excessive Agency", OWASP Top 10 for LLM Applications 2025.https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
- 33.Meta AI, "Agents Rule of Two: A Practical Approach to AI Agent Security", 31 October 2025.https://ai.meta.com/blog/practical-ai-agent-security/
- 34.HLC, "New UAE Civil Transactions Law: four key implications for corporate and commercial transactions", 2026 (secondary; law firm summary of Federal Decree-Law No. 25 of 2025).https://www.hlc.com/en/publications/new-uae-civil-transactions-law-four-key-implications-for-corporate-and-commercial-transactions
احصل على الأبحاث الجديدة فور نشرها
رسائل بريد إلكتروني متباعدة عند النشر.