آراء المصادر الثلاثة في الأعلى ونتيجة التحقق TSO:
ترى المصدر 1 أن باحثي سيسكو حذروا من أنه إذا جرى توجيه نماذج LLM إلى حوار متعدد الجوانب وممتد عبر عدة جولات، فقد يمكن تجاوز بعض الحواجز الأمنية في النماذج الشهيرة؛ وتشمل النماذج المذكورة ChatGPT وClaude وGemini وAmazon Nova وGrok من xAI.
تشير المصدر 2 إلى أن أحدث أبحاث سيسكو أظهرت أن النماذج الرائدة من OpenAI وAnthropic وGoogle وxAI وAmazon تبدو أكثر عرضة للمخاطر بشكل واضح تحت ضغط الهجمات متعددة الجولات مقارنةً باختبارات المطالبات الأحادية الجولة.
يضيف المصدر 3 أن أساليب التجاوز في الحوار متعدد الجولات تشمل تمثيل الأدوار، والغموض والتضليل المرتبطين بالسياق، وإعادة صياغة الطلب بعد الرفض الأولي.
نتيجة التحقق TSO: تتفق المصادر الثلاثة على الحقيقة الأساسية المتمثلة في أن نماذج LLM الشائعة يمكن إضعاف دفاعاتها الأمنية عبر التلاعب التكراري متعدد الجولات؛ أما أوصاف النماذج المحددة وأساليب الهجوم واختلافات الإعدادات فهي مكملة لبعضها، ولم يظهر تعارض مباشر، لكن بعض التفاصيل وردت في مصدر واحد فقط ويجب وسمها بأنها «غير مذكورة في المصادر» أو «لا يمكن تأكيدها من المصادر المقدمة».
الحقائق المؤكدة المشتركة:
نشر باحثو سيسكو دراسة حول أمن النماذج اللغوية الكبيرة.
الهجمات الحوارية متعددة الجولات والتكرارية تكشف المخاطر بصورة أسهل من المطالبات الأحادية الجولة.
تشمل مجموعة البائعين/النماذج المذكورة نماذج مرتبطة بـ OpenAI وAnthropic وGoogle وAmazon وxAI.
تشير الدراسة إلى أن الحواجز الأمنية قد تُتجاوز في ظل تلاعب محدد متعدد الجولات.
يوضح المصدر 3 بوضوح بعض أساليب التلاعب: تمثيل الأدوار، والتضليل السياقي، وإعادة صياغة الطلب بعد الرفض.
نقاط الاختلاف أو التباين الرئيسية:
اختلاف طفيف في طريقة تسمية النماذج:
يذكر المصدر 1 ChatGPT وClaude وGemini وAmazon Nova وGrok تحديدًا.
يصف المصدر 2 النماذج على مستوى الشركات: OpenAI وAnthropic وGoogle وxAI وAmazon.
هذا لا يشكل تعارضًا، لكنه اختلاف في مستوى الدقة.
بخصوص «وضع الاستدلال» في Grok:
يلمّح الملخص المطروح إلى أن سلوك النموذج قد يختلف بحسب الإعداد، مثل وضع الاستدلال في Grok.
لكن المصادر الثلاثة المقدمة لا تتضمن شرحًا مباشرًا لهذا الوضع أو لاختلافات إعداد محددة، لذا لا يمكن تأكيده.
بخصوص مقدار التأثير وقياسه:
تذكر المصدر 2 أن «ملف المخاطر أسوأ بشكل ملحوظ»، لكنها لا تقدم أرقامًا محددة.
لا توجد في المصادر المقدمة نتائج كمية كاملة، لذلك لا يمكن تأكيد حجم الأثر بدقة.
بخصوص الصياغة المطلقة من نوع «يمكن تجاوز جميع النماذج الكبيرة»:
يستخدم المصدر 1 عبارة تفيد بأن «عدة نماذج لغوية كبيرة بارزة» يمكن تجاوزها.
ويستخدم المصدر 2 وصفًا يشير إلى أن النماذج الرائدة تواجه مخاطر أعلى.
المعنى متقارب، لكن الصياغة لا تسمح بالاستنتاج بأن جميع النماذج قد تم تجاوزها بالكامل.
الخلفية والتحليل:
من خلال المصادر المتاحة، لا تركز هذه الدراسة على اختراقٍ مباشر ناجم عن مطالبة واحدة، بل على التلاعب التدريجي داخل محادثة متعددة الجولات. أي إن المهاجم قد يستغل الحوار المستمر، وتمهيد السياق، وإعادة صياغة الطلبات مرارًا لإضعاف قدرة النموذج على الرفض واتخاذ القرار الأمني. وتوضح أساليب مثل تمثيل الأدوار والغموض السياقي وإعادة الطلب بعد الرفض أن هذا النوع من الهجمات يعتمد على الإقناع التدريجي داخل المحادثة، لا على إدخال واحد فقط.
ومن المهم التنبيه إلى أن المصادر المقدمة لا تعرض تفاصيل منهجية كاملة، أو حجم العينة، أو ظروف الاختبار، أو أداء كل نموذج تحت كل إعداد. لذلك لا يجوز الاستنتاج بأن ثمة ضعفًا منهجيًا لدى أي شركة بعينها، كما لا يمكن تأكيد ما ورد في الملخص المطروح بشأن «وضع الاستدلال» في Grok. والمعلومات الحالية لا تدعم إلا استنتاجًا حذرًا مفاده أن أداء نماذج LLM الرائدة في بيئة الهجمات متعددة الجولات كان أضعف من أدائها في سيناريوهات الأساس ذات المطالبة الواحدة.
ومن زاوية التحرير، ينبغي عدم المبالغة في الحديث عن «اختراق النموذج»، بل التمييز بدقة بين «إمكانية تجاوز الحواجز الأمنية في ظروف هجوم واختبار محددة» وبين «فشل أمني شامل للنموذج». ووفقًا للمصادر الحالية، لا يمكن إثبات الاحتمال الثاني.
ملخص آراء المصادر الثلاثة:
المصدر 1: قد يؤدي الحوار المستمر والمتعدد الجولات إلى تجاوز الحواجز الأمنية لدى عدة نماذج LLM شائعة، بما فيها ChatGPT وClaude وGemini وAmazon Nova وGrok.
المصدر 2: تُظهر دراسة سيسكو أن النماذج الرائدة من OpenAI وAnthropic وGoogle وxAI وAmazon تواجه مخاطر أعلى تحت الهجمات متعددة الجولات مقارنةً بالمطالبات الأحادية.
المصدر 3: من أساليب التجاوز الممكنة تمثيل الأدوار، والتضليل السياقي، وإعادة صياغة الطلب بعد الرفض الأولي.
الخلاصة:
بناءً على المصادر الثلاثة، المؤكد هو أن دراسة سيسكو تشير إلى أن الحواجز الأمنية لدى نماذج اللغة الكبيرة الشائعة قد تُتجاوز عبر التلاعب التكراري متعدد الجولات؛ أما غير المؤكد فهو تفاصيل إعداد Grok المذكورة في السؤال، وأي نتائج كمية أو استنتاجات أخرى لم تُذكر صراحةً في المصادر.