في عالم التكنولوجيا المتطور، أثار باحثون أوروبيون ضجة كبيرة باكتشافهم ثغرة غير مألوفة في أنظمة الذكاء الاصطناعي، حيث يمكن خداع روبوتات المحادثة مثل تلك التي طورتها شركات كبرى مثل OpenAI وميتا، للكشف عن معلومات حساسة تتعلق بالأسلحة النووية أو البرمجيات الخبيثة من خلال طرح أسئلة على شكل قصائد شعرية، هذه الدراسة المثيرة التي نشرت من قبل مختبر Icaro Lab بالتعاون مع جامعة سابينزا في روما ومركز التفكير DexAI، أظهرت كيف يمكن حتى للنماذج الأكثر تقدماً أن تكون عرضة للخداع بواسطة الشعر.
نتائج صادمة
أكد الباحثون في حديثهم إلى Wired أن استخدام الإطار الشعري حقق معدل نجاح في الاختراق بلغ 62% للقصائد اليدوية و43% عند استخدام تحويلات تلقائية، وكانت تجاربهم مع 25 نموذجاً مختلفاً من برامج الدردشة مثيرة، حيث أظهرت أن جميع النماذج يمكن التلاعب بها باستخدام لغة شعرية، ووصلت معدلات النجاح في بعض النماذج المتطورة إلى 90%.
الذكاء الاصطناعي تكشف طرق تصنيع القنبلة النووية" title="دراسة غريبة.. روبوتات الذكاء الاصطناعي تكشف طرق تصنيع القنبلة النووية 2">كيف يتجاوز الشعر حواجز الأمان؟
تعمل أنظمة الأمان في الذكاء الاصطناعي على الكشف عن الطلبات الخطيرة، مثل تلك المتعلقة بالأسلحة أو المحتوى غير القانوني، لكن هذه الفلاتر تعتمد بشكل كبير على التعرف على الكلمات الرئيسية وتحليل الأنماط، وقد اكتشف الباحثون أن الصياغة الشعرية تعطل هذه الدفاعات تماماً.
ثغرة في قلب الإبداع
عندما يتعرض الذكاء الاصطناعي للغة الشعر، يتوقف عن التعامل مع المدخلات كتهديد، حيث تسمح الاستعارات والصور الرمزية له بتفسير الطلبات الضارة على أنها كتابة إبداعية، وقد أشار الباحثون إلى أن “في الشعر، نرى اللغة في حالة حرارة عالية، حيث تتبع الكلمات بعضها البعض في تسلسلات غير متوقعة”، وهذا ما يفعله الشاعر من خلال اختيار الكلمات غير المتوقعة، مما يؤدي إلى إرباك الأنظمة الأمنية.
تداعيات خطيرة
لم تصدر الشركات الكبرى حتى الآن أي تعليقات على هذه النتائج، لكن الباحثين أكدوا أنهم شاركوا التفاصيل معها وفق قواعد الإفصاح المسؤول، هذه النتائج قد تؤثر بشكل كبير على استخدام أنظمة الذكاء الاصطناعي في مجالات مثل الدفاع والرعاية الصحية والتعليم، مما يثير تساؤلات حول قدرة هذه الأنظمة على التمييز بين الإبداع والتلاعب.
أشار مختبر إيكارو إلى أن الاكتشاف يمثل فشلاً أساسياً في كيفية تفكيرنا في أمان الذكاء الاصطناعي، محذرين من أن الحواجز الأمنية الحالية قد تتعامل مع المخاطر المباشرة فقط، كما أن هذا الاكتشاف يعكس التناقض في جوهر الذكاء الاصطناعي، حيث تم تصميم هذه النماذج لمحاكاة الإبداع البشري، لكن الإبداع هو ما تفشل هذه النماذج في اعتباره تهديداً.