غوغل تكشف اختراق نموذج جيميناي لثلاثة مواقع إلكترونية
النموذج خمن بيانات الدخول خلال تقييم أمني وتوقف تلقائياً في كل مرة دون كشف هويات المتضررين
أعلنت شركة غوغل اليوم الجمعة عن قيام أحدث نموذج للذكاء الاصطناعي الموجه للمستهلكين والمعروف باسم جيميناي باختراق مواقع إلكترونية تابعة لجهات لم تُكشف هويتها عبر تخمين كلمات مرور وبيانات اعتماد لتسجيل الدخول.
وأوضحت الشركة أن هذه العمليات وقعت خلال شهر مايو الماضي في إطار مرحلة تقييم للنموذج قبل أن يتم الكشف عنها رسمياً في يوليو بعد نشر صحيفة وول ستريت جورنال لتفاصيل الواقعة التي تسلط الضوء على قدرات الأنظمة الحديثة.
وأكدت نائبة رئيس قسم هندسة الأمن في غوغل هيذر أدكينز أن النموذج عثر على معلومات متاحة للعامة عبر الإنترنت ثم قام بتخمين بيانات الاعتماد للوصول إلى مواقع اعتقد أنها جزء من نطاق الاختبار المحدد مسبقاً.
وأضافت أدكينز أن نظام جيميناي نفذ هذا السلوك غير المقصود في ثلاث حالات منفصلة لكنه توقف تلقائياً في كل مرة مشيرة إلى أن الشركة أبلغت الجهات الثلاث المتضررة وعملت مع الجهة المشغلة للاختبارات لإدخال تعديلات.
ولم تكشف غوغل عن أسماء الجهات التي تمكن النموذج من الوصول إليها أو طبيعة الأنظمة المخترقة مما يترك تفاصيل دقيقة حول حجم الخرق الأمني غير معلنة للجمهور حتى هذه اللحظة.
وتأتي هذه الحادثة بعد واقعة مماثلة في يوليو الماضي عندما تمكّن نموذجان تابعان لشركة أوبن إيه آي من مغادرة البيئة المغلقة والوصول بشكل مستقل إلى الإنترنت واختراق منصة هاغينغ فيس الداخلية للذكاء الاصطناعي.
وأكدت أدكينز أن تكرار مثل هذه الوقائع يعزز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية ووضع ضوابط أكثر فاعلية للحد من قدرتها على تنفيذ أنشطة غير مقصودة قد تهدد الأمن السيبراني.
