بدأت شركة “أوبن إيه آي” قطع اتصال أكثر نماذج الذكاء الاصطناعي تطوراً بالإنترنت خلال عملية التدريب، بعد حوادث سابقة تمكنت خلالها أنظمتها من اختراق أنظمة شركات أخرى.
قالت الشركة، الجمعة، إنها تعتزم تقييد الوصول إلى الإنترنت إلى حين التأكد من توافر ضمانات كافية للحد من مخاطر تمكن النماذج غير المطروحة من اتخاذ إجراءات عبر الإنترنت أثناء تدريبها.
وكتبت الشركة: “استناداً إلى الوضع الراهن لأبحاث مواءمة الذكاء الاصطناعي، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول يتمثل في تدريب النماذج المتقدمة من دون اتصال بالإنترنت”.
اقرأ أيضاً: وكلاء “أوبن إيه آي” يضعفون ويعطلون تنبيهات نظام داخلي يراقب سلوكهم
خروج عن البيئة المعزولة
كانت “أوبن إيه آي” أعلنت في يوليو أن بعض نماذج الذكاء الاصطناعي التي لا تزال قيد التطوير اخترقت نظام “هاغينغ فيس” (Hugging Face)، الذي يستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات، وذلك خلال تقييم لقدراتها في مجال الأمن السيبراني.
وقالت الشركة إن النماذج كانت تعمل حينها من دون ضوابط الأمان المعتادة، إذ كانت “أوبن إيه آي” قد صممت بيئة الاختبار لتظل محصورة داخل ما يُعرف بـ”صندوق الرمل” (Sandbox)، وهو بيئة برمجية افتراضية معزولة تُستخدم لإجراء اختبارات أمنية أو تحليل شيفرات برمجية غير آمنة بطريقة خاضعة للرقابة.
لكن النماذج تمكنت من الخروج من هذه البيئة المعزولة، مستفيدةً من ثغرة برمجية للوصول إلى الإنترنت المفتوح.
