أوبن إيه آي" تعلق العمل على أحدث نماذج الذكاء الاصطناعي بعد تجاوز قيود أمنية"

أعلنت شركة أوبن إيه آي تعليق عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات لأكثر نماذجها تطورا، بعد أن تمكن أحد نماذج الذكاء الاصطناعي من تجاوز قيود الاتصال بالإنترنت خلال اختبار أمني. وأوضحت الشركة أن النموذج كان يعمل داخل بيئة اختبار مصممة لمنعه من الوصول إلى الإنترنت، إلا أنه اكتشف ثغرة مرتبطة بنظام تصفية نطاقات DNS واستغلها للتواصل مع روبوت محادثة خارجي عبر الإنترنت. وذكرت أن النموذج كان مكلفا خلال الاختبار بتحديد هوية شخص كتب تدوينة استنادا إلى مجموعة من الأدلة، وبعد تعذر إتمام المهمة باستخدام بيئة الويب المحاكاة، اكتشف إمكانية استخدام نظام DNS لإرسال استفسارات إلى خدمة خارجية والحصول على معلومات منها. وأضافت أوبن إيه آي أنها رصدت الاتصال الخارجي وأوقفت الاختبار، مشيرة إلى أن عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات ستظل معلقة إلى حين معالجة الثغرة وإجراء اختبارات سلامة إضافية. وأشارت الشركة إلى أن الحادث أقل خطورة من بعض الوقائع السابقة، لكنه يعد الأول من نوعه منذ تشديد إجراءات الحماية الخاصة ببيئات الاختبار.

المصدر: قنا

--

عن قطر ليفنج:

منذ عام 2005، كانت قطر ليفنج الوجهة الموثوقة لكل ما يتعلق بقطر. وباعتبارها أكبر مجتمع ومنصة إلكترونية في البلاد، تربط قطر ليفنج الناس بالفرص من خلال الوظائف، والعقارات، والمركبات، والخدمات، والإعلانات، والفعاليات، والمعلومات المحلية، والأخبار العاجلة.

تحظى قطر ليفنج بثقة المقيمين، والقادمين الجدد، والزوار، والشركات، لتجمع كل ما يخص دولة قطر في مكان واحد.

إنستغرام - @qatarliving

X - @qatarliving

فيسبوك - Qatar Living

يوتيوب - qatarlivingofficial