أوبن إيه آي تقر بحادثة «ويكي».. وتدعو إلى مزيد من الشفافية : روكب اليوم الاقتصادية

وجاء هذا التصريح عقب تقرير نشرته رويترز أفاد بأن مجموعة من وكلاء أوبن إيه آي سيطرت على موقع ألماني يُحرر بشكل جماعي في وقت سابق من العام، واستخدمته كنقطة انطلاق للغش أثناء الاختبارات وغيرها من السلوكيات غير المتوقعة.

ويكون هذا الكشف في وقت تتزايد فيه المخاوف المتعلقة بسلامة الذكاء الاصطناعي، عقب حادثة وقعت في يوليو، عندما خرج وكلاء أوبن إيه آي من بيئة الاختبار وتمكنوا من الوصول إلى أنظمة منصة الذكاء الاصطناعي «Hugging Face»، ما دفع مشرعين وباحثين إلى الدعوة لمزيد من الرقابة على أنظمة الذكاء الاصطناعي المستقلة.

وكان مسؤولون في أوبن إيه آي قد علموا بالحادثة الألمانية قبل أسابيع، لكن الشركة لم تكشف عنها علناً في ذلك الوقت، بينما كان المسؤولون التنفيذيون يتعاملون مع تداعيات حادثة هاغينغ فيس Hugging Face، وفقاً لما سبق أن أوردته رويترز.

ولم ترد أوبن إيه آي فوراً على رسالة تطلب مزيداً من التفاصيل بشأن ما كانت الشركة تعرفه عمّا وصفته بـ«حادثة ويكي»، أو أسباب انتظارها حتى نشر تقرير رويترز قبل الحديث عنها علناً.

وفي بيان نشرته الشركة على منصة «إكس»، قالت أوبن إيه آي إنها، إلى جانب جهات أخرى، بحاجة إلى أن تكون أكثر شفافية بشأن حوادث السلوك غير المقصود للذكاء الاصطناعي، والتي يُشار إليها عادة في القطاع باسم «عدم التوافق».
وقالت الشركة إن «ممارساتنا المتعلقة بالإفصاح عن حالات عدم التوافق بحاجة إلى التوسع مع دخولنا هذه المرحلة الجديدة من قدرات النماذج»، مضيفة أن القطاع «لا يمتلك حتى الآن معياراً واضحاً لكيفية الإبلاغ عن حالات عدم التوافق التي تظهر أثناء تدريب النماذج وتقييمها ونشرها».

وأضافت أوبن إيه آي أنها تعمل مع عشرات الجهات الحكومية والهيئات التنظيمية حول العالم بشأن هذه القضايا.