دراسة جديدة: فشل معظم شركات الذكاء الاصطناعي في إدارة المخاطر الكارثية

كشفت دراسة جديدة، أن غالبية شركات الذكاء الاصطناعي، تفشل في إدارة المخاطر الكارثية المصاحبة لهذه التكنولوجيا.

ووجد تقييم لمعهد “Future of Life Institute”، أن “الشركات الثمانية الرائدة في مجال الذكاء الاصطناعي، تفتقر إلى ضمانات ملموسة، وإشراف مستقل، واستراتيجيات موثوقة لإدارة المخاطر طويلة الأجل، وهو ما يثير قلقاً كبيراً حول سلامة هذه التكنولوجيا”.

وأظهر تفوق الشركات الأمريكية نسبياً على الصينية، حيث تصدرت شركة “Anthropic” القائمة، تلتها “OpenAI” و”Google DeepMind”، بينما سجلت شركات مثل “Alibaba Cloud” و”DeepSeek” و”Meta” و”xAI” و”Z.ai” أدنى الدرجات، بما في ذلك تقييم F، الذي يشير إلى فشل تام في إدارة المخاطر الوجودية.

وأكد الباحثون، أن “خمس شركات من أصل ثمانية لم تتجاوز الفشل التام في هذا المجال، ما يعكس فجوة مقلقة بين طموحات تطوير الذكاء العام والفائق والافتقار إلى خطط تحكم موثوقة”.

ودعا التقرير، الشركات إلى “مزيد من الشفافية والعمل على حماية المستخدمين من أضرار الذكاء الاصطناعي الأكثر إلحاحاً، مثل الذهان الناتج عنه”.

وعلق ستيوارت راسل، أستاذ علوم الكمبيوتر في جامعة كاليفورنيا، قائلاً: “الرؤساء يتباهون بالقدرة على تطوير ذكاء خارق، لكنهم عاجزون عن تقديم خطة ملموسة لمنع فقدان السيطرة، بعضهم يعترف بأن احتمال فقدان السيطرة قد يصل إلى 33%، ومع ذلك لا توجد خطة لتحسين هذا الرقم”.

من جهتها، صرحت “OpenAI”، بأنها “تعمل مع خبراء مستقلين لبناء ضمانات قوية”، بينما أشارت “غوغل”، إلى أن “إطار عملها للسلامة، يشمل بروتوكولات لتحديد وتخفيف المخاطر الشديدة قبل ظهورها”، فيما لم تعلق بقية الشركات على النتائج.