تقييم جديد يكشف فشل الذكاء الاصطناعي في إدارة المخاطر الكارثية.. ما القصة؟

الذكاء الاصطناعي

وكالات

كشفت دراسة جديدة، أن غالبية شركات الذكاء الاصطناعي تفشل في إدارة المخاطر الكارثية المصاحبة لهذه التكنولوجيا.

ووجد تقييم لمعهد Future of Life Institute، أن الشركات الثمانية الرائدة في مجال الذكاء الاصطناعي تفتقر إلى ضمانات ملموسة، وإشراف مستقل، واستراتيجيات موثوقة لإدارة المخاطر طويلة الأجل، وهو ما يثير قلقا كبيرا حول سلامة هذه التكنولوجيا.

وأظهر تفوق الشركات الأمريكية نسبيا على الصينية، إذ تصدرت شركة Anthropic القائمة، تلتها OpenAI وGoogle DeepMind، بينما سجلت شركات مثل Alibaba Cloud وDeepSeek وMeta وxAI وZ.ai أدنى الدرجات، بما في ذلك تقييم F، الذي يشير إلى فشل تام في إدارة المخاطر الوجودية.

أكد الباحثون، أن 5 شركات من أصل 8 لم تتجاوز الفشل التام في هذا المجال، ما يعكس فجوة مقلقة بين طموحات تطوير الذكاء العام والفائق والافتقار إلى خطط تحكم موثوقة.
ودعا التقرير الشركات إلى مزيد من الشفافية والعمل على حماية المستخدمين من أضرار الذكاء الاصطناعي الأكثر إلحاحا، مثل الذهان الناتج عنه.

وعلق ستيوارت راسل، أستاذ علوم الكمبيوتر في جامعة كاليفورنيا، قائلا: “الرؤساء يتباهون بالقدرة على تطوير ذكاء خارق، لكنهم عاجزون عن تقديم خطة ملموسة لمنع فقدان السيطرة، بعضهم يعترف بأن احتمال فقدان السيطرة قد يصل إلى 33%، ومع ذلك لا توجد خطة لتحسين هذا الرقم”.

من جهتها، قالت OpenAI، إنها تعمل مع خبراء مستقلين لبناء ضمانات قوية، بينما أشارت جوجل إلى أن إطار عملها للسلامة يشمل بروتوكولات لتحديد وتخفيف المخاطر الشديدة قبل ظهورها، فيما لم تعلق بقية الشركات على النتائج.

لمعرفة حالة الطقس الآن اضغط هنا

لمعرفة أسعار العملات لحظة بلحظة اضغط هنا

الذكاء الاصطناعي
إدارة الكوارث
فشل الذكاء الاصطناعي في إدارة المخاطر
إدارة المخاطر الكارثية