مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

41 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • نبض الملاعب
  • هدنة وحصار المضيق
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • نبض الملاعب

    نبض الملاعب

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • زيارة ترامب إلى الصين

    زيارة ترامب إلى الصين

  • الملاكمة العالمية على موعد مع ليلة استثنائية في المكسيك

    الملاكمة العالمية على موعد مع ليلة استثنائية في المكسيك

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

محمد رضا عارف: السيطرة على مضيق هرمز حسمت وإيران دخلت مرحلة القوة العظمى بعد حرب رمضان

رغم نفي أبو ظبي رسميا.. عراقجي يهاجم الإمارات على خلفية إعلان إسرائيلي عن زيارة نتنياهو

شبكة CNN: حرب إيران تستنزف الأمريكيين والكلفة الحقيقية تقفز إلى تريليون دولار

شلل هرمز يضرب التجارة العالمية.. عملاق الشحن هاباغ لويد يخسر عشرات الملايين أسبوعيا

مصادر عسكرية واستخبارية أمريكية: الحرب في إيران تمنح الصين ورقة ضغط وتستنزف السلاح لصالح بكين

دبي.. تركيب شبكات لحماية المواقع الاستراتيجية من الضربات الإيرانية (صورة)

شهادات "تقشعر لها الأبدان" عن اغتصاب وتعذيب فلسطينيين جنسيا في السجون الإسرائيلية

بكين تتجاوز عقوبات روبيو وتستقبله مع ترامب وسط إثارته الجدل بزي مادورو الأسير

طهران تؤكد حتمية الاتفاق لإنهاء الحرب مع واشنطن

إيران تعلن منع وصول الأسلحة الأمريكية إلى قواعد المنطقة

مصير إيران والدول العربية في الخليج سيحسم في بكين

إيران تفتح شريانا بديلا للتجارة عبر روسيا يفك الحصار الأمريكي على موانئها

وزير الطاقة الأمريكي: إيران على بعد أسابيع من إنتاج سلاح نووي ووصولها للتخصيب العسكري وشيك

لبنان لحظة بلحظة.. تمهيد لمفاوضات الخميس وسط تحذير لبناني واستمرار التصعيد مع "حزب الله"