مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

40 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • مونديال 2026
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • مونديال 2026

    مونديال 2026

  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • جرائم العقيد جيكوفيتش

    جرائم العقيد جيكوفيتش

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

بينها السعودية والبحرين.. تحذير أمريكي عاجل من السفر إلى 15 دولة في الشرق الأوسط

الحرس الثوري: دمرنا مستودع الزوارق الأمريكية المسيّرة ومركزا رئيسيا للذكاء الاصطناعي في البحرين

الحرس الثوري يعلن عن انفجار ألغام بناقلتين في هرمز ويؤكد: المضيق مغلق بالكامل ولن تعبر منه قطرة نفط

أول تصريح رسمي من دمشق بعد نبأ استهداف إيران قاعدة أمريكية شرق سوريا

الحرس الثوري الإيراني يعلن استهداف مركز قيادة العمليات الخاصة الأمريكية في منطقة التنف بسوريا

ضربات أمريكية جديدة تستهدف بوشهر وهرمزغان.. قصف جسور ونفق وإغلاق طرق رئيسية جنوب إيران

الحرس الثوري يعلن استهداف 4 سفن تحت الحماية الأمريكية في مضيق هرمز

قائد القوة الجوفضائية في الحرس الثوري الإيراني يحدد مدة مواصلة ضرب "العدو"

انفجارات ضخمة في مستودعات ذخيرة وقواعد عسكرية في أربيل شمال العراق (فيديو)

سفن تعبر الممر الإيراني فقط.. الشركات تتحدث عن "أسوأ السيناريوهات" ولا أحد مستعد للتحرك عبر هرمز

ترامب يبحث ضرب موقع نووي إيراني وطهران تحذر من رد مدمّر

الحرس الثوري يؤكد مقتل جنود أمريكيين باستهداف تجمع لهم في الكويت

موقع متخصص ينشر فيديو يزعم أنه للحظة سقوط صاروخ على قاعدة الأمير سلطان بالسعودية (فيديو)

الدفاع الروسية تعلن مواصلة تدمير موانئ أوكرانيا وسفنها ولوجستيات وإمدادات قوات كييف (فيديو)

ميرتس وماكرون يفتحان الباب أمام "عقيدة نووية" أوروبية جديدة

أسير إسرائيلي سابق يكشف عن حديثه مع عنصر من "حماس" عن ميسي ويهاجم مدرب منتخب مصر

تقرير لـ "Geopolitics Prime" يكشف تفاصيل الدعم العسكري والاستخباري الإسرائيلي السري لأوكرانيا

ترامب يدرس توسيع رقعة الحرب على إيران ويرسل عشرات طائرات التزود بالوقود إلى إسرائيل

الحرس الثوري الإيراني يعلن تدمير مستودعات للقوات الأمريكية في قاعدة الظفرة جنوب أبو ظبي (فيديو)

إيران تحذر من عواقب استهداف البنى التحتية على استقرار المنطقة وأمن الخليج

غضب شعبي فرنسي: أوكرانيا أولا والحرائق تلتهم باريس؟