مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

37 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • نبض الملاعب
  • هدنة وحصار المضيق
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • نبض الملاعب

    نبض الملاعب

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • فيديوهات

    فيديوهات

  • أسطورة MMA جيف مونسون يستهدف مواجهة إيميليانينكو

    أسطورة MMA جيف مونسون يستهدف مواجهة إيميليانينكو

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

قاليباف: مستعدون لكل الخيارات.. سيفاجأون

ترامب يجتمع بالجنرالات ويقول: وقف النار مع إيران يحتضر ولا يمكنها امتلاك سلاح نووي لتدمير إسرائيل

برنامج "نيوزميكر" على RT كان السباق في كشف الغطاء عن القاعدة الإسرائيلية السرية في العراق (فيديو)

أكسيوس: ترامب يفكر باستئناف القصف على إيران وإسرائيل تضغط عليه لتنفيذ عملية الاستحواذ على اليورانيوم

هل خدع نتنياهو الإسرائيليين؟ تصريحات متناقضة بين 2025 و2026 حول تدمير النووي الإيراني

"الوصايا العشر".. المرشد الإيراني يحدد ثوابت طهران في الخليج ومضيق هرمز

تقرير إسرائيلي: ترامب يلعب مع إيران لعبة "الدجاجة".. الخيارات المستقبلية والطريق نحو القنبلة الذرية!

خلال 24 ساعة هبوط اضطراري ثان لمقاتلة إف 35 أمريكية بقاعدة الظفرة في الإمارات (فيديو)

إيران تهدد برفع تخصيب اليورانيوم إلى 90% في حال تعرضها لهجوم جديد

ادعاءات ترامب على المحك.. سيئول بصدد تحليل حطام أجسام هاجمت سفينتها في مضيق هرمز

إيران تشترط الإشارة إلى "العدوان والحصار" في أي قرار أممي حول مضيق هرمز

لبنان لحظة بلحظة.. غارات مكثفة وردود واسعة للحزب وقاسم يقطع طريق التفاوض: "الميدان أولا"

تفاصيل جديدة عن قاعدة إسرائيل السرية في صحراء العراق وعلاقتها باستهداف الطيارين

الشيخة فاطمة بنت مبارك تتكفل بترميم الجامع الأموي ومساجد أثرية في سوريا (فيديو)

لبنان لحظة بلحظة.. نتنياهو يتمسك بالخيار العسكري وبيروت تطالب ببسط سلطة الدولة على كامل أراضيها

"لا يهمنا إرضاء الرئيس الأمريكي".. مصدر إيراني يعلق على رفض ترامب لرد طهران بشأن إنهاء الحرب

بيسكوف: اقتراح بوتين بترشيح شرودر كمفاوض أثار "عاصفة من النقاشات" في أوروبا

بريطانيا وفرنسا ترسلان قطعا بحرية إلى مضيق هرمز تزامنا مع قمة دفاعية دولية غدا

"تانكر تراكرز": التسرب النفطي في مضيق هرمز مصدره ناقلة إماراتية تعرضت لاستهداف إيراني (فيديو)