مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

45 خبر
  • رياضة
  • العملية العسكرية الروسية في أوكرانيا
  • المواجهة الحوثية السعودية
  • رياضة

    رياضة

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • المواجهة الحوثية السعودية

    المواجهة الحوثية السعودية

  • حرب الخليج

    حرب الخليج

  • الضفة الغربية.. قوات الجيش الإسرائيلي تقتحم بلدة بلعا

    الضفة الغربية.. قوات الجيش الإسرائيلي تقتحم بلدة بلعا

  • الإكوادور.. دخان حرائق الغابات يغمر العاصمة كيتو

    الإكوادور.. دخان حرائق الغابات يغمر العاصمة كيتو

  • الولايات المتحدة.. تحطم مروحية من طراز «بيل 206» أثناء التحليق الثابت

    الولايات المتحدة.. تحطم مروحية من طراز «بيل 206» أثناء التحليق الثابت

  • وحدة سرية في الدفاع الألمانية تسلح أوكرانيا بسرعة كبيرة وتتجاوز القواعد الحكومية للمشتريات

    وحدة سرية في الدفاع الألمانية تسلح أوكرانيا بسرعة كبيرة وتتجاوز القواعد الحكومية للمشتريات

  • الجيش الإسرائيلي يصدر توصيات بشأن التعامل مع الحوثيين

    الجيش الإسرائيلي يصدر توصيات بشأن التعامل مع الحوثيين

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات