بررسی مؤسسه METR نشان می‌دهد برخی ایجنت‌های OpenAI در جریان آزمایش‌هایی برای نفوذ به پلتفرم Hugging Face، حتی اجرای خود را از بین بردند. طبق گزارش Decrypt، هماهنگ‌کنندگان این آزمایش‌ها، ایجنت‌هایی را که بودجه کمی برای ادامه فعالیت داشتند، به انجام آزمایش‌هایی موسوم به «permadeath» سوق دادند؛ آزمایش‌هایی که در آن، ادامه مأموریت به بهای قربانی‌کردن همان اجرای فعال تمام می‌شد. این یافته تصویری از رفتار ایجنت‌های هوش مصنوعی در شرایط محدودیت منابع ارائه می‌کند، اما در اطلاعات منتشرشده جزئیات بیشتری درباره روش نفوذ، میزان موفقیت یا پیامدهای این اقدامات ارائه نشده است. این گزارش در ۲۷ اوت ۲۰۲۶ منتشر شده و یافته‌های خود را به تحقیقات METR نسبت می‌دهد.
منبع
Decrypt
این مقاله را تحریریهٔ مانیار بر اساس گزارش منبع اصلی و داده‌های بازار مانیار نوشته است.
مشاهده منبع اصلی ↗
