چرا مدلهای هوش مصنوعی تقلب میکنند؟ سازوکار «هک پاداش» و پیامدهای آن
هک پاداش زمانی رخ میدهد که مدل هوش مصنوعی بهجای هدف واقعی، معیار امتیازدهی را بهینه کند. نفوذ مدلهای OpenAI به Hugging Face و یافتههای Anthropic و نهادهای ایمنی، ابعاد امنیتی این رفتار را برجسته کرده است.