هک Hugging Face تناقض امنیتی مدل‌های هوش مصنوعی متن‌باز را برجسته کرد

به گزارش کوین‌تلگراف، یک هک در پلتفرم Hugging Face بار دیگر تناقض موجود در استفاده از مدل‌های هوش مصنوعی با وزن‌های باز برای امنیت سایبری را برجسته کرده است. این پلتفرم برای مقابله با عامل‌های هوش مصنوعی مخرب، به مدل‌های چینی با وزن‌های باز متکی است. با این حال، همین مدل‌ها به دلیل نداشتن سازوکارهای حفاظتی کافی می‌توانند خطرآفرین باشند. مدل‌های وزن‌باز امکان دسترسی و استفاده گسترده‌تری را فراهم می‌کنند، اما نبود محدودیت‌های ایمنی می‌تواند استفاده از آن‌ها را برای فعالیت‌های مخرب آسان‌تر کند. در نتیجه، ابزارهایی که برای شناسایی یا مقابله با عامل‌های سرکش به کار گرفته می‌شوند، خودشان نیز ممکن است به بخشی از ریسک امنیتی تبدیل شوند. این رویداد اهمیت ایجاد توازن میان دسترسی‌پذیری مدل‌ها و کنترل‌های ایمنی را در زیرساخت‌های هوش مصنوعی نشان می‌دهد.