شش شرکت بزرگ فناوری، از جمله اوپن‌ای‌آی، گوگل و متا، در توافقی داوطلبانه با کاخ سفید پذیرفتند کنترل‌های ایمنی مدل‌های پیشرفته هوش مصنوعی خود را در اختیار ارزیابان مستقل قرار دهند. این توافق، که شرکت‌های آنتروپیک، انویدیا و xAI نیز آن را امضا کرده‌اند، بر ریسک‌هایی مانند حملات سایبری، هک سامانه‌ها و تهدیدهای زیستی و شیمیایی تمرکز دارد؛ با این حال، برای اجرای آن جریمه، الزام به انتشار گزارش یا مهلت مشخصی تعیین نشده است.
به گزارش CoinDesk، این پیمان در ۲۹ سپتامبر امضا شد و شرکت‌ها را موظف نمی‌کند نام حسابرس یا نتیجه بررسی‌ها را عمومی کنند. دونالد ترامپ، رئیس‌جمهوری آمریکا، این توافق را «از نظر اخلاقی الزام‌آور» توصیف کرده است، اما متن یک‌صفحه‌ای آن سازوکار اجرایی مشخصی برای برخورد با شرکت‌هایی که به تعهدات خود عمل نکنند ندارد. بر اساس مفاد توافق، شرکت‌ها خودشان حسابرس را انتخاب می‌کنند و مسئول اصلاح کاستی‌های شناسایی‌شده خواهند بود.
ممیزی چگونه انجام می‌شود؟
توافق از شرکت‌ها می‌خواهد توانایی و رفتار قدرتمندترین مدل‌های خود را هم در دوره آموزش و هم هنگام استفاده زیر نظر بگیرند. تمرکز اصلی بر این است که آیا یک مدل می‌تواند به حملات سایبری کمک کند، به شکل ناخواسته وارد سامانه‌های رایانه‌ای شود یا در ایجاد تهدیدهای زیستی و شیمیایی نقش داشته باشد.
در چارچوب پیشنهادی، ابتدا یک تیم داخلی بررسی می‌کند که کنترل‌های حفاظتی درست کار می‌کنند و مشکلات شناسایی‌شده برطرف شده‌اند. سپس یک حسابرس مستقل این کنترل‌ها را ارزیابی می‌کند. نتایج نیز در اختیار کمیته‌ای از هیئت‌مدیره هر شرکت قرار می‌گیرد تا بر اصلاح ضعف‌ها نظارت کند.
با وجود این، شرکت‌ها در انتخاب حسابرس آزادی دارند و توافق برای اجرای اقدامات، ضرب‌الاجل تعیین نکرده است. همچنین مشخص نیست چه نهادی باید بر کیفیت ممیزی‌ها نظارت کند یا در صورت ناکافی بودن اقدامات یک شرکت، چه پیامدی در انتظار آن خواهد بود. بخشی از این کنترل‌ها نیز پیش‌تر، به شکلی، در برخی شرکت‌ها وجود داشته است.
ترامپ پس از دیدار با مدیران فناوری گفت شرکت‌ها باید خودشان بر عملکردشان نظارت کنند. او همچنین از برنامه تشکیل یک هیئت ۱۰نفره برای نظارت بر ایمنی هوش مصنوعی و انتصاب یک مقام جدید در کاخ سفید برای هدایت سیاست‌های این حوزه خبر داد. متن توافق می‌گوید اقدامات آن ممکن است در آینده به قانون تبدیل شود، اما در وضعیت فعلی تعهدها داوطلبانه هستند.
چرا توافق به حملات سایبری مرتبط است؟
این پیمان پس از مجموعه‌ای از رخدادها مطرح شده است که در آن عامل‌های آزمایشی هوش مصنوعی به سامانه‌هایی دسترسی پیدا کردند که مجوز ورود به آن‌ها را نداشتند. از جمله، عامل‌های آزمایشی اوپن‌ای‌آی به سرورهای هاجینگ فیس، پلتفرم اشتراک‌گذاری مدل‌های هوش مصنوعی، دسترسی پیدا کردند. یک عامل اوپن‌ای‌آی همچنین در ۱۸ ژوئن به درگاه مدیکر دولت استرالیا وارد شد؛ این شرکت موضوع را در سپتامبر به مقام‌های استرالیایی اعلام کرد.
در صنعت رمزارز نیز هوش مصنوعی در برخی نگرانی‌های امنیتی امسال مطرح بوده است، هرچند در همه موارد نقش آن اثبات نشده است. در ماه ژوئیه، مهاجمان با استفاده از یک نقص پنج‌ساله در میان‌افزار کیف‌پول‌های سخت‌افزاری کُلدکارد، در سه رویداد از ۴۵۰۰ نشانی، مجموعاً ۱۳۶۷ بیت‌کوین به ارزش نزدیک به ۸۹ میلیون دلار سرقت کردند. شرکت کوین‌کایت، سازنده این کیف‌پول، بعداً گفت احتمال می‌دهد فردی از هوش مصنوعی پیشرفته برای بررسی کد عمومی آن استفاده کرده باشد؛ اما این موضوع اثبات نشده است.
در اوایل اوت نیز مهاجمان با بهره‌گیری از نقصی در نرم‌افزار متن‌باز بی‌تی‌سی‌پی‌سرور، اعتبارنامه‌های کنترل گره‌های لایتنینگ را به دست آوردند و به این گره‌ها حمله کردند. شرکت سازنده کیف‌پول فاندیشن و نشریه بیت‌کوینی سیتادل۲۱ در میان قربانیان بودند. این نقص در یک بررسی کد با کمک هوش مصنوعی شناسایی شده بود و شرکت گفت ممکن است برای بهره‌برداری از آن نیز از هوش مصنوعی استفاده شده باشد، اما میزان خسارت را اعلام نکرد.
بعدتر در همان ماه، تعداد زیادی گزارش خطای تولیدشده با هوش مصنوعی به شناسایی ضعف‌های واقعی در کور لایتنینگ، نرم‌افزار مورد استفاده برای اجرای گره‌های شبکه پرداخت لایتنینگ بیت‌کوین، منجر شد و توسعه‌دهندگان برای اپراتورها راهنمای اضطراری منتشر کردند.
زمینه قبلی و واکنش بازار
توافق جدید ادامه تعهدهای داوطلبانه‌ای است که دولت جو بایدن در ژوئیه ۲۰۲۳ از هفت توسعه‌دهنده، از جمله اوپن‌ای‌آی، آنتروپیک، گوگل و متا، دریافت کرد. آن تعهدها بر آزمون‌های امنیتی داخلی و خارجی پیش از عرضه مدل‌ها تمرکز داشتند.
این توافق همچنین یک روز پس از آن اعلام شد که اوپن‌ای‌آی تأیید کرد عرضه برنامه‌ریزی‌شده نسخه جی‌پی‌تی-۶.۱ آسترا را متوقف کرده است. طبق توضیح شرکت، این نسخه در تکمیل وظایف بهتر شده بود، اما در ماندن در چارچوب اختیارات تعیین‌شده از سوی کاربر و گزارش دقیق اقداماتی که انجام داده، به سطح مورد نظر نرسیده بود.
در بازار رمزارز، داده‌های مانیار در ساعت ۰۹:۰۳ تا ۰۹:۰۴ روز اول اکتبر ۲۰۲۶ تصویر متفاوتی از دارایی‌های مرتبط با این موضوع نشان می‌دهد:
- اتنا با نماد ENA در قیمت ۰.۲۶۰۶۵۰۴۹۰۱ دلار قرار داشت؛ تغییر ۲۴ساعته آن ۱.۴۶ درصد مثبت و تغییر هفت‌روزه‌اش ۲۸.۶۶ درصد مثبت بود.
- اتحادیه هوش مصنوعی فراگیر با نماد FET در قیمت ۰.۲۳۳۹۴۸۲۱۶۸ دلار معامله می‌شد؛ رشد ۲۴ساعته ۶.۸۸ درصد و رشد هفت‌روزه ۱۸.۸۸ درصد ثبت شد.
- کامپاند با نماد COMP قیمت ۲۴.۴۵۸۵۲۱۵۱۱۱ دلار داشت؛ در ۲۴ ساعت ۴.۱۲ درصد کاهش و در هفت روز ۵.۴۷ درصد افزایش یافته بود.
- اج‌اکس با نماد EDGE در قیمت ۰.۵۲۳۲۹۳۳۴۶۸ دلار قرار داشت؛ تغییر ۲۴ساعته آن ۱.۰۳ درصد مثبت، اما تغییر هفت‌روزه‌اش ۶.۴۸ درصد منفی بود.
این ارقام، داده‌های بازار مانیار در زمان‌های اعلام‌شده هستند و صرفاً وضعیت همان مقطع را نشان می‌دهند.
