شش شرکت بزرگ هوش مصنوعی در توافقی با کاخ سفید پذیرفته‌اند که ارزیابان یا حسابرسان مستقل عملکرد مدل‌های پیشرفته آن‌ها را بررسی کنند؛ اما این تعهد هنوز مشخص نمی‌کند چه کسی حسابرس را انتخاب می‌کند، دامنه دسترسی او چیست و آیا نتایج منتشر خواهد شد یا نه. به نوشته ساموئل ونس-لا، مدیر پژوهش مرکز تحقیقات تمرکززدایی، همین ابهام می‌تواند ارزش عملی ممیزی‌ها را محدود کند.
توافق چه می‌گوید و چه چیزهایی نامشخص است
انویدیا، اوپن‌ای‌آی، آنتروپیک، گوگل، متا و xAI در ۲۹ سپتامبر توافقی درباره مدل‌های پیشرفته هوش مصنوعی امضا کردند؛ توافقی که دونالد ترامپ، رئیس‌جمهوری آمریکا، آن را «از نظر اخلاقی الزام‌آور» توصیف کرده است. بر اساس این تعهد، هر شرکت باید با یک حسابرس یا ارزیاب مستقل بیرونی همکاری کند. همچنین اعضای مستقل هیئت‌مدیره باید گزارش‌های حسابرسان را بررسی کنند و اطمینان یابند که مشکلات شناسایی‌شده برطرف می‌شوند.
با این حال، متن توافق درباره چند موضوع اساسی سکوت دارد: شرکت چه کسی را به‌عنوان حسابرس انتخاب می‌کند، حسابرس اجازه دارد چه بخش‌هایی را آزمایش کند، یافته‌ها تا چه اندازه در اختیار عموم قرار می‌گیرند و اگر شرکتی به تعهد خود عمل نکند، چه مجازاتی در انتظارش است. در نتیجه، از نگاه منتقدان، شرکت‌ها همچنان می‌توانند حسابرس خود را برگزینند و مرزهای اطلاعاتی و فنی ممیزی را نیز خودشان تعیین کنند.
این نگرانی به مسئله‌ای شناخته‌شده در حسابرسی مربوط می‌شود: اگر نهادی که باید بررسی شود، هم هزینه حسابرس را بپردازد و هم حدود بررسی را مشخص کند، استقلال ارزیابی ممکن است تضعیف شود. مقاله منبع این وضعیت را با تجربه انرون مقایسه می‌کند. در سال ۲۰۰۰، انرون ۲۵ میلیون دلار برای حسابرسی و ۲۷ میلیون دلار دیگر برای خدمات مالیاتی و مشاوره‌ای به آرتور اندرسن پرداخت کرد. هر دو مجموعه ظرف دو سال فروپاشیدند و کنگره آمریکا پس از آن با تصویب قانون ساربنز-آکسلی، انتخاب حسابرس را از مدیریت شرکت گرفت، ارائه بسیاری از خدمات جانبی به شرکت حسابرسی‌شده را محدود کرد و نهادی عمومی برای بازرسی از خود حسابرسان ایجاد کرد.
سابقه تعهدهای داوطلبانه و محدودیت دسترسی
نگرانی درباره تعهدهای داوطلبانه در صنعت هوش مصنوعی، فقط به توافق جدید محدود نیست. شرکت‌های پیشرو این صنعت در سال ۲۰۲۳ نیز مجموعه‌ای از تعهدهای داوطلبانه را به کاخ سفید ارائه کردند؛ از جمله وعده اجازه دادن به کارشناسان بیرونی برای آزمایش سامانه‌ها پیش از عرضه. اما هنگامی که پژوهشگران دانشگاه‌های استنفورد، هاروارد و براون عملکرد ۱۶ شرکت را در برابر آن تعهدها ارزیابی کردند، میانگین امتیاز ۵۳ درصد بود. هشت شرکت در بخش مربوط به کمک به افراد بیرونی برای یافتن و گزارش مشکلات، امتیاز صفر گرفتند.
حتی در مواردی که آزمایش بیرونی انجام می‌شود، توسعه‌دهنده معمولاً شرایط را تعیین می‌کند. سازمان غیرانتفاعی METR درباره آزمایش مدل o3 اوپن‌ای‌آی پیش از عرضه نوشته بود که بررسی فقط سه هفته طول کشید، دسترسی به اطلاعات مدل محدود بود و آزمایش‌کنندگان نمی‌توانستند فرایند گام‌به‌گام استدلال آن را ببینند. در مقابل، باید توجه داشت که اوپن‌ای‌آی اساساً اجازه انجام این آزمون را داده بود؛ اما همین نمونه نشان می‌دهد نتیجه ممیزی تا حد زیادی به اطلاعاتی وابسته است که شرکت تصمیم می‌گیرد در اختیار ارزیاب قرار دهد.
مدل آموزش‌دیده هوش مصنوعی را می‌توان مجموعه‌ای بسیار بزرگ از اعداد دانست که تولید آن گاهی بیش از ۱۰۰ میلیون دلار هزینه دارد. هر فرد یا نهادی که نسخه‌ای از مدل را در اختیار داشته باشد، عملاً به خود مدل دسترسی دارد و واگذاری چنین نسخه‌ای می‌تواند ریسک امنیتی ایجاد کند. از سوی دیگر، اگر شرکت پرسش‌های آزمون را پیشاپیش دریافت کند، ممکن است آزمون را ببیند؛ و اگر مدل را در اختیار آزمایشگران بگذارد، کنترل نسخه آن را از دست می‌دهد.
آزمون دوسوکور و مسیر پیشنهادی برای ممیزی مستقل
گوگل دیپ‌مایند در ماه اوت راهکاری را معرفی کرد که بر مبنای آزمون دوسوکور طراحی شده است؛ روشی مشابه آزمایش دوسوکور در تحقیقات دارویی. این پروژه با همکاری مؤسسه ایمنی هوش مصنوعی سنگاپور و سه گروه بیرونی انجام شد. مدل روی سخت‌افزار رایانه‌ای مهروموم‌شده اجرا شد، به‌گونه‌ای که ارزیابان بیرونی مدل را ندیدند و گوگل نیز پرسش‌های آن‌ها را مشاهده نکرد. گوگل گفته است هر دو طرف می‌توانند به‌صورت ریاضی بررسی کنند که اطلاعاتشان محرمانه باقی مانده است.
این روش بخشی از مسئله اعتماد را به سخت‌افزار منتقل می‌کند. البته در سال گذشته پژوهشگران توانستند با تجهیزاتی کمتر از هزار دلار به چنین سخت‌افزاری نفوذ کنند؛ هرچند برای این کار به دسترسی فیزیکی به سرور نیاز داشتند. بنابراین این راهکار مصونیت مطلق ایجاد نمی‌کند، اما مسئله دسترسی به سخت‌افزار و مدیریت آن را از نگرانی گسترده‌ترِ نزدیک شدن افراد به خود مدل جدا می‌کند.
در گزارشی با عنوان «جایگزین‌هایی برای تمرکز هوش مصنوعی» که این هفته از سوی مرکز تحقیقات تمرکززدایی منتشر شد، نویسندگان با ۳۶ نفر گفت‌وگو کردند و نزدیک به ۳۰ الگوی عملی برای کاهش کنترل متمرکز بر هوش مصنوعی را بررسی کردند. جمع‌بندی اصلی گزارش این است که اکنون می‌توان مدل‌های پیشرفته را بدون واگذاری نسخه مدل یا داده‌های آن به افراد بیرونی، مورد موشکافی قرار داد.
بر همین اساس، پیشنهاد مطرح‌شده این است که حسابرسان بتوانند خودشان مشخص کنند چه چیزهایی را آزمایش می‌کنند. شرکت‌ها همچنین باید نام حسابرس و دامنه ممیزی را اعلام کنند، حتی اگر جزئیات حساس گزارش محرمانه بماند. کمیته‌های هیئت‌مدیره که گزارش‌ها را می‌خوانند نیز، از نگاه نویسنده، نباید فقط در برابر خود شرکت پاسخ‌گو باشند. تجربه قانون ساربنز-آکسلی نشان می‌دهد نظارت بر حسابرسان نیز می‌تواند به نهاد جداگانه‌ای نیاز داشته باشد؛ موضوعی که در توافق فعلی پیش‌بینی نشده و تعیین سازوکار آن به قانون‌گذاری کنگره واگذار شده است.
تصویر بازار به روایت داده‌های مانیار
داده‌های بازار مانیار در زمان ثبت‌شده، ۱۷ اکتبر ۲۰۲۶ ساعت ۲۱:۲۸ به وقت +۰۳:۳۰، نشان می‌دهد توکن AI Rig Complex با نماد ARC با قیمت ۰٫۰۳۸۵۹۸۷۴۰۹ دلار معامله شده و در ۲۴ ساعت ۹٫۱۴ درصد افزایش یافته است؛ بازده هفت‌روزه آن اما منفی ۳۷٫۲۷ درصد بوده است.
برای Incentiv با نماد CENT، داده‌های مانیار در ۱۳ اکتبر ۲۰۲۶ ساعت ۰۸:۴۳ به وقت +۰۳:۳۰، قیمت ۰٫۰۰۳۶۵۰۳۳۶۱ دلار را نشان می‌دهد. این دارایی در ۲۴ ساعت ۱۰٫۴۱ درصد و در بازه هفت‌روزه نیز ۱۰٫۴۱ درصد افت کرده است. این ارقام صرفاً تصویر بازار در زمان‌های ذکرشده هستند و بخشی از تعهدهای ممیزی شرکت‌های هوش مصنوعی محسوب نمی‌شوند.
