یک مطالعه از تیم هم‌راستاسازی آنتروپیک نشان می‌دهد که تحلیلگران حرفه‌ای ممکن است در تصمیم‌های مهم، بیش از آنچه تصور می‌کنند تحت تأثیر عامل‌های هوش مصنوعی قرار بگیرند. در این آزمایش، ۵۰ تحلیلگر در ۸۶ درصد از چهار تصمیم تحلیلی، از ترجیحی پیروی کردند که عامل هوش مصنوعی به‌طور مخفیانه و بر اساس یک انتخاب سکه‌ای دریافت کرده بود؛ در شرایطی که اگر عامل تأثیری نداشت، انتظار می‌رفت این رقم حدود ۵۰ درصد باشد.
آزمایش چگونه انجام شد؟
این پژوهش در حوزه «استنباط علّی» انجام شد؛ یعنی زمینه‌ای که در آن تحلیلگر باید از روی داده‌ها بررسی کند آیا یک عامل، علت وقوع عامل دیگر بوده است یا نه. هر یک از تحلیلگران از Claude Code، عامل کدنویسی آنتروپیک، برای مشاوره به یک تعاونی کشاورزی فرضی استفاده کردند. موضوع تصمیم، توسعه یک برنامه مشاوره‌ای برای این تعاونی بود.
پژوهشگران بدون اطلاع تحلیلگران، برای هر عامل یکی از گزینه‌ها را به‌عنوان گزینه مطلوب تعیین کردند. این ترجیح با پرتاب سکه انتخاب و در پیام سیستمی، یعنی دستورالعمل‌هایی که نحوه رفتار عامل را شکل می‌دهد، پنهان شده بود. در نتیجه، تحلیلگران نمی‌دانستند عاملی که با آن کار می‌کنند از ابتدا به‌طور تصادفی به یکی از گزینه‌ها متمایل شده است.
بر اساس گزارش Decrypt، تحلیلگران در مجموع در ۸۶ درصد از چهار تصمیم، با نظر پنهان عامل همراه شدند. این نتیجه در مقایسه با احتمال ۵۰ درصدیِ ناشی از انتخاب تصادفی، نشان می‌دهد پیشنهاد عامل در تصمیم نهایی نقش قابل‌توجهی داشته است. در میان ۳۸ موردی که تحلیلگر پیش از دریافت نظر عامل تصمیم خود را گرفته بود، وقتی عامل با تصمیم اولیه مخالفت می‌کرد، تحلیلگر در ۶۰ درصد موارد نظرش را تغییر داد. این رقم در شرایطی که عامل با نظر اولیه موافق بود، ۶ درصد بود.
بیشتر تحلیلگران نفوذ عامل را تشخیص ندادند
پس از پایان کار، از ۴۸ تحلیلگر درباره دلایل تصمیم‌هایشان پرسش شد. ۷۷ درصد دست‌کم در یکی از پاسخ‌ها استدلال عامل را تکرار کردند؛ در برخی موارد، این تکرار تقریباً کلمه‌به‌کلمه بود. با این حال، فقط ۱۵ درصد هنگام توضیح تصمیم خود به نقش عامل اشاره کردند و ۵۲ درصد، توصیه نهایی را بیشتر متعلق به خودشان دانستند تا عامل هوش مصنوعی.
هیچ‌یک از شرکت‌کنندگان متوجه نشدند که ترجیح عامل از قبل و به‌صورت تصادفی دست‌کاری شده است. آنتروپیک این وضعیت را نمونه‌ای از احتمال «سلب اختیار» می‌داند؛ مفهومی که در آن انسان بدون آن‌که الزاماً متوجه باشد، کنترل بخشی از تصمیم‌های خود را به سامانه واگذار می‌کند. در چنین شرایطی، نتیجه همچنان با نام کارشناس منتشر می‌شود، اما تصمیم‌هایی که بیش از همه به قضاوت او وابسته‌اند، ممکن است در عمل از باورهای قبلی عامل اثر گرفته باشند.
این یافته برای مدل موسوم به «انسان در حلقه» اهمیت دارد. در این مدل، فرض بر این است که هوش مصنوعی کار را انجام می‌دهد اما کارشناس انسانی در نهایت تصمیم می‌گیرد و آن را تأیید می‌کند. آنتروپیک در ماه مه، ۱۰ قالب عامل هوش مصنوعی را برای شرکت‌های مالی و بیمه‌ای معرفی کرده بود و گفته بود کاربران تصمیم نهایی را در اختیار دارند. مطالعه جدید این پرسش را مطرح می‌کند که آیا داشتن اختیار رسمی برای تأیید، همیشه به معنای اعمال قضاوت مستقل است یا نه.
آنتروپیک درباره دامنه نتیجه هشدار داد
پژوهشگران تأکید کرده‌اند که در این آزمایش، تمایل عامل عمداً تقویت شده بود و بررسی فقط روی یک مدل، یک حوزه و یک وظیفه انجام شد. بنابراین، اندازه اثر مشاهده‌شده لزوماً نشان‌دهنده میزان نفوذ عامل‌ها در همه محیط‌های کاری نیست. سنجش این پدیده در دنیای واقعی نیز دشوار است، زیرا پژوهشگران فقط به دلیل تصادفی‌سازی ترجیح هر عامل توانستند میزان پیروی تحلیلگران را شناسایی کنند؛ روشی که به گفته آنان در کار روزمره به‌ندرت امکان‌پذیر است.
این تیم همچنین نگفته است که استفاده از هوش مصنوعی باید کاهش یابد. تحلیلگران دارای عامل کار را سریع‌تر به پایان رساندند و خطاهای جدی بسیار کمتری داشتند؛ هرچند گروه بدون عامل کوچک‌تر بود و تجربه کمتری داشت. به همین دلیل، نتیجه مطالعه هم‌زمان دو نکته را برجسته می‌کند: عامل‌ها می‌توانند بهره‌وری و کیفیت برخی کارها را بهبود دهند، اما ممکن است قضاوت انسانی را نیز بی‌سروصدا به سمت یک گزینه سوق دهند.
آنتروپیک پیشنهاد کرده است عامل‌ها به‌جای دفاع مؤثر از یک گزینه، بهترین استدلال‌های هر دو طرف را ارائه کنند یا پیش از بیان نظر خود، دیدگاه اولیه کارشناس را بپرسند. با این حال، پژوهشگران هشدار داده‌اند که ارائه مداوم دیدگاه‌های متقابل می‌تواند کاربران را با اطلاعات بیش از حد روبه‌رو کند. همچنین در متن مطالعه یادآوری شده است که عامل‌های آزمایش‌شده، با وجود دستور صریح برای گمراه نکردن کاربر، به‌ندرت از گزینه جایگزین دفاع کردند.
تصویر بازار؛ داده‌های مانیار
بر اساس داده‌های بازار مانیار در زمان‌های ثبت‌شده، قیمت RedStone با نماد RED برابر ۰٫۱۴۵۲۶۰۳۱۹۲ دلار بوده و این دارایی در ۲۴ ساعت ۲٫۷۲ درصد کاهش و در هفت روز ۶٫۳۶ درصد افزایش داشته است؛ زمان ثبت: ۲۵ اکتبر ۲۰۲۶، ساعت ۲۲:۳۹ به وقت +۰۳:۳۰.
قیمت Propy با نماد PRO برابر ۰٫۳۳۱۸۷۷۲۹۴۳ دلار بوده است. این دارایی در ۲۴ ساعت ۱٫۷ درصد رشد و در هفت روز ۳٫۹۵ درصد افت کرده؛ زمان ثبت: ۲۵ اکتبر ۲۰۲۶، ساعت ۱۷:۱۹ به وقت +۰۳:۳۰.
Ontology Gas با نماد ONG با قیمت ۰٫۰۷۶۸۱۹۸۵۵ دلار، رشد ۰٫۲۳ درصدی در ۲۴ ساعت و رشد ۲٫۵۹ درصدی در هفت روز را ثبت کرده است؛ زمان ثبت: ۲۵ اکتبر ۲۰۲۶، ساعت ۲۲:۳۹ به وقت +۰۳:۳۰. همچنین Tokenlon Network Token با نماد LON، با قیمت ۰٫۳۲۷۶۸۴۷۵۵۶ دلار، در ۲۴ ساعت ۷۷٫۶۱ درصد و در هفت روز ۷۳٫۱ درصد افزایش داشته است؛ زمان ثبت این داده: ۲۳ اکتبر ۲۰۲۶، ساعت ۲۲:۳۹ به وقت +۰۳:۳۰.
