مانیار
منو
رمزارز BURN COMP PEOPLE DEL PROM PRO

توکن‌مکسینگ؛ چگونه هزینه استفاده از مدل‌های هوش مصنوعی را کاهش دهیم؟

شرکت‌های هوش مصنوعی برای هر توکن هزینه دریافت می‌کنند، اما بسیاری از کاربران برای کارهای ساده از گران‌ترین مدل‌ها استفاده می‌کنند. انتخاب مدل مناسب، کوتاه کردن زمینه، کش و پردازش دسته‌ای می‌تواند هزینه را کاهش دهد و هم‌زمان کارایی را بالا ببرد.

Decrypt 15 بازدید یکتا
توکن‌مکسینگ؛ چگونه هزینه استفاده از مدل‌های هوش مصنوعی را کاهش دهیم؟

شرکت‌های هوش مصنوعی هزینه استفاده از مدل‌های خود را بر اساس «توکن» محاسبه می‌کنند؛ واحدی که بخش‌هایی از متن ورودی و خروجی را اندازه می‌گیرد. با این حال، بسیاری از کاربران و شرکت‌ها برای کارهای ساده نیز سراغ گران‌ترین مدل‌ها می‌روند و هزینه‌ای بسیار بیشتر از نیاز واقعی خود می‌پردازند. گزارشی از Decrypt مجموعه‌ای از روش‌ها را برای کاهش این هزینه و استفاده مؤثرتر از مدل‌ها بررسی کرده است.

هزینه پنهان استفاده بی‌هدف از مدل‌های قدرتمند

هر کلمه‌ای که کاربر وارد چت‌بات می‌کند و هر متنی که مدل تولید می‌کند، در قالب توکن محاسبه می‌شود. هر توکن به‌طور میانگین حدود سه‌چهارم یک کلمه است. در اشتراک‌های ماهانه، تعداد توکن‌ها می‌تواند سرعت رسیدن کاربر به سقف مصرف را تعیین کند و در استفاده از API، مستقیماً روی صورت‌حساب توسعه‌دهنده اثر می‌گذارد.

فاصله قیمتی میان مدل‌های شرکت‌های بزرگ قابل توجه است. در فهرست قیمت Anthropic، گران‌ترین مدل این شرکت برای هر میلیون توکن حدود ۱۰۰ برابر مدل کوچک‌تر هزینه دارد. در OpenAI نیز قیمت ورودی مدل‌ها از ۱۰ دلار تا ۰٫۱۰ دلار برای هر میلیون توکن متغیر است. بنابراین، استفاده از مدل پرچم‌دار برای ایمیل‌نویسی، خلاصه‌سازی یا بازنویسی متن، لزوماً به معنای نتیجه بهتر نیست و می‌تواند هزینه را به‌طور غیرضروری بالا ببرد.

این مسئله در شرکت‌های فناوری نیز دیده شده است. کارکنان متا در اوایل سال جاری میلادی طی ۳۰ روز حدود ۶۰ تریلیون توکن مصرف کردند تا در جدول رتبه‌بندی داخلی موسوم به «Claudeonomics» جایگاه بالاتری به دست آورند. گرگلی اوروس، ستون‌نویس حوزه فناوری، هزینه این مصرف را بر اساس قیمت‌های فهرستی Anthropic حدود ۹۰۰ میلیون دلار برآورد کرد؛ هرچند متا احتمالاً قیمت پایین‌تری می‌پردازد. در آمازون نیز برخی کارکنان برای بالا بردن آمار مصرف، ابزار هوش مصنوعی داخلی را روی کارهای بی‌اهمیت اجرا کردند تا اینکه یکی از مدیران ارشد از آن‌ها خواست صرفاً برای استفاده از هوش مصنوعی سراغ آن نروند.

در این فضا، «توکن‌مکسینگ» به‌جای آنکه به معنای مصرف هرچه بیشتر توکن باشد، به استفاده حداکثری از ارزش هر توکن اشاره می‌کند. شرکت Bain نیز هشدار داده است که بسیاری از کاربران برای همه کارها از مدل‌های سطح بالایی مانند Opus استفاده می‌کنند؛ حتی برای تولید ایمیل.

مدل مناسب را برای هر کار انتخاب کنید

ساده‌ترین راه کاهش هزینه، انتخاب مدل متناسب با دشواری کار است. برای ایمیل، خلاصه‌سازی و بازنویسی، مدل‌های کوچک‌تر و سریع‌تر معمولاً گزینه نخست هستند و مدل‌های گران‌تر باید برای استدلال پیچیده یا تصمیم‌هایی استفاده شوند که یک خطای ظریف در آن‌ها هزینه زیادی دارد.

یک روش عملی این است که پنج کار هفته گذشته را با مدل کوچک و مدل قدرتمند به‌صورت هم‌زمان آزمایش کنید. اگر مدل کوچک‌تر نتیجه قابل قبول ارائه داد، می‌تواند گزینه پیش‌فرض باشد. بر اساس راهنمای منبع، چنین تغییری در استفاده از API می‌تواند هزینه را تا ۹۹ درصد کاهش دهد.

نوشتن یک دستور روشن نیز از چندین رفت‌وبرگشت کوتاه ارزان‌تر است. هر بار که کاربر می‌گوید «نه، فقط جمع را بنویس» یا «این را بهتر کن»، کل گفت‌وگو دوباره برای مدل ارسال می‌شود. بهتر است از ابتدا قالب خروجی مشخص شود؛ برای مثال، مدل بداند چه فیلدهایی را استخراج کند، اطلاعات را دقیقاً همان‌طور که نوشته شده نگه دارد و در صورت نبود داده، عبارت «مفقود» را درج کند.

با تغییر موضوع، گفت‌وگوی تازه‌ای باز کنید. مدل در هر پیام تاریخچه مکالمه را دوباره می‌خواند و یک رشته طولانی درباره سفر می‌تواند پرسش بعدی درباره مالیات را هم پرهزینه‌تر و هم کم‌دقت‌تر کند. همچنین تعیین سقف خروجی، مانند «سه بولت در کمتر از ۱۰۰ کلمه»، اهمیت دارد؛ زیرا در مدل‌های برتر Anthropic و OpenAI، توکن‌های خروجی پنج برابر توکن‌های ورودی قیمت دارند.

کاربر می‌تواند پیش از پرداخت، گزینه‌های رایگان را نیز امتحان کند. OpenRouter به مدل‌های متعدد از طریق یک حساب دسترسی می‌دهد و مسیریاب رایگان آن درخواست‌ها را به حدود ۲۰ مدل بدون هزینه می‌فرستد. اجرای مدل‌ها به‌صورت محلی با LM Studio یا Ollama نیز از گزینه‌های مطرح‌شده است، هرچند سیاست داده سرویس‌ها و مناسب نبودن نسخه‌های رایگان برای پروژه‌های مهم باید در نظر گرفته شود.

کنترل عامل‌ها و کوتاه کردن زمینه

عامل یا Agent مدلی است که می‌تواند از ابزارها استفاده کند، نتیجه جست‌وجو یا اجرای کد را بخواند و تا رسیدن به نتیجه چند بار چرخه تفکر و اجرا را تکرار کند. در هر چرخه، بخشی از مکالمه دوباره ارسال می‌شود و هزینه افزایش می‌یابد. وقتی یک مدل مدیریتی کار را به چند عامل فرعی تقسیم می‌کند، هر عامل حافظه و چرخه جداگانه‌ای دارد. Anthropic گفته است تیم‌های عامل در Claude Code، هنگام استفاده از حالت برنامه‌ریزی، ممکن است حدود هفت برابر یک نشست عادی توکن مصرف کنند.

برای کنترل این هزینه، توصیه شده است مدل ارزان‌تر پیش‌فرض باشد و تنها در صورت شکست مشخص، کار به مدل گران‌تر سپرده شود. در Claude Code، دستورهای /clear برای حذف تاریخچه نامرتبط و /compact برای نگه‌داشتن بخش‌های ضروری استفاده می‌شوند. همچنین ابزارهایی که همیشه فعال‌اند، نام ابزارها و دستورهای خود را به هر نشست اضافه می‌کنند؛ بررسی فضای مصرف‌شده با /context و غیرفعال کردن اتصال‌های غیرضروری با /mcp می‌تواند مصرف را پایین بیاورد.

برای داده‌های جدولی بزرگ نیز بهتر است محاسبات به کد یا فرمول سپرده شود. وارد کردن پنج هزار ردیف در چت، هم توکن زیادی مصرف می‌کند و هم ممکن است مدل در شمارش خطا کند. رویکرد کم‌هزینه‌تر این است که مدل یک اسکریپت کوتاه یا فرمول تولید کند، محاسبه بیرون از مدل اجرا شود و فقط نتیجه به مدل بازگردد.

کش، پردازش دسته‌ای و سقف هزینه

در پروژه‌های بزرگ، دستورهای ثابت باید در بخش ابتدایی درخواست قرار گیرند و برای استفاده مجدد در کش ذخیره شوند. در API شرکت Anthropic، خواندن داده از کش کسری از قیمت معمول ورودی را دارد، هرچند ایجاد کش پنج‌دقیقه‌ای هزینه جداگانه دارد. بررسی فیلد cache_read_input_tokens نشان می‌دهد که کش واقعاً استفاده شده است یا نه.

برای کارهایی که فوریت ندارند، پردازش دسته‌ای نیز گزینه‌ای مهم است. OpenAI و Anthropic برای درخواست‌های دسته‌ای ۵۰ درصد تخفیف ارائه می‌کنند؛ OpenAI وعده داده است نتایج این نوع درخواست‌ها را ظرف ۲۴ ساعت تحویل دهد. در مثال منبع، پردازش هزار فاکتور با دو هزار توکن ورودی و ۲۰۰ توکن خروجی برای هر فاکتور، پیش از به‌کارگیری ترفندهای دیگر، حدود ۳۰ دلار با Fable 5.1 و حدود ۰٫۳۰ دلار با Haiku 5.5 هزینه دارد. مسیریابی مناسب، این هزینه را در نمونه دیگری از ۳۰ دلار به ۳٫۹۰ دلار رساند؛ حتی پس از آنکه Opus 5.5 برای بازبینی ۳۰۰ مورد ناموفق استفاده شد.

برای هر عامل باید سقف تعداد گام و سقف دلاری تعیین شود و تعریف روشنی از «پایان کار» وجود داشته باشد. این کنترل‌ها مانع آن می‌شوند که عامل بدون محدودیت تا رسیدن به نتیجه‌ای که خودش کامل می‌داند، به اجرای چرخه‌ها ادامه دهد. با وجود کاهش بیش از ۹۰ درصدی قیمت هر توکن از سال ۲۰۲۳، هزینه‌کرد برای مدل‌های زبانی بزرگ از اواخر ۲۰۲۵ دو برابر شده است؛ پدیده‌ای که در اقتصاد به پارادوکس جِوِنز معروف است: ارزان‌تر شدن یک منبع می‌تواند مصرف کل آن را افزایش دهد.

تصویر بازار به روایت داده‌های Moneyiar

داده‌های بازار Moneyiar در ساعت ۲۱:۴۹ روز ۱۷ اکتبر ۲۰۲۶ نشان می‌دهد قیمت Compound با نماد COMP برابر ۲۱٫۲۱۲۰۷۲۳۴۴۸ دلار بوده و در ۲۴ ساعت ۳٫۹۲ درصد و در هفت روز ۱۴٫۹۲ درصد کاهش داشته است. Decimal با نماد DEL در همین بازه ۰٫۴۳۴۹۷۸۳۵۸۴ دلار معامله شده؛ تغییر روزانه آن منفی ۳٫۷ درصد و تغییر هفتگی آن مثبت ۱۱٫۴۷ درصد بوده است.

همچنین Prom با نماد PROM قیمت ۴٫۹۲۹۷۴۰۸۲۸۹ دلار را ثبت کرده و در ۲۴ ساعت ۰٫۶۹ درصد افزایش، اما در هفت روز ۶٫۹۸ درصد کاهش داشته است. قیمت ConstitutionDAO با نماد PEOPLE نیز ۰٫۰۰۷۵۰۷۲۴۷۱ دلار بوده؛ این دارایی در ۲۴ ساعت ۴٫۷۶ درصد و در هفت روز ۸٫۳۷ درصد افت کرده است. این ارقام صرفاً تصویری از وضعیت بازار در زمان اعلام‌شده هستند.

منبع Decrypt این مقاله را تحریریهٔ مانیار بر اساس گزارش منبع اصلی و داده‌های بازار مانیار نوشته است.
مشاهده منبع اصلی ↗

خبرهای مرتبط

بر اساس بازار و دارایی‌های همین خبر

اف‌بی‌آی کره شمالی را مسئول هک ۶ میلیارد دلاری بایننس دانست

اف‌بی‌آی کره شمالی را مسئول هک ۶ میلیارد دلاری بایننس دانست

اف‌بی‌آی حمله بیش از ۶ میلیارد دلاری به بایننس را به عملیات سایبری تریدر تریتور وابسته به کره شمالی نسبت داد و از اپراتورهای دیفای و THORChain خواست کیف‌پول‌های مرتبط را مسدود کنند؛ در همین حال، مهاجمان از وام‌دهی دیفای برای عبور از مسدودسازی استیبل‌کوین‌ها استفاده کرده‌اند.

CryptoSlate
چرا قراردادهای هوش مصنوعی هنوز درآمد واقعی ماینرهای بیت‌کوین نیستند؟

چرا قراردادهای هوش مصنوعی هنوز درآمد واقعی ماینرهای بیت‌کوین نیستند؟

ماینرهای بیت‌کوین بیش از ۱۰۰ میلیارد دلار قرارداد هوش مصنوعی اعلام کرده‌اند، اما تنها بخشی از ظرفیت در حال درآمدزایی است. قراردادهای Core Scientific نشان می‌دهد هزینه ساخت، اعتبار اجاره‌ای مشتریان و بدهی سنگین می‌تواند سهم واقعی سهام‌داران از این رونق را محدود کند.

CryptoSlate

برداشت‌های بایننس امروز از سر گرفته می‌شود: بیت‌کوین، اتریوم و سولانا در مرحله نخست

این مطلب با عنوان «برداشت‌های بایننس امروز از سر گرفته می‌شود: بیت‌کوین، اتریوم و سولانا در مرحله نخست» برای نخستین بار در اخبار فین‌تک کوین‌پدیا منتشر شد. بایننس پس از هک بی‌سابقه هفته گذشته، از روز یکشنبه، ۱ نوامبر، ب...

Coinpedia
ابهام در کارمزد تاریخی پاداش‌های استیکینگ سولانا؛ مبلغ پاداش‌ها همچنان قابل تطبیق است

ابهام در کارمزد تاریخی پاداش‌های استیکینگ سولانا؛ مبلغ پاداش‌ها همچنان قابل تطبیق است

در برخی سوابق پاداش استیکینگ سولانا، نرخ کارمزد اعتبارسنج پس از فعال شدن جمع‌آوری‌کننده‌های سفارشی در Agave نمایش داده نمی‌شود. مبلغ پاداش‌ها همچنان قابل تطبیق است، اما شناسایی نرخ تاریخی مؤثر به داده‌های اپوک، حساب استیک و وضعیت اعتبارسنج نیاز دارد.

CryptoSlate
وابستگی ۳۴۹ میلیارد دلاری صندوق‌های اعتبار خصوصی به بانک‌ها آشکار شد

وابستگی ۳۴۹ میلیارد دلاری صندوق‌های اعتبار خصوصی به بانک‌ها آشکار شد

صندوق‌های اعتبار خصوصی مستقر در آمریکا در پایان ۲۰۲۵، ۳۴۹ میلیارد دلار به بانک‌ها بدهکار بودند. هم‌زمان، سهم وام‌های دارای بهره غیرنقدی در BDCها افزایش یافته و شکاف میان درآمد ثبت‌شده و نقدینگی واقعی را بیشتر کرده است.

CryptoSlate
۱۸ سالگی وایت‌پیپر بیت‌کوین؛ استدلال مدیرعامل آنرمپ درباره هزینه نجات مالی برای کسب‌وکارهای کوچک

۱۸ سالگی وایت‌پیپر بیت‌کوین؛ استدلال مدیرعامل آنرمپ درباره هزینه نجات مالی برای کسب‌وکارهای کوچک

با گذشت ۱۸ سال از انتشار وایت‌پیپر بیت‌کوین، مدیرعامل آنرمپ می‌گوید کسب‌وکارهای کوچک همچنان هزینه نظام‌های متکی بر نجات مالی را می‌پردازند و می‌توانند بخشی از مازاد خود را در بیت‌کوین نگهداری کنند. داده‌های مانیار نیز قیمت بیت‌کوین را ۷۷٬۷۱۳٫۵۵ دلار نشان می‌دهد.

CoinDesk

دیدگاه‌ها