Mistral NeMo 12B

قیمت‌گذاری مدل‌ها چطور کار می‌کند؟

هر مدل هوش مصنوعی ترکیب متفاوتی از سرعت، کیفیت پاسخ و هزینه دارد. مدل‌های پرچم‌دار برای استدلال پیچیده، تحلیل متن‌های طولانی و کدنویسی دقیق‌تر مناسب‌اند، در حالی که مدل‌های سبک‌تر برای خلاصه‌سازی، دسته‌بندی و پاسخ‌های کوتاه هزینهٔ به‌مراتب کمتری دارند. در فهرست بالا نرخ هر مدل به تفکیک توکن ورودی، توکن خروجی و کش آمده است تا بتوانید پیش از شروع، هزینهٔ تقریبی کار خود را برآورد کنید.

توکن کوچک‌ترین واحد متنی است که مدل پردازش می‌کند و به‌طور تقریبی هر هزار توکن معادل ۷۵۰ واژهٔ انگلیسی یا حدود ۵۰۰ واژهٔ فارسی است. هزینهٔ هر درخواست از جمع توکن‌های ورودی و خروجی به دست می‌آید، بنابراین کوتاه‌کردن دستور و محدودکردن طول پاسخ مستقیماً هزینه را کاهش می‌دهد. برخی مدل‌ها ردهٔ قیمتی دومی برای متن‌های بسیار بلند دارند که با عبور از آستانهٔ مشخص، کل درخواست را با نرخ آن رده حساب می‌کند.

صفحه‌های مرتبط