موضوع 77 از 91· AI تیز رفتاری

انفرنس یونٹ اقتصادیات

انفرنس یونٹ اقتصادیات AI خصوصیات کی قیمت ان کے حاشیائی کمپیوٹ سے لگاتی ہے: فی ٹوکن لاگت، فی لین دین، فی صارف، فی طبی واقعے کی لاگت میں لپیٹی گئی۔ متعین حرکیات: LLM قیمتیں مستقل صلاحیت پر تقریباً ہر 1–2 سال میں ایک آرڈر آف میگنیٹیوڈ گر گئی ہیں — ایک ڈیفلیشن شرح جس کی صحت-ٹیکنالوجی لاگت شماری میں کوئی نظیر نہیں۔

یہ کیوں اہم ہے

قیمت کے خاتمے سے دو نتائج نکلتے ہیں۔ تجارتی طور پر، ایک AI خصوصیت جو آج حاشیائی ہے 18 مہینوں میں معمولی طور پر منافع بخش ہو سکتی ہے — اور ایک حریف جو آج کی لاگتوں پر قیمت رکھتا ہے کمزور ہو جائے گا۔ معاشی تشخیص کے لیے، کوئی بھی لاگت-تاثیر ماڈل ایک AI-فعال طبی خدمت کے لیے جو 2024 کی انفرنس قیمتوں کو منجمد کرتا ہے جاری لاگت کو مادی طور پر بڑھا چڑھا کر پیش کرتا ہے — تجزیے کو قیمت-کمی کے منظرناموں کی ضرورت ہے اسی طرح جیسے دوائی کے ماڈلز پیٹنٹ کی میعاد ختم ہونے اور جنرک داخلے کو سنبھالتے ہیں۔ (تحقیق سے حوالہ پوائنٹس: فرنٹیئر آؤٹ پٹ ٹوکنز ~$15–75/M 2026 کے وسط میں، درمیانی-درجے کے ماڈلز ایک آرڈر سستے، GPT-4-سطح کی صلاحیت 2022 میں ~$20/M سے ~$0.40/M تک نیچے؛ Epoch AI نے صلاحیت کے سنگ میل کے لحاظ سے 9×–900×/سال کمی کی پیمائش کی۔)

حساب

فی کال لاگت      = ان پٹ ٹوکنز × ان پٹ شرح + آؤٹ پٹ ٹوکنز × آؤٹ پٹ شرح
فی یونٹ لاگت      = Σ کالز فی کاروباری آؤٹ پٹ یونٹ (فی ٹرائیج واقعہ،
                    فی مسودہ خط، فی مشاورت خلاصہ)

ملا ہوا حقیقت    = بنیادی کال + دوبارہ کوششیں + RAG سیاق و سباق (ان پٹ-بھاری)
                    + تشخیص/گارڈریل کالز (اکثر 20–50% اوور ہیڈ)

کثیر-سالہ ماڈلز کے لیے قیمت-کمی منظرنامہ:
  لاگت_t = لاگت_0 × d^t، حساسیت تجزیے میں d ∈ {0.3, 0.5, 0.7}/سال کا امتحان کریں

حل شدہ مثال

ایک AI ڈسچارج-خلاصہ خدمت: اوسط خلاصہ 12,000 ان پٹ ٹوکنز (ریکارڈ سیاق و سباق) + 1,200 آؤٹ پٹ استعمال کرتا ہے، علاوہ ایک تصدیقی پاس (6,000 ان / 300 آؤٹ)۔ $3/M ان پر، $15/M آؤٹ پر:

مسودہ:   12,000 × 3/1M + 1,200 × 15/1M  = $0.036 + $0.018 = $0.054
تصدیق:    6,000 × 3/1M +   300 × 15/1M  = $0.018 + $0.0045 ≈ $0.023
فی خلاصہ ≈ $0.077 → فی 100,000 خلاصے/سال ≈ $7,700

فی خلاصہ بچائے گئے ~20 معالج-منٹس کے خلاف (≈ £25)، انفرنس
پیدا کی گئی قدر کا 0.25% ہے — اقتصادیات پر ہر چیز کا غلبہ ہے
ٹوکنز کے سوا: انضمام، تشخیص، حکمرانی، اپنانا۔

وہ نتیجہ — انفرنس لاگت شاذ و نادر ہی پابند رکاوٹ ہے، موجودہ قیمتوں پر، اعلیٰ-قدر کے طبی کاموں کے لیے — خود وہ تلاش ہے جو قیمت سازی کی میٹنگز میں لے جانے کے قابل ہے۔

سافٹ ویئر انجینئرنگ سے تعلق

یہ کلاؤڈ یونٹ اقتصادیات ہے AI کے لیے مخصوص، تین عملی نوٹس کے ساتھ: فی کاروباری یونٹ میٹر کریں، فی API کال نہیں، تاکہ نمبر ICER/بجٹ اثر ماڈلز میں براہ راست پلگ ہو جائے؛ ان پٹ/آؤٹ پٹ عدم توازن دیکھیں (آؤٹ پٹ عام طور پر ~4× ان پٹ قیمت؛ RAG فن تعمیرات ان پٹ-بھاری ہیں — فن تعمیر کے انتخاب قیمت سازی کے انتخاب ہیں)؛ اور کام کے درجے کے لحاظ سے روٹ کریں — ماڈل کی صلاحیت کو کام کی مشکل سے ملانا (درجہ بندی کے لیے سستے ماڈلز، ترکیب کے لیے فرنٹیئر) معمول کے طور پر برابر معیار پر ملا ہوا لاگت 5–10× کاٹتا ہے، سب سے سستے مؤثر مداخلت استعمال کرنے کا سافٹ ویئر ورژن (لاگت-کم سازی، مساوات ثابت شدہ)۔

نقصانات

  • منجمد-قیمت کثیر-سالہ ماڈلز — لاگت کو بڑھا چڑھا کر پیش کرتے ہیں؛ لیکن فرض شدہ-ڈیفلیشن آمدنی ماڈلز بھی — ایک قیمت کی جنگ ایک معاہدہ نہیں ہے؛ دونوں کا منظرنامہ بنائیں۔
  • تشخیصی اوور ہیڈ کو نظر انداز کرنا: گارڈریلز، ججز، اور دوبارہ کوششیں حقیقی ٹوکنز ہیں، اکثر منظم ماحول میں اکثریت۔
  • فی-ٹوکن تنگ نظری: تاخیر، شرح کی حدود، اور سیاق و سباق-ونڈو کی رکاوٹیں لاگتیں رکھتی ہیں جو کوئی ٹوکن قیمت نہیں پکڑتی۔

ذرائع