বিষয় 77 / 91· AI ত্বরণ
ইনফারেন্স ইউনিট অর্থনীতি
ইনফারেন্স ইউনিট অর্থনীতি তাদের প্রান্তিক কম্পিউট দ্বারা AI ফিচার মূল্য নির্ধারণ করে: প্রতি টোকেন খরচ, প্রতি লেনদেন, প্রতি ব্যবহারকারী, প্রতি ক্লিনিক্যাল এপিসোডে সংকলিত। সংজ্ঞায়িত গতিশীলতা: LLM মূল্য স্থির ক্ষমতায় মোটামুটি প্রতি 1-2 বছরে এক মাত্রার ক্রম কমেছে — স্বাস্থ্য-প্রযুক্তি খরচ নির্ধারণে কোনো নজির নেই এমন একটি মুদ্রাস্ফীতি হ্রাস হার।
কেন এটি গুরুত্বপূর্ণ
মূল্য পতন থেকে দুটি পরিণতি অনুসরণ করে। বাণিজ্যিকভাবে, একটি AI ফিচার যা আজ প্রান্তিক তা 18 মাসে তুচ্ছভাবে লাভজনক হতে পারে — এবং আজকের খরচে মূল্য নির্ধারিত একজন প্রতিযোগী আন্ডারকাট হবেন। অর্থনৈতিক মূল্যায়নের জন্য, একটি AI-সক্ষম ক্লিনিক্যাল পরিষেবার জন্য যেকোনো খরচ-কার্যকারিতা মডেল যা 2024 ইনফারেন্স মূল্য স্থির করে বস্তুগতভাবে চলমান খরচ অতিরিক্ত বলে — বিশ্লেষণের জন্য মূল্য-হ্রাস দৃশ্যকল্প প্রয়োজন যেভাবে ওষুধ মডেলগুলি পেটেন্ট মেয়াদ শেষ এবং জেনেরিক প্রবেশ পরিচালনা করে। (গবেষণা থেকে রেফারেন্স পয়েন্ট: 2026 সালের মাঝামাঝি ফ্রন্টিয়ার আউটপুট টোকেন ~$15-75/M, মধ্য-স্তরের মডেল এক ক্রম সস্তা, GPT-4-স্তরের ক্ষমতা 2022-এ ~$20/M থেকে $0.40/M-এ নেমেছে; Epoch AI ক্ষমতার মাইলস্টোনের উপর নির্ভর করে 9×-900×/বছর হ্রাস পরিমাপ করেছে।)
গণনা
প্রতি কলে খরচ = ইনপুট টোকেন × ইনপুট হার + আউটপুট টোকেন × আউটপুট হার
প্রতি ইউনিটে খরচ = Σ প্রতি ইউনিট ব্যবসায়িক আউটপুটে কল (প্রতি ট্রায়াজ এপিসোড,
প্রতি খসড়া চিঠি, প্রতি পরামর্শ সারাংশ)
মিশ্রিত বাস্তবতা = বেস কল + পুনঃচেষ্টা + RAG প্রসঙ্গ (ইনপুট-ভারী)
+ মূল্যায়ন/গার্ডরেল কল (প্রায়ই 20-50% ওভারহেড)
বহু-বছরের মডেলের জন্য মূল্য-হ্রাস দৃশ্যকল্প:
খরচ_t = খরচ_0 × d^t, সংবেদনশীলতা বিশ্লেষণে d ∈ {0.3, 0.5, 0.7}/বছর পরীক্ষা করুন
বিস্তারিত উদাহরণ
একটি AI ছাড়-সারাংশ পরিষেবা: গড় সারাংশ 12,000 ইনপুট টোকেন (রেকর্ড প্রসঙ্গ) + 1,200 আউটপুট ব্যবহার করে, প্লাস একটি যাচাইকরণ পাস (6,000 ইন / 300 আউট)। $3/M ইন, $15/M আউটে:
খসড়া: 12,000 × 3/1M + 1,200 × 15/1M = $0.036 + $0.018 = $0.054
যাচাইকরণ: 6,000 × 3/1M + 300 × 15/1M = $0.018 + $0.0045 ≈ $0.023
প্রতি সারাংশ ≈ $0.077 → প্রতি বছরে 100,000 সারাংশে ≈ $7,700
প্রতি সারাংশে সঞ্চিত ~20 চিকিৎসক-মিনিটের বিরুদ্ধে (≈ £25), ইনফারেন্স
তৈরি করা মূল্যের 0.25% — অর্থনীতি টোকেন ব্যতীত সবকিছু দ্বারা
প্রাধান্য পায়: একীকরণ, মূল্যায়ন, শাসন, গ্রহণ।
সেই উপসংহার — বর্তমান মূল্যে, উচ্চ-মূল্যের ক্লিনিক্যাল কাজের জন্য ইনফারেন্স খরচ খুব কমই বাঁধাই সীমাবদ্ধতা — নিজেই মূল্য নির্ধারণ মিটিংয়ে বহন করার যোগ্য আবিষ্কার।
সফটওয়্যার ইঞ্জিনিয়ারিং সংযোগ
এটি AI-র জন্য বিশেষায়িত ক্লাউড ইউনিট অর্থনীতি, তিনটি অনুশীলন নোট সহ: প্রতি API কল নয়, প্রতি ব্যবসায়িক ইউনিটে মিটার করুন, যাতে সংখ্যাটি সরাসরি ICER/বাজেট প্রভাব মডেলে প্লাগ করে; ইনপুট/আউটপুট অসামঞ্জস্য লক্ষ্য করুন (আউটপুট সাধারণত ~4× ইনপুট মূল্য; RAG স্থাপত্য ইনপুট-ভারী — স্থাপত্য পছন্দগুলি মূল্য নির্ধারণ পছন্দ); এবং টাস্ক স্তর দ্বারা রুট করুন — টাস্কের কঠিনতার সাথে মডেল ক্ষমতা মেলানো (শ্রেণীবিভাগের জন্য সস্তা মডেল, সংশ্লেষণের জন্য ফ্রন্টিয়ার) নিয়মিতভাবে সমান মানে মিশ্রিত খরচ 5-10× কমায়, সবচেয়ে সস্তা কার্যকর হস্তক্ষেপ ব্যবহারের সফটওয়্যার সংস্করণ (খরচ-হ্রাসকরণ, সমতুল্যতা প্রমাণিত)।
ঝুঁকি
- স্থির-মূল্যের বহু-বছরের মডেল — খরচ অতিরিক্ত বলে; কিন্তু অনুমিত-মুদ্রাস্ফীতি-হ্রাস রাজস্ব মডেলও — একটি মূল্য যুদ্ধ একটি চুক্তি নয়; উভয় দৃশ্যকল্প তৈরি করুন।
- মূল্যায়ন ওভারহেড উপেক্ষা করা: গার্ডরেল, বিচারক এবং পুনঃচেষ্টা প্রকৃত টোকেন, নিয়ন্ত্রিত সেটিংয়ে প্রায়ই সংখ্যাগরিষ্ঠ।
- প্রতি-টোকেন সংকীর্ণদৃষ্টি: বিলম্ব, হার সীমা এবং প্রসঙ্গ-উইন্ডো সীমাবদ্ধতা এমন খরচ বহন করে যা কোনো টোকেন মূল্য ধরে না।
উৎস
- Epoch AI, LLM inference price trends. https://epoch.ai/data-insights/llm-inference-price-trends
- LLM pricing comparisons. https://www.silicondata.com/blog/llm-cost-per-token