เศรษฐศาสตร์หน่วยการอนุมาน

เศรษฐศาสตร์หน่วยการอนุมานวิเคราะห์ต้นทุนส่วนเพิ่มของการรันโมเดลปัญญาประดิษฐ์ต่อคำขอ โทเคน หรือผู้ใช้หนึ่งคนในการผลิต

ทำไมจึงสำคัญ

แตกต่างจากซอฟต์แวร์แบบดั้งเดิมที่ต้นทุนส่วนเพิ่มมักใกล้ศูนย์ ทุกคำขอปัญญาประดิษฐ์มีต้นทุนการประมวลผลจริง — สิ่งนี้ทำให้เศรษฐศาสตร์หน่วยมีความสำคัญอย่างยิ่งต่อความสามารถในการขยายขนาด

คณิตศาสตร์

ต้นทุนต่อคำขอ = (โทเคนอินพุต × ราคาต่อโทเคนอินพุต) + (โทเคนเอาต์พุต × ราคาต่อโทเคนเอาต์พุต)

ตัวอย่างที่คำนวณแล้ว

ฟีเจอร์สรุปทางคลินิกที่ประมวลผลโทเคนอินพุต 1,000 โทเคนและสร้างโทเคนเอาต์พุต 200 โทเคน ด้วยราคา £0.01/1K อินพุตและ £0.03/1K เอาต์พุต มีต้นทุน £0.016 ต่อคำขอ — ที่ 1 ล้านคำขอต่อเดือน = £16,000/เดือน

ความเชื่อมโยงกับวิศวกรรมซอฟต์แวร์

เชื่อมโยงโดยตรงกับ เศรษฐศาสตร์หน่วยคลาวด์ แต่มีความรุนแรงมากขึ้น เนื่องจากต้นทุนการอนุมานปัญญาประดิษฐ์มักสูงกว่าการเรียก API ทั่วไปอย่างมาก

ข้อผิดพลาดที่พบบ่อย

• การคาดการณ์ต้นทุนหน่วยโดยไม่พิจารณาส่วนลดจากขนาดหรือการเปลี่ยนแปลงราคาโมเดล
• การเพิกเฉยต่อโอกาสในการเพิ่มประสิทธิภาพด้วยการแคชและการประมวลผลแบบแบตช์

แหล่งที่มา

• a16z, LLM inference economics.
• OpenAI, Anthropic, API pricing documentation.