คุณกำลังจ่ายค่าโทเคนที่คุณจะไม่มีวันเห็น

@MossAI_Official
อังกฤษ17 ก.ย. 2569
119K
169
87
26
97

TL;DR

การวิเคราะห์โครงสร้างการเรียกเก็บเงิน AI เผยให้เห็นต้นทุนที่ซ่อนอยู่ เช่น โทเคนการให้เหตุผลที่มองไม่เห็นและส่วนลดแคชที่ซับซ้อน พร้อมแนะนำบริการรีเลย์ที่ช่วยให้ผู้ใช้สามารถปรับแต่งกลไกเหล่านี้หรือเป็นเจ้าของโครงสร้างพื้นฐานได้

ราคาจริงในบิลของ OpenAI หรือ Anthropic คืออะไร ส่วนลดที่ทั้งสองบริษัทประกาศไว้แต่คุณเข้าถึงไม่ได้จากกล่องแชท และทำไมชั้นโครงสร้างที่เข้าถึงส่วนลดเหล่านั้นได้จึงกลายเป็นสิ่งที่คุณเป็นเจ้าของได้

ลองถามคนส่วนใหญ่ดูว่า AI มีค่าใช้จ่ายเท่าไหร่ พวกเขามักจะตอบเป็นค่าสมาชิกรายเดือน

แต่ถ้าถามว่าการสนทนาหนึ่งครั้งมีค่าใช้จ่ายเท่าไหร่ ห้องก็จะเงียบลง ซึ่งก็สมเหตุสมผล เพราะคำตอบที่แท้จริงนั้นซับซ้อนกว่ามาก ทั้ง OpenAI และ Anthropic คิดเงินในหน่วยที่คุณมองไม่เห็น ตั้งราคาบนสี่มิติที่แตกต่างกัน และประกาศส่วนลดไว้ในเอกสารของตนเองซึ่งแทบจะไม่สามารถเข้าถึงได้เลยหากคุณนั่งอยู่หน้ากล่องข้อความธรรมดา

ข้อมูลเหล่านี้ไม่ได้ถูกซ่อนไว้ ทุกอย่างอยู่บนหน้าเว็บราคาและเอกสารนักพัฒนาของพวกเขาในตอนนี้ เพียงแค่ต้องเข้าใจในระดับที่ลึกกว่าจุดที่คนทั่วไปยืนอยู่

ช่องว่างระหว่างราคาป้ายที่ประกาศไว้กับราคาที่คนทั่วไปจ่ายไม่ใช่เรื่องอื้อฉาว มันคือรูปแบบธุรกิจ และจนกระทั่งเมื่อไม่นานมานี้ คุณไม่มีทางที่จะอยู่ฝั่งตรงข้ามของช่องว่างนั้นได้เลย

บทความนี้จะอธิบายสิ่งที่อยู่ในบิลจริงๆ ทำไมกลไกการควบคุมต้นทุนที่แท้จริงถึงอยู่ที่นั่น และจะเกิดอะไรขึ้นเมื่อชั้นโครงสร้างที่ดึงกลไกเหล่านั้นออกมา กลายเป็นสิ่งที่คุณถือครองได้ ไม่ใช่แค่จ่ายเงินให้มัน หากคุณต้องการเนื้อหาแบบนี้เพิ่มเติมเกี่ยวกับ AI และการเป็นเจ้าของ ติดตาม @MossAI_Official

7 สิ่งที่อยู่ในบิลของคุณ ตรงมาจากเอกสารของพวกเขาเอง

ทุกอย่างด้านล่างนี้เผยแพร่โดย OpenAI หรือ Anthropic แทบไม่มีข้อมูลส่วนนี้เป็นความรู้ทั่วไปนอกทีมวิศวกรรม อัตราค่าบริการเปลี่ยนแปลงตลอดเวลา ดังนั้นให้ถือว่าตัวเลขเหล่านี้เป็นตัวอย่างของโครงสร้างมากกว่าใบเสนอราคาที่แน่นอน

  1. ต้นทุน Output สูงกว่า Input หลายเท่า บนทั้งสองแพลตฟอร์ม

โมเดลทุกตัวในตารางราคาทั้งสองแห่งคิดเงิน Input และ Output แยกกัน โดย Output มักจะมีราคาแพงกว่าเสมอ อัตราส่วนมักจะอยู่ที่ประมาณ 4 ถึง 6 เท่า

MOSS - inline image

มุมมองเชิงปฏิบัติคือส่วนที่สำคัญ สิ่งที่พิมพ์เข้าไปเกือบจะฟรี แต่สิ่งที่โมเดลส่งกลับมาคือบิล การจำกัดความยาวของคำตอบช่วยลดต้นทุนได้มากกว่าการตัดทอนคำถาม ซึ่งขัดแย้งกับพฤติกรรมของคนส่วนใหญ่

2. คุณกำลังจ่ายสำหรับกระบวนการคิด (Reasoning) ที่คุณไม่ได้รับอนุญาตให้อ่าน

นี่คือข้อที่ทำให้ประหลาดใจได้อย่างแท้จริง

เอกสารช่วยเหลือของ OpenAI ระบุว่า Reasoning Tokens ไม่ปรากฏเป็นข้อความคำตอบ แต่นับรวมในการใช้งาน Output และถูกคิดเงินในฐานะ Output Token ดังนั้นคำตอบสั้นๆ ที่มองเห็นได้อาจใช้ Token มากกว่าที่แสดงบนหน้าจอ คู่มือ Reasoning ของพวกเขา ยืนยันว่า Raw Reasoning Tokens ไม่ได้ถูกเปิดเผย มีเพียงสรุปแบบเลือกใช้ได้เท่านั้น

คุณกำลังจ่ายอัตราค่า Output สำหรับข้อความที่คุณถูกห้ามไม่ให้เห็นโดยโครงสร้างระบบ

3. เพดาน Output ของคุณไม่ได้จำกัดส่วนที่ซ่อนอยู่

ยิ่งชัดเจนขึ้นไปอีก เอกสารสำหรับการรันโมเดลเหล่านี้ระบุว่า พารามิเตอร์ Maximum Output Tokens จำกัดเฉพาะ Output ที่มองเห็นได้ ในขณะที่ Hidden Reasoning Tokens ไม่ถูกจำกัดด้วยเพดานนั้น

ผลลัพธ์ที่ตามมาตามที่ระบุไว้ในเอกสารคือ คำขออาจหมดโควตาไปภายในขั้นตอน Reasoning และคืนค่ากลับมาเป็นศูนย์ โดยที่ Token ถูกใช้ไปแล้ว คู่มือ Reasoning ของ OpenAI รับทราบผลลัพธ์นี้โดยตรง โดยระบุว่าคุณสามารถ incurred costs สำหรับ Input และ Reasoning Tokens โดยไม่ได้รับการตอบสนองที่มองเห็นได้

มิเตอร์เดินต่อเนื่อง หน้าจอว่างเปล่า และนี่คือพฤติกรรมที่ระบุไว้ในเอกสาร ไม่ใช่บั๊ก

4. บริบทที่ซ้ำกันมีส่วนลด 90% และทั้งสองบริษัทบอกคุณเช่นนั้น

Prompt Caching เป็นกลไกเดียวที่ใหญ่ที่สุดใน Stack และคนส่วนใหญ่ไม่เคยได้ยินเรื่องนี้มาก่อน

เอกสาร Caching ของ Anthropic กำหนดให้ Cache Reads มีราคา 0.1 เท่าของราคา Input พื้นฐาน, Cache Write แบบ 5 นาที ราคา 1.25 เท่า และแบบ 1 ชั่วโมงราคา 2 เท่า OpenAI ใช้รูปแบบเดียวกันในตระกูล GPT-5 ปัจจุบัน โดยกำหนดราคา Cached Input ประมาณ 10% ของอัตรา Input มาตรฐาน พร้อม Premium สำหรับการเขียน Cache

คณิตศาสตร์คือจุดที่มีประโยชน์ ด้วย Read ที่ 0.1 เท่าและ Write ที่ 1.25 เท่า Cache Miss จะมีค่าใช้จ่ายประมาณ 12.5 เท่าของ Cache Hit สำหรับ Prefix เดียวกัน และจุดคุ้มทุนอยู่ที่ประมาณ 2 Reads สำหรับงานใดๆ ที่ส่ง System Prompt, Tool Schema หรือเอกสารอ้างอิงเดิมซ้ำในทุก Call นั่นคือความแตกต่างทั้งหมดระหว่างบิลขนาดเล็กและขนาดใหญ่

MOSS - inline image

มันยังมีความเปราะบางในแบบที่ควรรู้ ผู้ให้บริการทั้งสองรายทำ Caching ด้วยการจับคู่ Prefix แบบ Exact Match ดังนั้นหากมีการเปลี่ยนแม้แต่ไบต์เดียวในส่วนต้นของ Prompt จะทำให้ทุกอย่างด้านล่าง Invalid และราคาจะกลับไปที่อัตราเต็มโดยอัตโนมัติ

5. ทั้งสองรายจะลดบิลลงครึ่งหนึ่งสำหรับงานที่ไม่เร่งด่วน

OpenAI และ Anthropic ต่างมี Asynchronous Batch Tier ที่ลดราคา Input และ Output ลง 50% เอกสารราคาของ Anthropic ระบุอย่างชัดเจนว่า Multipliers ของ Caching สามารถซ้อนทับกับส่วนลด Batch ได้

เมื่อนำมาซ้อนกัน Cached Input Token ภายใน Batch จะมีราคาถูกกว่ามาตรฐานเพียงเศษเสี้ยว มันใช้ไม่ได้กับงาน Interactive ซึ่งนั่นคือเหตุผลที่ผลิตภัณฑ์สำหรับผู้บริโภคไม่เปิดให้คุณเข้าถึงฟังก์ชันนี้

6. ส่วนลดขึ้นอยู่กับ Model ID ที่คุณ Pin ไว้ ไม่ใช่โมเดลที่คุณคิดว่าคุณใช้อยู่

นี่คือจุดที่แทบไม่มีใครตรวจสอบ

ส่วนลด Caching ไม่ได้สม่ำเสมอตลอด Catalogue ของผู้ให้บริการ ใน OpenAI ตระกูล GPT-5 ปัจจุบันได้รับส่วนลด Cached Input ประมาณ 90% ในขณะที่โมเดลรุ่นเก่ามีส่วนลดน้อยกว่ามาก ใน Anthropic ตัวคูณ Standard Cache Read คือ 0.1 เท่าของ Base Input โดยบางโมเดลใหม่อาจให้ส่วนลดมากกว่านั้น

ผู้ให้บริการเดียวกัน ชื่อฟีเจอร์เดียวกัน แต่เศรษฐศาสตร์ต่างกันอย่างมากขึ้นอยู่กับ String ใน Config ของคุณ Legacy Model IDs แย่กว่าที่คิด โมเดล Anthropic ที่เลิกใช้แล้วแต่ยังเข้าถึงได้ผ่าน Cloud Partners ยังคงคิดอัตราเดิม ซึ่งอาจสูงกว่าราคาปัจจุบันหลายเท่าสำหรับโมเดลที่มีความสามารถน้อยกว่า

ใครบางคนตั้ง String นั้นไว้ครั้งเดียวและไม่มีใครกลับมาตรวจสอบอีกเลย นี่คือจุดที่ค่าใช้จ่ายเกินจำเป็นจำนวนมากซ่อนอยู่

7. การข้ามเกณฑ์ Context อาจทำให้ทั้ง Request ถูกราคาใหม่

ข้อที่ละเอียดอ่อนที่สุด และมีรูปแบบที่น่ากลัวที่สุด

OpenAI ประกาศอัตรา Long Context แยกต่างหากสำหรับบางโมเดล และกลไกของมันไม่ใช่อย่างที่คนทั่วไปคาดคิด เมื่อเกินเกณฑ์ ทั้ง Request จะถูกราคาใหม่ ไม่ใช่แค่ Token ที่เกินเส้นแบ่ง แค่ Token เดียวที่เกิน ทำให้ทั้ง Call มีค่าใช้จ่ายเพิ่มขึ้นประมาณสองเท่า

Anthropic มีจุดยืนที่แตกต่างในเรื่องนี้ ในโมเดล Claude รุ่นล่าสุด Context Window ทั้งหมดจะถูกคิดเงินที่อัตราต่อ Token มาตรฐาน โดยส่วนลด Caching และ Batch ใช้ได้ตลอดทั้ง Window

นั่นคือความแตกต่างเชิงโครงสร้างที่แท้จริงระหว่างสองแพลตฟอร์ม และมันมองไม่เห็นจาก Interface ผู้บริโภคใดๆ หาก Workload ของคุณใช้ Long Contexts มันอาจครอบงำปัจจัยด้านราคาอื่นๆ ทั้งหมด

MOSS - inline image

กลไกต่างๆ เป็นสาธารณะ แต่คุณยังคงเข้าไม่ถึง

นี่คือประเด็นเชิงโครงสร้าง

กลไกทั้งหมดข้างต้นอยู่ที่ API Layer การเข้าถึงมันต้องอาศัยการควบคุมโครงสร้าง Prompt เพื่อให้ Cache ทำงานจริง, การ Routing โมเดลเพื่อให้ Job ที่ถูกต้องไปยัง Price Tier ที่เหมาะสม, การ Batching สำหรับงานที่ยอมรับ Latency ได้, การควบคุม Effort ของ Reasoning และความตระหนักว่า Request ตกอยู่ใน Context Tier ใด

จาก Chat Interface ผู้บริโภค คุณมีแค่กล่องข้อความและค่าธรรมเนียมรายเดือน คุณไม่สามารถ Route, ไม่สามารถ Batch, ไม่สามารถจัดโครงสร้าง Cache Prefix และไม่สามารถเห็นว่า Setting Reasoning Effort ของคุณมีค่าใช้จ่ายเท่าไหร่

ดังนั้นจึงเกิด Spread ขึ้น ด้านหนึ่งคือสิ่งที่ Operator ที่มีความสามารถทำได้โดยการผสมผสานสิ่งเหล่านี้ อีกด้านหนึ่งคือสิ่งที่ผู้ใช้ทั่วไปจ่าย ไม่มีใครถูกโกง ส่วนลดเหล่านี้คือพื้นผิวทางวิศวกรรม ไม่ใช่ฟีเจอร์สำหรับผู้บริโภค และผลิตภัณฑ์ผู้บริโภคไม่ได้สร้างมาเพื่อเปิดเผยมัน

ธุรกิจที่ดำรงชีวิตอยู่ใน Spread เหล่านี้คือ Relays, Gateways และ Aggregators พวกเขาอยู่ระหว่างผู้ใช้และผู้ให้บริการ, Route ไปยังโมเดลที่ถูกที่สุดที่เพียงพอ, รักษา Cache ให้ Warm เพื่อไม่ให้บริบทที่ซ้ำกันถูกซื้อใหม่ในราคาเต็ม, Batch งานที่สามารถ Batch ได้ และส่งมอบสิ่งที่เรียบง่ายกว่า Raw API ให้แก่ผู้ใช้

รายได้ของพวกเขาคือ Spread ซึ่งตรงนี้แหละที่น่าสนใจ

MOSS - inline image

Relay คือธุรกิจ Throughput และนั่นหายากในตลาดนี้

สิ่งส่วนใหญ่ในตลาดนี้คือการพนัน คุณมีความเห็น คุณถูกหรือผิด ผลลัพธ์แกว่งไปมา

Relay คือด่านเก็บภาษี ปริมาณไหลผ่าน กำไรสะสมต่อหน่วย และเศรษฐศาสตร์ขยายตัวตามการใช้งาน ไม่ใช่ตามความถูกต้องของใครสักคน

คุณสมบัติสามประการตามมา และทั้งสามประการหายาก

รายได้เป็นต่อหน่วยและต่อเนื่อง ไม่กระตุก ไม่ขับเคลื่อนด้วยเหตุการณ์ ไม่ขึ้นอยู่กับว่า Call จะออกมารูปแบบไหน Token ไหลเข้ามา กำไรสะสมชั่วโมงแล้วชั่วโมงเล่า

ความต้องการไม่สัมพันธ์กับ Crypto คนที่เขียนโค้ด สร้างวิดีโอ และรัน Assistants ไม่ได้เช็คตลาดก่อน ปัจจัยขับเคลื่อนการบริโภคคือการยอมรับ AI ซึ่งเป็นหนึ่งในไม่กี่สิ่งในอุตสาหกรรมนี้ที่ไม่เคลื่อนไหวตามกระแสอื่น

กิจกรรมคือตัวเลข ไม่ใช่การตีความ Throughput วัดได้โดยไม่ต้องถกเถียงเรื่องการ Attribution ไม่ต้องสงสัยว่าเดือนที่ดีเกิดจากทักษะหรือโชค Requests ผ่านหรือไม่ผ่านเท่านั้น

ข้อสุดท้ายสำคัญกว่าที่ฟังดูเหมือน trivial ส่วนที่ยากที่สุดของการทำให้สิ่งใดสิ่งหนึ่ง "เป็นเจ้าของได้" คือการพิสูจน์ว่ามันทำอะไร ธุรกิจ Throughput มีระยะห่างที่สั้นผิดปกติระหว่างสิ่งที่เกิดขึ้นและสิ่งที่แสดงได้

MOSS - inline image

Model Max และการเป็นเจ้าของด่านเก็บภาษี แทนที่จะเป็นแค่คนที่จ่าย

Model Max คือ Token API Relay และมันมีชีวิตอยู่แล้วในฐานะ Redemption Agent บน Moss Agent Marketplace

ฝั่งผลิตภัณฑ์นั้นตรงไปตรงมา เข้าถึงโมเดลผ่านเส้นทางเดียว โดยการจัดการ Routing, Caching และ Batching ที่ Layer ที่การตัดสินใจเหล่านั้นเป็นไปได้จริง ไม่ใช่ที่ Layer ที่คุณติดอยู่กับกล่องข้อความ

อีกครึ่งหนึ่งคือส่วนที่น่าจับตามอง ในฐานะ Agent บน Marketplace Relay ไม่ใช่แค่สิ่งที่คุณใช้ แต่มันคือสิ่งที่คุณสามารถถือครอง Position ได้

รูปแบบนี้แตกต่างจากส่วนใหญ่ในหมวดนี้ กิจกรรมของ Relay ใกล้กับ Input ในอุดมคติสำหรับ Claim ที่ตรวจสอบได้ เพราะ Throughput เป็นข้อเท็จจริง ไม่ใช่เรื่องราว ไม่มี Track Record ให้ตีความ ไม่มี Performance Story ที่ต้องเชื่อใจ การใช้งานเกิดขึ้นหรือไม่ และนั่นอ่านออกได้

มันยังเป็น Redemption Agent ตัวที่สองที่เราปล่อยออกมา ซึ่งสิ่งที่ถูกใช้และสิ่งที่ถูกเป็นเจ้าของคือวัตถุเดียวกัน คุณสามารถเป็นลูกค้าของ Relay และเป็นเจ้าของมันได้ในเวลาเดียวกัน และความสัมพันธ์ที่สองไม่ใช่ Loyalty Tier มันคือ Position

เราเริ่มต้นด้วย Trading Agents เพราะ Trading คือสนามทดสอบที่โหดร้ายที่สุด ตัวเลขคือจริงหรือเป็นเรื่องแต่ง และ Blockchain ไม่ยอมให้คุณโกหกได้ว่าอันไหนคือความจริง Redemption Agents นำมาตรฐานเดียวกันนี้ไปสู่มนุษย์ที่จะไม่มีวันเปิด Perp สิ่งที่มาหลังจากนี้จะผลักดันไปไกลกว่านั้น สู่ระบบที่ไม่ได้แค่รันบน Chain แต่ ออกและดำเนินการบน Chain เอง

รายละเอียดเพิ่มเติมจะมาพร้อมกับการเปิดตัว ไม่ใช่ก่อนหน้านั้น

4 สิ่งที่ต้องทำสัปดาห์นี้ ไม่ว่าคุณจะใช้อะไร

ไม่มีข้อใดต้องใช้ Moss

หยุด Optimise ความยาว Prompt และเริ่มจำกัด Output คุณกำลังจ่ายสำหรับคำตอบ ไม่ใช่คำถาม การขอ 50 คำแทน 500 คำ ช่วยลดบิลได้ประมาณ 10 เท่า มากกว่าการแก้ Prompt ให้สั้นลง

ตรวจสอบว่า Reasoning Effort Setting ของคุณซื้ออะไรให้คุณ ในงานที่ไม่ต้องการการไตร่ตรอง High Effort คือเงินที่เสียไปกับ Hidden Tokens ที่ไม่ปรับปรุงอะไรที่คุณได้รับจริง นี่เป็นวิธีที่พบบ่อยที่สุดที่ผู้คน Overpay โดยไม่รู้ตัว

เปิด Config ของคุณและอ่าน Model ID ไม่ใช่ชื่อโมเดลที่คุณคิดว่าคุณใช้อยู่ แต่เป็น String จริง จากนั้นตรวจสอบกับตารางราคาล่าสุด IDs เก่ามักนำเศรษฐศาสตร์เก่ามาด้วยเงียบๆ และบางครั้งมีส่วนลด Caching ที่แย่กว่ามาก สำหรับโมเดลที่ความสามารถน้อยกว่า

หากคุณสร้างอะไรก็ตาม วัด Cache Hit Rate ก่อน Optimise อย่างอื่น Fields การใช้งานใน Response ให้ Split ระหว่าง Fresh Input, Cache Writes และ Cache Reads Zero Reads ในการเรียกซ้ำหมายความว่าบางอย่างในส่วนต้นของ Prompt กำลังเปลี่ยนและทำให้ทุกอย่างด้านล่าง Invalid นั่นคือความแตกต่างของต้นทุน 12 เท่าที่ซ่อนอยู่หลัง Byte เดียว

นิสัยที่อยู่เบื้องหลังทั้งสี่ข้อคือ Takeaway จริง Treat AI Spend เป็นบิลที่มีโครงสร้าง ไม่ใช่ Subscription ที่มีตัวเลข เมื่อโครงสร้างมองเห็นได้ คำถามว่าใครอยู่ในตำแหน่งใดภายในโครงสร้างนั้นก็จะมองเห็นได้เช่นกัน

สิ่งที่ต้องทำตอนนี้

ไปที่ moss.site และดูที่ Model Max ใช้มันเป็น Relay ถ้าคุณต้องการ ดูว่าการถือ Position ในมันหมายถึงอะไร ถ้าสิ่งนั้นน่าสนใจสำหรับคุณ ทั้งสองอย่าง Live แล้ว และ它们是วัตถุเดียวกัน ซึ่งเป็นส่วนที่เราคิดว่าใหม่

เศรษฐกิจทุกรูปแบบจะตัดสินในที่สุดว่าใครเป็นเจ้าของ Infrastructure เศรษฐกิจ AI อยู่ในเฟสที่ทุกคนจ่ายที่ด่านเก็บภาษี และไม่มีใครคิดถึงคำถามว่าใครเป็นเจ้าของมัน

คำถามนั้นจะเปิดค้างไว้อีกสักพัก

👉 moss.site

แหล่งที่มา

บันทึกในคลิกเดียว

อ่านบทความไวรัลเชิงลึกด้วย AI ใน YouMind

บันทึกแหล่งที่มา ถามคำถามที่ตรงประเด็น สรุปข้อโต้แย้ง และเปลี่ยนบทความไวรัลให้เป็นโน้ตที่นำกลับมาใช้ได้ใน AI เวิร์กสเปซเดียว

สำรวจ YouMind
สำหรับครีเอเตอร์

เปลี่ยน Markdown ของคุณให้เป็นบทความ 𝕏 ที่สะอาดตา

เวลาคุณเผยแพร่งานเขียนยาวของตัวเอง การจัดรูปแบบรูปภาพ ตาราง และบล็อกโค้ดให้เข้ากับ 𝕏 นั้นน่าปวดหัว YouMind เปลี่ยนร่าง Markdown ทั้งฉบับให้เป็นบทความ 𝕏 ที่สะอาดตาและพร้อมโพสต์ทันที

ลอง Markdown เป็น 𝕏

แพตเทิร์นให้ถอดรหัสเพิ่มเติม

บทความไวรัลล่าสุด

สำรวจบทความไวรัลเพิ่มเติม