คู่มือการตั้งค่า Kimi K3: วิธีเพิ่มคุณภาพสูงสุดด้วยต้นทุนที่ต่ำที่สุด (พร้อมการตั้งค่าแบบละเอียด)

@zodchiii
อังกฤษ1 วันที่ผ่านมา · 17 ก.ค. 2569
207K
149
13
5
390

TL;DR

คู่มือฉบับสมบูรณ์สำหรับโมเดล Kimi K3 ของ Moonshot AI ที่ลงรายละเอียดเกี่ยวกับสถาปัตยกรรม 2.8T พารามิเตอร์, หน้าต่างบริบท 1M และกลยุทธ์การทำ Caching เพื่อประหยัดต้นทุนสำหรับภาระงาน AI ขนาดใหญ่

Kimi K3 ถูกปล่อยเมื่อวานนี้: 2.8 ล้านล้านพารามิเตอร์, 1M คอนเท็กซ์, ราคา $3 ต่อล้านอินพุตโทเค็น

คนส่วนใหญ่จะแคปหน้าจอเบนช์มาร์กแล้วก็ไม่เคยส่งงานจริงให้มันทำเลยสักครั้ง

Inside: จุดที่ K3 ชนะสแต็กของคุณจริงๆ, ข้อควรระวังช่วงเปิดตัวที่ไม่มีใครพูดถึง, และวิธีการตั้งค่า routing ที่ถูกต้อง

ถ้าทำถูกต้อง งานหนักที่ต้องใช้ context ยาวที่สุดของคุณจะเหลือราคาแค่หนึ่งในสามของราคา frontier

นี่คือเซ็ตอัปแบบเต็ม 👇

ก่อนจะลงลึก ผมแชร์โน้ตประจำวันเกี่ยวกับ AI และ vibe coding ใน Telegram channel ของผม: https://t.me/zodchixquant 🧠

darkzodchi - inline image

สิ่งที่เกิดขึ้นจริง พูดแบบไม่ต้องมีศัพท์เทคนิค

Moonshot AI เปิดตัว flagship ตัวใหม่เมื่อวันที่ 16 กรกฎาคม ข้อเท็จจริงสั้นๆ ทั้งหมดยืนยันจากงานเปิดตัว:

  • โมเดล: Mixture-of-Experts, พารามิเตอร์รวมประมาณ 2.8 ล้านล้าน โดยมีเพียง 16 จาก 896 experts ที่ทำงานต่อหนึ่งโทเค็น โปรโมทเป็นโมเดลคลาส 3T ตัวแรกของโลกที่เปิดให้ใช้
  • คอนเท็กซ์: 1M โทเค็น และไม่เหมือนคู่แข่งบางราย ราคาคงที่ตลอดทั้ง window ไม่มีระดับพรีเมียมสำหรับ prompt ยาว
  • อินพุต: ข้อความ รูปภาพ และวิดีโอแบบเนทีฟ การคิดจะเปิดตลอดเวลา
  • วิธีใช้งาน: แอป Kimi (รวมฟรี tier), kimi.com, Kimi Code, และ API ที่ api.moonshot.ai/v1 ด้วย model id kimi-k3 รองรับ OpenAI API ดังนั้น SDK ที่คุณมีอยู่แล้วก็ใช้งานได้
  • Open weights: สัญญาจะปล่อยภายในวันที่ 27 กรกฎาคม พร้อม technical report และ vLLM implementation

มีสองเวอร์ชันที่ปล่อย: K3 Max สำหรับงานแชทและ agent, K3 Swarm Max สำหรับการประมวลผลแบบขนานขนาดใหญ่

darkzodchi - inline image

คณิตศาสตร์ราคาที่สำคัญจริงๆ

  • $3 อินพุต / $15 เอาต์พุต ต่อล้านโทเค็น ราคาเท่ากับราคาของ Sonnet 5 หลังจากช่วงโปรโมชั่นสิ้นสุดในวันที่ 31 สิงหาคมพอดี แต่โมเดลนี้มีน้ำหนักมากกว่า
  • $0.30 ต่อล้านเมื่อ cache hit บริบทที่ซ้ำกันมีราคาถูกกว่า 10 เท่า สำหรับ agent loop ที่อ่าน codebase เดิมซ้ำๆ นี่คือตัวคูณที่ซ่อนอยู่ที่ใหญ่ที่สุดในเรทราคาทั้งหมด
  • ราคาคงที่ตลอด 1M คอนเท็กซ์ prompt ขนาด 800K โทเค็นคิดราคาเท่ากับ prompt ขนาด 8K เทียบกับ tier พรีเมียมสำหรับ long-context ของที่อื่น
  • โบนัสเปิดตัว: การเติมเงิน API จะได้รับเครดิตเพิ่ม 10-30% จนถึงวันที่ 11 สิงหาคม ถ้าคุณจะทดสอบจริงๆ ให้เติมเงินภายในช่วงเวลานี้

การเปรียบเทียบตามจริง: K3 ราคาถูกกว่า Fable 5 ($10/$50) ถึง 3.3 เท่าในส่วนอินพุต และเท่ากับราคาในอนาคตของ Sonnet 5 ในวันนี้ พร้อมกับหน้าต่าง 1M และ vision แบบเนทีฟ

darkzodchi - inline image

จุดที่ K3 เข้ากับสแต็กของคุณ (และจุดที่มันไม่เข้า)

นี่คือรายละเอียดที่สร้างความเชื่อมั่นแทน hype: บล็อกเทคนิคของ Moonshot เองยอมรับว่า K3 ตามหลัง Claude Fable 5 และ GPT-5.6 Sol โดยรวม พวกเขาอ้างผลลัพธ์ระดับ frontier ในชุดทดสอบของตัวเอง (Terminal Bench 2.1: 88.3, SWE Marathon: 42.0, ทั้งหมดรายงานเอง) แต่พวกเขาไม่ได้แกล้งทำเป็นว่ามันคือราชาองค์ใหม่

ความซื่อสัตย์นั้นทำให้คุณมีกฎ routing ที่ชัดเจน:

markdown
1## การจัดเส้นทางโมเดล (CLAUDE.md / เอกสารทีม)
2
3- การอ่าน long-context, การวิเคราะห์ทั้ง repo, การสังเคราะห์เอกสาร → Kimi K3
4 (หน้าต่าง 1M ในราคาคงที่, cache hit ที่ $0.30)
5- การเขียนโค้ดส่วน frontend และ UI-heavy → Kimi K3 แล้วตรวจสอบด้วยสายตา
6- Agent loop ที่มีบริบทซ้ำๆ → Kimi K3 ผ่าน cache hit
7- การให้เหตุผลหลายขั้นตอนที่ยากที่สุด, งานที่ต้องรักษาความปลอดภัย → ใช้
8 Fable 5 / Opus 4.8 ต่อไป
9- แก้ไขด่วนและงานประจำวัน → Sonnet 5 (ถูกกว่าไปจนถึง 31 ส.ค.)

รูปแบบคือ: K3 เป็นเครื่องจักรปริมาณ ไม่ใช่เครื่องจักรความฉลาดสูงสุด จัดเส้นทางตามน้ำหนักของโทเค็น ไม่ใช่ตามชื่อเสียง

ข้อควรระวังช่วงเปิดตัว

สี่สิ่งที่โพสต์ hype ข้ามไป ทั้งหมดจากเอกสารทางการและบล็อกของ Moonshot เอง:

  • reasoning_effort มีเฉพาะโหมด max ในตอนเปิดตัว โหมด low และ high จะมาใน "อัปเดตครั้งต่อไป" จนกว่าจะถึงตอนนั้น ทุกคำขอจะใช้การคิดเต็มรูปแบบที่ราคา $15/M ดังนั้นงานสั้นๆ จะแพงโดยไม่รู้ตัว อีกเหตุผลที่ควรเก็บงานแก้ไขด่วนไว้ที่อื่น
  • เบนช์มาร์กทั้งหมดเป็นข้อมูลที่รายงานเองในตอนนี้ การประเมินโดยอิสระเพิ่งเริ่มลงในวันนี้เท่านั้น ถือว่าทุกชาร์ตเป็นเพียงการอ้างสิทธิ์จนกว่าบุคคลที่สามจะยืนยัน
  • โหมด preserved thinking history K3 ถูกฝึกมาให้คาดหวังว่าประวัติการใช้เหตุผลจะถูกเก็บไว้ในบริบทข้ามรอบการสนทนา ถ้าคุณลบมันออกใน pipeline คุณภาพอาจลดลง ตรวจสอบการจัดการของ framework คุณก่อนนำไปใช้จริง
  • น้ำหนักโมเดลยังไม่มีบน Hugging Face วันที่ 27 กรกฎาคมเป็นสัญญา ไม่ใช่ลิงก์ดาวน์โหลด และตามความเป็นจริง การโฮสต์โมเดล 2.8T ด้วยตัวเองไม่ใช่ตัวช่วยลดต้นทุนสำหรับใครก็ตามที่ไม่มีเครื่องเร่งความเร็วเป็นชั้นๆ

การตั้งค่าเริ่มต้น (คัดลอกอันนี้)

ชี้ client ที่รองรับ OpenAI API ไปที่มัน:

python
1from openai import OpenAI
2
3client = OpenAI(
4 api_key=MOONSHOT_API_KEY,
5 base_url="https://api.moonshot.ai/v1",
6)
7
8response = client.chat.completions.create(
9 model="kimi-k3",
10 messages=[
11 {"role": "system", "content": STABLE_PROJECT_CONTEXT},
12 {"role": "user", "content": task},
13 ],
14)

เคล็ดลับ cache hit ที่ช่วยลดค่าใช้จ่ายของคุณ 10 เท่า: เก็บ stable context ขนาดใหญ่ของคุณ (codebase dump, เอกสารโปรเจกต์) ไว้ใน prefix ที่เหมือนกันในทุกคำขอ prefix ที่เหมือนกันจะเข้า cache และคิดค่าใช้จ่ายที่ $0.30/M แทนที่จะเป็น $3

จัดโครงสร้าง prompt ของคุณใหม่เพื่อให้ส่วนที่คงที่มาก่อนและไม่เปลี่ยนแปลง และส่วนที่แปรผัน (งาน) มาทีหลัง

darkzodchi - inline image

ข้อผิดพลาดทั่วไป

  • ทดสอบด้วยคำถามแชท MoE ขนาด 2.8T ที่มีหน้าต่าง 1M ไม่ได้แสดงอะไรเลยกับคำว่า "เขียนฟังก์ชันให้ฉันหน่อย" ป้อนทั้ง repo หรือคลังงานวิจัยให้มัน นั่นคืองานระดับที่มันสร้างมา
  • ไม่สนใจราคา cache การ prompting แบบไม่คิดหน้าคิดหลังจะจ่าย $3/M ทุกครั้ง prefix ที่มีโครงสร้างจะจ่าย $0.30 ในการเรียกซ้ำ โมเดลเดียวกัน ราคาต่างกัน 10 เท่าสำหรับ workload แบบ agent
  • อ้างเบนช์มาร์กเป็นข้อเท็จจริง มันเป็นข้อมูลที่รายงานเอง และผู้จำหน่ายเองก็บอกว่ามันตามหลัง Fable 5 การพูดซ้ำว่า "ชนะ Opus" จากกระทู้เปิดตัวคือวิธีที่คุณจะโดน community-noted
  • ย้ายทราฟฟิกทั้งหมดในคืนเดียว จัดเส้นทาง workload หนึ่งคลาสก่อน การอ่าน long-context เป็นตัวเลือกที่ชัดเจน เปรียบเทียบคุณภาพหนึ่งสัปดาห์ แล้วค่อยขยาย
  • ลืมกับดักเรื่อง effort การ reasoning แบบ max-only หมายความว่า K3 จะคิดมากเกินไปในงานเล็กๆ น้อยๆ ด้วยราคาเอาต์พุตเต็ม มันเป็นเครื่องจักรหนัก ใช้มันกับงานหนัก

แผน 15 นาที

  1. รับ API key และเติมเงินภายในช่วงโบนัส (3 นาที)
  2. ใส่การตั้งค่าที่รองรับ OpenAI API ด้านบนลงในสแต็กของคุณ (4 นาที)
  3. ปรับโครงสร้าง prompt หนักหนึ่งอันสำหรับ cache hit: stable prefix, งานไว้ทีหลัง (4 นาที)
  4. รันงาน long-context ที่ใหญ่ที่สุดของคุณบน K3 และงานเดียวกันบนโมเดลปัจจุบันของคุณ (3 นาที)
  5. เปรียบเทียบผลลัพธ์และต้นทุน แล้วเพิ่มบล็อก routing ถ้า K3 สมควรได้รับ (1 นาที)

Flagship ใหม่, ผู้จำหน่ายที่ซื่อสัตย์, ราคาที่ aggressive ช่วงเวลาที่จะหาว่ามันเหมาะกับสแต็กของคุณที่ไหนคือตอนนี้ ในขณะที่คนอื่นๆ ยังเถียงกันเรื่องชาร์ตเบนช์มาร์ก

ขอบคุณที่อ่านจนจบ!

darkzodchi - inline image
สร้างต่อใน YouMind

Turn one viral article into a full content workflow

Collect the source, decode the pattern, create assets, draft the story, and distribute from one AI workspace.

Explore YouMind
สำหรับครีเอเตอร์

เปลี่ยน Markdown ของคุณให้เป็นบทความ 𝕏 ที่สะอาดตา

เวลาคุณเผยแพร่งานเขียนยาวของตัวเอง การจัดรูปแบบรูปภาพ ตาราง และบล็อกโค้ดให้เข้ากับ 𝕏 นั้นน่าปวดหัว YouMind เปลี่ยนร่าง Markdown ทั้งฉบับให้เป็นบทความ 𝕏 ที่สะอาดตาและพร้อมโพสต์ทันที

ลอง Markdown เป็น 𝕏

แพตเทิร์นให้ถอดรหัสเพิ่มเติม

บทความไวรัลล่าสุด

สำรวจบทความไวรัลเพิ่มเติม