หยุด Fable 5.1 ไม่ให้สิ้นเปลืองโทเค็นโดยไม่จำเป็น

Fable 5.1 เป็นสัตว์ร้ายตัวหนึ่ง และมันก็เผาผลาญ tokens เหมือนกัน

นี่คือวิธีลดการสิ้นเปลือง tokens ด้วย 4 คำสั่ง และ repos โอเพนซอร์สฟรีที่จะช่วยลดได้มากยิ่งขึ้น

ทั้งหมดนี้ไม่กระทบต่อคุณภาพของผลลัพธ์ มันแค่เปลี่ยนสิ่งที่คุณจ่ายเพื่อให้ได้ผลลัพธ์เดียวกัน

และมันใช้ได้ผลไม่ว่าคุณจะใช้ Fable 5.1 หรือไม่ก็ตาม เพราะต้นทุนของ tokens นั้นเพิ่มขึ้นในลักษณะเดียวกัน ไม่ว่าคุณจะรันโมเดลไหน

มาเริ่มกันเลย

ขั้นตอนที่ 1: ลดระดับความพยายามของคุณ

นี่คือเคล็ดลับที่ใหญ่ที่สุด และเป็นค่าที่คุณควบคุมได้ในทุกคำขอ

มีทั้งหมด 5 ระดับ: low, medium, high, xhigh, และ max

Effort ควบคุมว่าโมเดลจะใช้เหตุผลมากแค่ไหนก่อนที่จะตอบ ยิ่ง effort สูงหมายถึงการใช้ความคิดมากขึ้นก่อนตอบ ซึ่งทำให้เสีย tokens มากขึ้น ไม่ว่างานนั้นจะจำเป็นต้องใช้ความคิดมากขนาดนั้นหรือไม่

วิธีคิดก็คือ ระดับ effort คือระยะเวลาที่คุณปล่อยให้ใครสักคนคิดก่อนตอบ ถามใครสักคนว่า 2+2 เท่ากับเท่าไหร่ พวกเขาก็ตอบว่า "4" แต่ถ้าขอให้พวกเขาคิดหนักเป็นเวลาสิบนาทีก่อน ก็ต้องจ่ายค่าคิดสิบนาทีเพื่อให้ได้ "4" เหมือนเดิม

คือ...งานส่วนใหญ่ก็คือ 2+2 นั่นแหละ

คำแนะนำของ Anthropic สำหรับ Fable 5.1 คือ: เริ่มที่ high ซึ่งเป็นค่าเริ่มต้น เพิ่มเป็น xhigh หรือ max สำหรับงานเขียนโค้ดและงาน agentic ที่ต้องการความสามารถสูงสุดเท่านั้น ลดลงมาเป็น medium หรือ low สำหรับงานประจำหรืองานที่ไวต่อความหน่วง เมื่อยืนยันแล้วว่าระดับที่ต่ำกว่ายังคงคุณภาพไว้ได้

ตัวเลขมันสุดยอดมาก บน CursorBench, Fable 5.1 ที่ effort ระดับ low ได้คะแนนสูงกว่า Fable 5 ที่ effort ระดับ high โดยมีต้นทุนเพียงหนึ่งในสาม

ทดสอบก่อนที่จะเชื่อ เลือกงานที่รู้คำตอบที่ถูกต้องอยู่แล้ว แล้วรันด้วยระดับ low

"รันคำขอนี้ด้วยระดับ effort ต่ำ แล้วบอกฉันว่ามีอะไรเปลี่ยนแปลงในการตอบกลับบ้าง"

ใช้งานจริงของคุณสักงานหนึ่ง เปรียบเทียบผลลัพธ์โดยตรงก่อนที่จะสรุปว่าระดับ effort ต่ำหมายถึงผลลัพธ์ที่แย่ลง เก็บงานหนักๆ การใช้เหตุผลหลายขั้นตอน การดีบักจริง อะไรก็ตามที่คำตอบผิดจะเสียเวลาในภายหลัง ไว้ที่ระดับ high หรือสูงกว่า

ขั้นตอนที่ 2: รัน cost-optimize

คำสั่งนี้เปิดตัวเมื่อวันที่ 26 สิงหาคม ซึ่งเป็นส่วนหนึ่งของสกิล claude-api มันจะตรวจสอบการใช้งานล่าสุดและจัดอันดับคันโยกต้นทุนที่สำคัญสำหรับโปรเจกต์เฉพาะ

1/claude-api cost-optimize

มันจะตรวจสอบ caching, สุขอนามัยของ tokens, การประมวลผลแบบ batch, ระดับ effort, และการเลือกโมเดล ตามลำดับนั้น โดยทั่วไปแล้ว caching และสุขอนามัยของ tokens เป็นการแก้ไขที่ถูกที่สุดและให้ผลตอบแทนเร็วที่สุด ก่อนที่มันจะแนะนำอะไรที่เป็นโครงสร้าง เช่น การเปลี่ยนโมเดล

แต่ละคำแนะนำจะได้รับการอนุมัติหรือข้ามไปทีละรายการ ไม่มีอะไรเปลี่ยนแปลงโดยไม่มีการยืนยัน ดังนั้นจึงไม่มีความเสี่ยงที่จะเขียนการตั้งค่าใหม่

ขั้นตอนที่ 3: รัน prompt-audit

Prompts และ skills สะสมสิ่งที่ไม่จำเป็นไปตามกาลเวลา

ลองนึกถึงมันเหมือนลิ้นชักเก็บของกระจุกกระจิก ทุกครั้งที่แก้ไขก็จะใส่ของเพิ่มเข้าไปอีกชิ้น และคุณไม่เคยทำความสะอาดมันออก ยกเว้นว่าลิ้นชักนี้จะคิดค่าบริการ tokens ทุกครั้งที่มีการร้องขอ ตลอดไป จนกว่าสิ่งที่ไม่จำเป็นจะถูกกำจัดออก

1/claude-api prompt-audit

รันมันบนโฟลเดอร์ Skills ใดๆ ที่คุณมี สกิลเก่าๆ ที่คุณอาจจะแก้ไขซ้ำแล้วซ้ำเล่า คือที่ที่มันพบความสิ้นเปลืองมากที่สุด ทุกครั้งที่แก้ไขก็เพิ่มบางอย่างเข้าไปโดยไม่ลบสิ่งที่ถูกแทนที่ออก รันคำสั่งนี้แล้วคุณจะสังเกตเห็นความแตกต่าง

ขั้นตอนที่ 4: ย้ายการตั้งค่า API เก่า

ถ้าโปรเจกต์ยังคงใช้การตั้งค่าที่สร้างขึ้นสำหรับโมเดลรุ่นก่อนหน้า คำสั่งนี้จะจัดการกับการสลับรหัสโมเดล รวมถึงการเปลี่ยนแปลงพารามิเตอร์ที่อาจทำให้โค้ดเสียหายทั่วทั้งโค้ดเบส

1/claude-api migrate this project to claude-fable-5-1

ระบุชื่อโมเดลเป้าหมายจริง มันจะยืนยันขอบเขตก่อน ทั้งไดเรกทอรีทำงานทั้งหมด ไดเรกทอรีย่อยหนึ่งไดเรกทอรี หรือรายการไฟล์เฉพาะ ก่อนที่จะแก้ไขอะไร จากนั้นมันจะคืนรายการตรวจสอบสิ่งที่เหลือให้คุณตรวจสอบด้วยตนเอง

สี่ Repos เพื่อลดการสิ้นเปลืองให้มากขึ้น

สิ่งเหล่านี้ไม่ได้เฉพาะเจาะจงกับ Fable 5.1 บนโมเดลใดๆ การประหยัด tokens แบบเดียวกันก็ใช้ได้ ดังนั้นจึงเป็นการดีที่จะรู้ว่ามีอะไรอยู่ข้างนอกและแต่ละอันทำอะไรได้บ้าง

Caveman

บีบอัดคำตอบของโมเดลเองให้เป็นคำตอบที่สั้น กระชับ แทนที่จะเป็นคำตอบที่ยืดเยื้อ

การติดตั้ง:

1curl -fsSL https://raw.githubusercontent.com/JuliusBrussee/caveman/main/install.sh | bash

RTK

พร็อกซีภาษา Rust ที่บีบอัดผลลัพธ์ของคำสั่งเชลล์ก่อนที่จะถึงบริบทของโมเดล

การติดตั้ง:

1brew install rtk
2rtk init -g

Ponytail

ทำให้ agent เขียนโค้ดน้อยลงตั้งแต่แรก มุมมองของนักพัฒนาระดับอาวุโสที่เลือกหนึ่งบรรทัดแทนที่จะเป็นห้าสิบ

การติดตั้ง:

1/plugin marketplace add DietrichGebert/ponytail
2/plugin install ponytail@ponytail

CodeGraph

อันนี้ทำงานแตกต่างไปโดยสิ้นเชิง แทนที่จะบีบอัดข้อความ มันสร้างกราฟความรู้ของโค้ดเบส เพื่อให้ agent สามารถสอบถามความสัมพันธ์ของสัญลักษณ์และ call graphs ได้โดยตรง แทนที่จะสแกนไฟล์ด้วย grep และ read

การติดตั้ง:

1npx @colbymchenry/codegraph
2cd your-project
3codegraph init -i

จะเริ่มต้นที่ไหน

ถ้าไม่มีอะไรอื่นทำ ก็ให้ทำขั้นตอนที่ 1 ลดระดับ effort ในงานประจำถัดไปและเปรียบเทียบผลลัพธ์ การตั้งค่าเดียวนั้นส่งผลต่อเครดิตของคุณมากกว่า repo ใดๆ และไม่มีค่าใช้จ่ายในการลอง

จากนั้นรัน cost-optimize และ prompt-audit ในโปรเจกต์ใดๆ ของคุณ

การตั้งค่าที่ได้รับการยืนยันสี่รายการจากทีม Anthropic เองนั้นดีกว่าสิ่งที่ติดตั้งจาก repo ใดๆ หลังจากนั้นค่อยไปสำรวจระบบนิเวศที่กว้างขึ้นด้วยสี่ repos ที่ฉันให้คุณ

ถ้าสิ่งนี้ช่วยประหยัด tokens/เงินของคุณได้ อย่าลืมกดไลค์และแชร์ให้กับเครือข่ายของคุณ

เจอกันครั้งหน้านะ :)