คู่มือฉบับสมบูรณ์สำหรับ Cherry Studio: สุดยอด AI Workbench ตั้งแต่การตั้งค่าไปจนถึงการใช้งานในเครื่อง

GPT ไม่ได้เก่งรอบด้าน เมื่อมันทำงานบางอย่างไม่ได้ คุณจะลองใช้ใน Codex ต่อไปหรือเปลี่ยนไปใช้โมเดลอื่น? เมื่อโมเดลเดียวไม่พอ คุณต้องพิจารณาเปลี่ยนโมเดล เพิ่มข้อมูลเสริม หรือให้มันใช้เครื่องมือ

ก่อนที่ Codex จะออกมา ฉันใช้ Cherry Studio อยู่แล้ว และเพื่อนๆ ที่คลั่งไคล้ AI หลายคนก็ใช้มันเหมือนกัน วันนี้เรามาคุยกันว่ามันทำอะไรได้บ้าง และจะทำให้เวิร์กเบนช์นี้ทำงานได้อย่างราบรื่นสำหรับคุณได้อย่างไร

1. Cherry Studio ทำอะไรได้บ้าง

Cherry Studio เป็นซอฟต์แวร์ AI บนเดสก์ท็อปแบบโอเพนซอร์ส GPT, Claude, DeepSeek, Kimi และโมเดลที่รันบนเครื่องของคุณเอง สามารถเชื่อมต่อผ่านอินเทอร์เฟซที่เกี่ยวข้องและใช้งานภายในซอฟต์แวร์เดียวกันได้

สิ่งที่ดึงดูดใจฉันมากที่สุดคือ ในขณะที่สามารถสลับโมเดลได้ แต่วัสดุที่ใช้บ่อย ข้อกำหนดในการเขียน และเครื่องมือต่างๆ จะยังคงอยู่ในเวิร์กเบนช์นี้

ตัวอย่างเช่น เมื่อเขียนบทความและบทนำไม่เป็นที่น่าพอใจ คุณสามารถให้เนื้อหาเดียวกันกับหลายโมเดลพร้อมกัน ให้แต่ละโมเดลเขียนเวอร์ชันของตัวเอง แล้วเปรียบเทียบแบบเคียงข้างกัน เมื่อเลือกทิศทางที่ดีได้แล้ว ให้แก้ไขต่อตรงนั้น โดยไม่ต้องวางซ้ำไปมาระหว่างเว็บไซต์แชทต่างๆ

หากต้องการเก็บสองเวอร์ชัน ให้เปิด "Branch" และแก้ไขแยกกัน หากพบว่าต้นฉบับดีกว่าหลังจากลองไปสองสามรอบ คุณสามารถกลับไปที่จุดแยกก่อนหน้าได้ ข้อกำหนดเกี่ยวกับน้ำเสียงและรูปแบบสามารถบันทึกเป็น "Assistants" เพื่อไม่ต้องอธิบายทุกครั้ง

บทความของคุณ คู่มือผลิตภัณฑ์ และเอกสารโครงการของคุณ สามารถใส่ลงใน Knowledge Base ได้ เมื่อต้องการ ให้ AI ค้นหาข้อความต้นฉบับและตอบตามข้อมูล หากสลับโมเดล ข้อมูลนี้ก็ยังคงมีอยู่

ในการสร้างเอกสาร Word จากเทมเพลต จัดระเบียบโฟลเดอร์ หรือสร้างเว็บเพจที่ใช้งานได้ คุณสามารถมอบหมายให้ Agent ได้ เมื่อกำหนดค่าโมเดลและเครื่องมือแล้ว มันสามารถอ่านวัสดุและจัดการไฟล์ได้ เมื่อเสร็จแล้ว ให้เปิดตรวจสอบ และหากมีอะไรผิดพลาด ให้ขอให้มันแก้ไข

ซอฟต์แวร์ยังมีรายการสำหรับการแปล การวาดภาพ ฯลฯ หากคุณต้องการลองโมเดลโอเพนซอร์สหรือโมเดลท้องถิ่นที่มีข้อจำกัดน้อยกว่า คุณสามารถเชื่อมต่อผ่าน Ollama หรือ LM Studio ซึ่งฉันจะอธิบายแยกต่างหากในภายหลัง

ฟังก์ชันทั่วไปเหล่านี้มีรายการพร้อมใช้งาน เพียงกำหนดค่าโมเดลและบริการที่จำเป็นก็สามารถใช้งานได้ โดยไม่ต้องเขียนโค้ดตั้งแต่ต้น

2. การติดตั้ง Cherry Studio

เปิด หน้า ดาวน์โหลด Cherry Studio อย่างเป็นทางการ

สำหรับ Mac ให้เลือก ARM64 สำหรับ Apple Silicon หรือ x64 สำหรับชิป Intel หลังจากเปิดตัวติดตั้ง ให้ลากไปที่ "Applications" สำหรับ Windows โดยปกติให้เลือกตัวติดตั้ง x64 สำหรับอุปกรณ์ ARM ให้เลือก ARM64

เมื่อเปิดครั้งแรก คุณสามารถคลิก "Set up later" เพื่อเข้าสู่ซอฟต์แวร์ก่อน

"Chat" ทางซ้ายใช้สำหรับเขียนและถามคำถาม "Work" คือที่ที่ Agents ทำงาน "Knowledge Base" ใช้เก็บวัสดุสำหรับค้นหาซ้ำ การกำหนดค่าโมเดลเข้าถึงได้ผ่าน "Settings" ที่มุมซ้ายล่าง

แท็บด้านบนคล้ายกับเบราว์เซอร์ คุณสามารถเปิดหน้าแชทไว้ขณะกำหนดค่าโมเดล แล้วสลับกลับมาทดสอบโดยไม่ต้องออกจากโปรแกรมซ้ำๆ

3. การเชื่อมต่อโมเดล

หลังจากติดตั้งแล้ว คุณต้องเชื่อมต่อโมเดล ซอฟต์แวร์นั้นฟรี แต่การเรียกใช้โมเดลอาจมีค่าใช้จ่าย โดยคิดค่าบริการตามผู้ให้บริการโมเดล

หากคุณชอบใช้ Kimi ให้เชื่อมต่อ Moonshot API สำหรับ DeepSeek ให้เชื่อมต่อ DeepSeek API คุณยังสามารถเลือกแพลตฟอร์มที่ให้บริการหลายโมเดล เช่น SiliconFlow เพื่อใช้โมเดลต่างๆ ภายใต้บัญชีเดียว เริ่มต้นด้วยอันเดียว แล้วเพิ่มอันที่สองเมื่อต้องการเปรียบเทียบ

API ที่นี่สามารถเข้าใจได้ว่าเป็น "อินเทอร์เฟซสำหรับ Cherry Studio ในการใช้โมเดลนั้น" คุณไม่จำเป็นต้องเขียนโค้ด เพียงรับสตริงที่เรียกว่า API Key และกรอกลงในซอฟต์แวร์

API Keys ถูกสร้างขึ้นบน "Open Platform" ของผู้ให้บริการ แม้ว่าคุณจะมีการสมัครสมาชิกแชท คุณมักจะต้องตรวจสอบว่า API มีเครดิตหรือไม่ เนื่องจากมักจะคิดค่าบริการแยกต่างหาก

ยกตัวอย่าง Kimi ลงทะเบียนหรือเข้าสู่ระบบ Moonshot Open Platform ค้นหาการจัดการ API Key และสร้างคีย์ ตรวจสอบว่าบัญชีมีเครดิตที่ใช้ได้หรือไม่ หากไม่มี ให้ปฏิบัติตามข้อกำหนดของแพลตฟอร์มเพื่อเปิดใช้งาน เริ่มต้นด้วยงบประมาณเล็กน้อย

กลับไปที่ Cherry Studio เปิด "Settings → Model Services" ค้นหา "Moonshot" วางคีย์ เปิดใช้งานบริการ แล้วคลิก "Get Model List"

อาจมีหลายชื่อในรายการ เพิ่มชื่อที่คุณวางแผนจะใช้ กลับไปที่หน้าแชท คลิกชื่อโมเดลที่ด้านบนเพื่อสลับไปใช้ ส่งข้อความสั้นๆ หากตอบกลับตามปกติ แสดงว่าการเชื่อมต่อสำเร็จ

สิ่งที่คุณเชื่อมต่อคือ API ของโมเดล ฟีเจอร์เว็บและสิทธิประโยชน์สมาชิกของ Kimi จะไม่ย้ายมาที่นี่ ที่นี่คุณใช้อินเทอร์เฟซและเครื่องมือของ Cherry Studio

หากเพื่อนหรือบริษัทให้ชุดอินเทอร์เฟซแก่คุณ แต่ผู้ให้บริการไม่อยู่ในรายการ ให้คลิก "Add Provider" ที่ด้านล่าง โดยปกติคุณต้องใช้ข้อมูลนี้:

ชื่อผู้ให้บริการสามารถเป็นอะไรก็ได้ที่คุณจำได้ เช่น "Company Test Interface" รหัสโมเดล (Model ID) ไม่สามารถกำหนดเองได้ เป็นชื่อที่เซิร์ฟเวอร์ใช้ระบุโมเดล หากการดึงรายการล้มเหลว ให้เพิ่มด้วยตนเองหากมีรหัสให้มา

หากเชื่อมต่อไม่ได้ ให้ตรวจสอบข้อผิดพลาด หากคีย์ไม่ถูกต้อง ให้ตรวจสอบว่าคัดลอกครบถ้วนและกรอกถูกที่หรือไม่ หากเครดิตไม่เพียงพอ ให้ตรวจสอบยอดเงินในบัญชีผู้ให้บริการ หากโมเดลไม่มีอยู่ ให้ตรวจสอบรหัสโมเดล ที่อยู่และประเภทอินเทอร์เฟซต้องตรงกับเอกสารประกอบของผู้ให้บริการด้วย

เมื่อโมเดลสามารถแชทได้แล้ว ให้ลองใช้รูปภาพ ไฟล์ และการเรียกใช้เครื่องมือ การตอบกลับด้วยข้อความไม่ได้หมายความว่ารองรับฟังก์ชันทั้งหมด โดยเฉพาะอย่างยิ่งสำหรับ Agent ในภายหลัง

สำหรับการเลือกบริการอย่างเป็นทางการกับบริการของบุคคลที่สาม ฉันแนะนำให้เริ่มต้นด้วยอินเทอร์เฟซอย่างเป็นทางการเพื่อลดความซับซ้อนในการแก้ไขปัญหา บุคคลที่สามก็ใช้ได้ แต่ควรรู้ว่าข้อมูลถูกส่งไปที่ไหน ราคาเท่าไหร่ และใครเป็นผู้ให้บริการโมเดล ชื่อที่ตรงกับโมเดลไม่ได้พิสูจน์ว่าเป็นบริการเดียวกันเบื้องหลัง

อย่าวาง API Keys ลงในบันทึกการแชทหรือภาพหน้าจอสาธารณะ เพราะผู้อื่นอาจใช้เครดิตของคุณได้

4. การทดสอบโมเดล

เมื่อเชื่อมต่อแล้ว ให้ทดสอบด้วยวัสดุที่คุณใช้บ่อย เช่น ฉบับร่าง บันทึกการประชุม หรือคำอธิบายผลิตภัณฑ์ ความคุ้นเคยจะช่วยให้เห็นได้ง่ายขึ้นว่าคำตอบขาดอะไรไปหรือไม่

ตัวอย่างเช่น ในการสรุปเนื้อหายาวๆ เป็นข้อความสั้นๆ สำหรับเพื่อนร่วมงาน ให้สองโมเดลมีข้อกำหนดเดียวกัน:

1Summarize the following material into a message for a colleague, under 200 words.
2
3Keep confirmed conclusions, owners, times, and unresolved issues.
4Do not add what isn't in the original; do not write tentative items as confirmed.
5No intro, give the text directly.
6
7Material:
8Paste original text here.

เมื่อเปรียบเทียบ ให้เน้นที่: กำหนดเวลาถูกต้องหรือไม่? "วันศุกร์ที่ยังไม่ยืนยัน" ถูกเปลี่ยนเป็น "เสร็จวันศุกร์" หรือไม่? สิ่งเหล่านี้สามารถตรวจสอบกับต้นฉบับได้โดยไม่ต้องตัดสิน "ความฉลาด" จากน้ำเสียง

เปิดตัวเลือกโมเดลที่ด้านบนของแชท เปิดใช้งานการเลือกหลายโมเดล เลือกสองหรือสามโมเดลที่กำหนดค่าไว้ แล้วส่งคำถามเดียวกัน

หากโมเดลหนึ่งถนัดร่างและอีกโมเดลหนึ่งถนัดตรวจสอบข้อบกพร่อง คุณสามารถใช้แยกกันในภายหลัง แทนที่จะให้โมเดลเดียวทำทุกอย่าง

ในการตรวจสอบความเร็ว ให้ไปที่ "Settings → Appearance" และเปิดใช้งาน "Show Estimated Token Count" หลังจากได้รับการตอบกลับ ให้ตรวจสอบสถิติเพื่อเปรียบเทียบเวลาในการตอบกลับโทเค็นแรก โทเค็นต่อวินาที และการใช้งานโดยประมาณ

โทเค็นเป็นหน่วยสำหรับการประมวลผลของโมเดล อย่าถือว่าเป็นจำนวนคำที่แน่นอน สถิติเหล่านี้ช่วยในการตรวจสอบต้นทุน แต่ใบเรียกเก็บเงินสุดท้ายขึ้นอยู่กับผู้ให้บริการ

โมเดลการเขียนควรค่าแก่การทดสอบเพิ่มเติม ขอให้มัน "คงย่อหน้าที่สองไว้ เปลี่ยนเฉพาะบทนำ อย่าแตะต้องตัวเลข" เพื่อดูว่ามันเปลี่ยนส่วนอื่นโดยไม่ได้ตั้งใจหรือไม่ การต้องตรวจสอบข้อความทั้งหมดอีกครั้งทุกครั้งที่เปลี่ยนประโยคเดียวนั้นเหนื่อยมาก

บันทึกคำถามทดสอบทั่วไปและวัสดุเป็นบันทึกย่อ เมื่อเชื่อมต่อโมเดลใหม่ ให้รันอีกครั้ง เริ่มหัวข้อใหม่เสมอสำหรับการเปรียบเทียบโดยใช้วัสดุที่เหมือนกันเพื่อหลีกเลี่ยงอิทธิพลจากการสนทนาก่อนหน้า

คุณไม่จำเป็นต้องถามทุกโมเดลทุกครั้ง การเลือกหลายโมเดลจะส่งคำขอแยกกัน ซึ่งแต่ละครั้งอาจมีค่าใช้จ่ายและส่งข้อมูลไปยังบริการเหล่านั้น ใช้สำหรับการเลือกแผนงานหรือชื่อเรื่อง เมื่อกำหนดทิศทางได้แล้ว ให้ดำเนินการต่อด้วยโมเดลเดียว

5. การจัดการงานด้วย Branches

หากคุณถึงเวอร์ชันที่ห้าแต่จู่ๆ รู้สึกว่าเวอร์ชันที่สองดีกว่า หรือต้องการลองเขียนโครงร่างเดียวกันสองวิธี คุณสามารถสร้าง branch จากข้อความที่เกี่ยวข้องได้

ค้นหาข้อความที่คุณต้องการเก็บ เปิดเมนูข้อความ และเลือก "Branch" เส้นทางใหม่จะนำพาบริบทก่อนการแยกไปด้วย และการสนทนาต่อไปจะถูกบันทึกแยกกันโดยไม่เขียนทับเส้นทางเดิม สลับกลับโดยใช้ตัวจัดการ branch

ตัวอย่างเช่น หากบทความมีโครงร่างแต่ยังไม่ได้กำหนดบทนำ ให้แยกสอง branch: อันหนึ่งเริ่มต้นด้วยบทสรุป อีกอันเริ่มต้นด้วยสถานการณ์เฉพาะ แก้ไขทั้งสองสองสามรอบ ดูว่าอันไหนดีกว่า แล้วดำเนินการต่อจากนั้น คุณไม่จำเป็นต้องลบอันใดอันหนึ่งเพื่อลองอีกอัน

สำหรับการแก้ไขเล็กน้อย ให้ติดตามผลไปเรื่อยๆ หากต้องการเก็บทั้งสองเวอร์ชัน ให้ใช้ branch

หากคุณทำงานประเภทข้อความเดียวกันบ่อยๆ ให้สร้าง Assistant ก่อน ไปที่ "Chat → Add Assistant" ตั้งชื่อที่จำได้ง่าย เช่น "Article Editor" และบันทึกข้อกำหนดระยะยาว:

1You help me edit Chinese articles for general readers.
2
3Prioritize keeping facts and specific examples from the draft.
4Delete fluff with no new info; don't add author background.
5When I specify a paragraph to edit, only edit that one.
6Point out judgments without evidence; do not invent sources.

Assistants เก็บนิสัยระยะยาว หัวข้อบทความเฉพาะ วัสดุ และข้อกำหนดด้านความยาวควรอยู่ในหัวข้อปัจจุบัน เพื่อไม่ให้ส่งต่อไปยังหัวข้อถัดไป

เมื่อตรวจทาน ให้เปิด branch อื่นและให้โมเดลค้นหาปัญหาเท่านั้น:

1Check this draft, do not rewrite.
2
3Against the materials I provided, find:
41. Facts or numbers not supported by the original.
52. Places where "possible" or "tentative" became confirmed.
63. Repetitive explanations that can be deleted.
7
8Quote the original for each and explain the issue. If no basis is found, write "source needed."

การสลับโมเดลเพื่อตรวจทานบางครั้งสามารถค้นหาปัญหาที่โมเดลก่อนหน้ามองไม่เห็น อย่างไรก็ตาม เนื้อหาที่ได้รับการอนุมัติจากทั้งสองโมเดลก็ยังอาจผิดได้ ตรวจสอบข้อเท็จจริงสำคัญกับข้อมูลต้นฉบับเสมอ

เมื่อแก้ไขบทความเท่านั้น คุณไม่จำเป็นต้องให้โมเดลมีเทอร์มินัล เบราว์เซอร์ หรือเครื่องมือไฟล์ การปิดเครื่องมือที่ไม่เกี่ยวข้องจะช่วยลดคำสั่งที่ไม่จำเป็น

เมื่อย้ายไปยัง Agent สำหรับไฟล์ อย่าลืมให้ร่างสุดท้ายและข้อกำหนดแก่ Agent การสนทนาก่อนหน้าจะไม่ถูกส่งต่อโดยอัตโนมัติทั้งหมด บอกให้ชัดเจนว่าจะใช้เวอร์ชันใด

6. การมอบหมายงานให้ Agents

เมื่อร่างพร้อมและต้องจัดรูปแบบเป็น Word หรือส่งออกเป็น PDF ให้ไปที่ "Work" ทางซ้าย เตรียมต้นฉบับและเทมเพลต

คลิก "Add Agent" ตั้งชื่อตามวัตถุประสงค์ เช่น "Data Organizer" เลือกโหมดการทำงาน จากนั้นเลือกโมเดลที่รองรับ และกรอกข้อกำหนด หลังจากสร้างแล้ว คุณสามารถปรับแต่งเครื่องมือ สิทธิ์ ทักษะ และฐานความรู้ในหน้าแก้ไขได้

โหมดการทำงานส่งผลต่อโมเดลและสิทธิ์ที่พร้อมใช้งาน เลือกตามรายการของโหมดปัจจุบัน โมเดลสำหรับการแชทปกติไม่จำเป็นต้องเหมาะสำหรับ Agents เมื่อเลือกโหมดแล้ว จะไม่สามารถสลับได้โดยตรง คุณจะต้องสร้าง Agent ใหม่

บางโหมดมีโมเดลหลัก (Main) โมเดลวางแผน (Plan) และโมเดลขนาดเล็ก (Small) สำหรับงานหลัก การวางแผน และการประมวลผลแบบเบา เริ่มต้นด้วยโมเดลเดียวกันทั้งหมดเพื่อทำความคุ้นเคยก่อน

จากนั้นสร้างงานใหม่และเลือกไดเรกทอรีการทำงาน ใช้โฟลเดอร์เฉพาะสำหรับการฝึกปฏิบัติพร้อมสำเนาวัสดุ หากมีสิทธิ์ "Confirm each time" ให้ใช้เพื่อดูว่า Agent วางแผนจะอ่าน รัน และเขียนอะไร

แม้จะเลือกไดเรกทอรีการทำงานแล้ว ให้ตรวจสอบสิทธิ์เครื่องมือ เครื่องมือบางอย่างอาจยังคงเข้าถึงไฟล์นอกไดเรกทอรีได้ อย่าเปิดใช้งาน "Full Access" ในครั้งแรก

คุณสามารถเริ่มต้นด้วยบันทึกการประชุมที่ไม่ละเอียดอ่อนเพื่อจัดระเบียบความคืบหน้าของโครงการ:

1Read the meeting notes in the current directory and organize a project progress report.
2
3Do not modify, move, or delete original files.
4Organize into: Completed, In Progress, To be Confirmed.
5Owners and times must come from the original; mark "TBC" if not specified.
6Note the source filename after each item.
7
8List the files you found and the outline first for my confirmation.
9After confirmation, generate a new file: Project_Progress.md.

ตรวจสอบว่าไฟล์ที่พบถูกต้อง จากนั้นยืนยันโครงร่าง หลังจากสร้างไฟล์แล้ว ให้เปิดตรวจสอบ โดยเฉพาะชื่อ วันที่ และตรวจสอบว่ารายการ "TBC" ไม่ได้ถูกเขียนเป็นยืนยันแล้ว

เมื่อลองใช้ Word หรือ PDF คุณอาจต้องติดตั้งเครื่องมือเอกสารหรือ dependencies ที่เกี่ยวข้อง เปิดไฟล์ในพื้นที่เอาต์พุตหรือไดเรกทอรีการทำงานเพื่อตรวจสอบเนื้อหาและเค้าโครง

หากจำเป็นต้องค้นหาเว็บเพื่อหาข้อมูล ให้ไปที่ "Settings → Web Search" และกำหนดค่าบริการเช่น Exa รับ Search API Key ทดสอบ และตรวจสอบว่าเครื่องมือค้นหาของ Agent เปิดใช้งานอยู่หรือไม่

การค้นหาต้องมีการกำหนดค่าแยกต่างหากและมีโควตาและค่าธรรมเนียมของตัวเอง หากไม่มี โมเดลอาจตอบตามความรู้ที่มีอยู่เท่านั้นโดยไม่ตรวจสอบเว็บ

หากการค้นหาพบหน้าเว็บ แต่งานต้องการคลิกปุ่ม เลื่อน หรือดาวน์โหลดไฟล์ คุณอาจต้องใช้ความสามารถในการทำงานเบราว์เซอร์ อ้างอิงทักษะ Playwright CLI ในการจัดการทักษะ ติดตั้ง และกำหนดให้กับ Agent

ทักษะคือชุดคำสั่ง เช่น วิธีการใช้งานเบราว์เซอร์หรือสร้างเอกสาร บางอย่างต้องใช้เครื่องมือประกอบ กำหนดค่าและรันงานเล็กๆ เพื่อทดสอบ

MCP ใช้สำหรับเชื่อมต่อเครื่องมือและบริการภายนอก เช่น ให้ Agent เข้าถึงระบบธุรกิจ เพิ่มบริการใน "Settings → MCP" กำหนดค่าตามคำแนะนำ และผูกไว้ในการตั้งค่า MCP ของ Agent หลังจากเชื่อมต่อสำเร็จ

สำหรับบันทึกการประชุมในเครื่อง เครื่องมือไฟล์ก็เพียงพอ ติดตั้งทักษะเบราว์เซอร์และ MCP เฉพาะเมื่อจำเป็น เพื่อหลีกเลี่ยงการแก้ไขปัญหาการกำหนดค่าที่ไม่ได้ใช้

ในการสาธิตทางเทคนิค Agents ได้ทำงานสามประเภท: ค้นหาและดาวน์โหลดตำราเรียนอิเล็กทรอนิกส์ สร้างเอกสาร Word และ PDF สื่อการสอนจากตัวอย่าง และเปลี่ยนปัญหาฟิสิกส์เป็นเว็บเพจแบบโต้ตอบพร้อมพารามิเตอร์ที่ปรับได้

เมื่อมอบหมายงานที่คล้ายกัน ให้ระบุชื่อตำราเรียน ไฟล์ตัวอย่าง และพารามิเตอร์ให้ชัดเจน ยิ่งข้อกำหนดเฉพาะเจาะจงมากเท่าไหร่ ก็ยิ่งตรวจสอบได้ง่ายขึ้นเท่านั้น

งานที่ทำงานได้ดีใน Codex สามารถอยู่ที่นั่นได้ Cherry Studio เสนอทางเลือกอื่น: ลองใช้โมเดลอื่นสำหรับงานเดียวกัน หรือกำหนดค่าเครื่องมือต่างๆ สำหรับวัตถุประสงค์ที่แตกต่างกัน

ใช้ Agent เดียวกันซ้ำสำหรับรายงานความคืบหน้ารายสัปดาห์ สำหรับโครงการใหม่ ให้สร้างงานใหม่และเลือกโฟลเดอร์ที่เกี่ยวข้อง สร้างงานแยกต่างหากสำหรับการผลิตเว็บเพจเพื่อให้เครื่องมือและข้อกำหนดแตกต่างกัน

7. การสร้าง Knowledge Base

เลือกชุดวัสดุที่คุณจะใช้ซ้ำ เช่น คู่มือผลิตภัณฑ์หรือบทความประวัติศาสตร์ สำหรับไฟล์ที่อ่านเพียงครั้งเดียวสำหรับคำถามปัจจุบัน ให้อัปโหลดไปที่แชทโดยตรงแทนที่จะสร้างฐาน

หลังจากสร้างฐานแล้ว ซอฟต์แวร์จะแบ่งข้อมูลเป็นส่วนๆ เมื่อคุณถามคำถาม มันจะค้นหาข้อความต้นฉบับที่เกี่ยวข้องก่อน จากนั้นให้โมเดลแชทจัดระเบียบคำตอบ ข้อมูลจะถูกบันทึกและเรียกค้นแยกกัน ไม่ได้ถูกฝึกเข้าไปในโมเดล

เปิด "Knowledge Base" ทางซ้าย คลิกเพิ่ม และตั้งชื่อตามวัตถุประสงค์ เช่น "Product After-sales Manual" ในครั้งแรก ให้ตั้งค่า "Embedding Model" เป็น "Do not use" เพื่อให้ยังคงค้นหาด้วยคำสำคัญได้

เพิ่มไฟล์ที่คุ้นเคยหนึ่งหรือสองไฟล์ รอการประมวลผล และตรวจสอบว่าข้อความที่แยกวิเคราะห์เป็นปกติหรือไม่ โดยเฉพาะตรวจสอบ PDF ที่สแกน หากข้อความไม่ได้รับการรู้จำ จะไม่สามารถค้นหาได้

ไปที่ "Recall Test" ในฐานความรู้นี้และถามคำถามที่มีคำตอบชัดเจน Recall จะแสดงส่วนที่ดึงมาได้ หากคู่มือมีเงื่อนไขการคืนสินค้า ให้ถาม "สามารถคืนได้หลังจากเปิดกล่องหรือไม่" และตรวจสอบว่าผลลัพธ์ตรงกับเงื่อนไขนั้นหรือไม่

นี่แสดงส่วนต้นฉบับที่ดึงมาได้ ดังนั้นคุณสามารถตรวจสอบความถูกต้องได้โดยตรงโดยไม่ต้องเดาผ่านคำตอบของโมเดล

เมื่อยืนยันแล้ว ให้กลับไปที่แชท คลิกปุ่มเพิ่มในพื้นที่ป้อนข้อมูล เลือก "Knowledge Base" และเลือกฐาน เมื่อชื่อปรากฏในพื้นที่ป้อนข้อมูล ให้ถามคำถามของคุณ:

1Based on the selected product data, organize the most frequently asked after-sales questions.
2
3Attach the corresponding source for each answer.
4For content not in the data, write "not found in data," do not add promises.
5If different files conflict, list the conflicts; do not decide for me.

หากรายการ Knowledge Base เป็นสีเทา ให้ตรวจสอบว่าโมเดลปัจจุบันรองรับการเรียกใช้เครื่องมือหรือไม่ และลบไฟล์ใดๆ ที่แนบมากับข้อความ ฐานความรู้ต้องมีไฟล์ที่ประมวลผลแล้วอย่างน้อยหนึ่งไฟล์

หากไม่พบเนื้อหาเมื่อคุณเปลี่ยนคำ ให้เพิ่ม embedding model ตัวอย่างเช่น ข้อความระบุ "มาตรฐานค่าใช้จ่ายที่พัก" แต่คุณถาม "สามารถเบิกค่าโรงแรมได้เท่าไหร่" คำต่างกัน Embedding model ค้นหาเนื้อหาตามความหมาย ไม่ใช่โมเดลแชทที่เขียนคำตอบสุดท้าย

การกำหนดค่าเหมือนกับการเชื่อมต่อโมเดล โดยใช้ SiliconFlow เป็นตัวอย่าง กำหนดค่า Key ใน "Model Services" ดึงรายการ ค้นหาและเพิ่มโมเดลเช่น bge-m3 ในหมวดหมู่ embedding

กลับไปที่การตั้งค่า Knowledge Base เลือกภายใต้ "Embedding Model" และรอให้ซอฟต์แวร์จัดทำดัชนีข้อมูล หากคุณใช้ embedding model อื่นมาก่อน คุณจะต้องสร้างใหม่ตามที่ได้รับแจ้ง ทดสอบอีกครั้งด้วยคำถามเดียวกัน

การค้นหาด้วยคำสำคัญยังคงมีอยู่แม้จะมี embedding model หากพบเนื้อหาที่ถูกต้องแต่ถูกจัดอันดับต่ำ ให้พิจารณา Rerank model

Rerank model จัดลำดับส่วนที่ดึงมาใหม่เพื่อให้ส่วนที่เกี่ยวข้องมากขึ้นอยู่ด้านบน เพิ่ม rerank model เช่น bge-reranker-v2-m3 ใน model services จากนั้นเลือกในการตั้งค่า Knowledge Base โมเดลและค่าใช้จ่ายที่มีขึ้นอยู่กับผู้ให้บริการ

Embedding และ Rerank ไม่จำเป็นเสมอไป สำหรับการตรวจสอบรุ่นผลิตภัณฑ์หรือหมายเลขข้อกำหนด การค้นหาด้วยคำสำคัญอาจเพียงพอ

สำหรับการแก้ไขปัญหา: หากไม่พบข้อความ ให้ตรวจสอบว่าไฟล์ได้รับการประมวลผลหรือไม่มีข้อความ หากพบข้อความแต่ขาดบริบท ให้ตรวจสอบว่าส่วนต่างๆ ถูกตัดหรือไม่ หากส่วนต่างๆ สมบูรณ์แต่คำตอบผิด ให้ตรวจสอบ prompt หรือสลับโมเดลแชท

เมื่อเปลี่ยนคู่มือเก่าด้วยคู่มือใหม่ ให้นำรายการที่ล้าสมัยออก เพื่อไม่ให้เวอร์ชันที่ขัดแย้งกันยังคงอยู่ในฐาน คุณยังสามารถถามคำถามที่ไม่มีในข้อมูลเพื่อดูว่ามันยอมรับว่าหาไม่พบหรือไม่

เพื่อให้ Agent ค้นหาวัสดุเหล่านี้ ให้ผูกฐานที่เกี่ยวข้องในการตั้งค่าฐานความรู้ของ Agent สำหรับแผนผลิตภัณฑ์ ให้คู่มือผลิตภัณฑ์ ไม่ใช่ไฟล์บริษัททั้งหมด

การใช้ cloud embedding, rerank หรือ chat model หมายความว่าเนื้อหาอาจถูกส่งไปยังผู้ให้บริการ ยืนยันว่าได้รับอนุญาตก่อนนำเข้าข้อมูลบริษัท

8. การเชื่อมต่อโมเดลท้องถิ่น

หากต้องการลองโมเดลโอเพนซอร์สหรือโมเดลที่มีข้อจำกัดน้อยกว่า ให้รันบนคอมพิวเตอร์ของคุณเองและเชื่อมต่อกับ Cherry Studio คุณจะใช้อินเทอร์เฟซเดียวกัน แต่คำตอบจะไม่มาจาก cloud API

ตัวเลือกทั่วไปคือ Ollama และ LM Studio เลือกอันเดียวก็พอ พวกเขาดาวน์โหลดและรันโมเดล Cherry Studio จัดการการเชื่อมต่อ การแชท และการจัดระเบียบข้อมูล Hugging Face คือที่ที่คุณค้นหาโมเดล

ขั้นแรก Ollama ดาวน์โหลดและติดตั้งจาก เว็บไซต์ Ollama เปิดเทอร์มินัลแล้วรัน:

1ollama run dolphin-mistral

นี่คือโมเดล 7B สำหรับการทดสอบ มันจะดาวน์โหลดไฟล์ก่อน เมื่อเสร็จแล้ว ให้ถามคำถามในเทอร์มินัลเพื่อยืนยันว่าทำงานได้

เปิด Cherry Studio "Settings → Model Services" ค้นหา Ollama ที่อยู่บริการโดยปกติคือ:

1http://localhost:11434

เปิดใช้งานบริการ ดึงรายการ เพิ่มโมเดล และเลือกในแชท

"localhost" หมายถึงคอมพิวเตอร์ของคุณ หากล้มเหลว ให้ตรวจสอบว่า Ollama กำลังทำงาน โมเดลถูกดาวน์โหลด และพอร์ตไม่มีการเปลี่ยนแปลง อย่าเปิดบริการสู่อินเทอร์เน็ตสาธารณะเพียงเพื่อเชื่อมต่อสองแอปในเครื่อง

หากคุณไม่ชอบใช้เทอร์มินัล ให้ใช้ LM Studio ค้นหาและดาวน์โหลดโมเดลในหน้าค้นหา จากนั้นโหลดโมเดลและเริ่มเซิร์ฟเวอร์ท้องถิ่น ใน Cherry Studio ค้นหาผู้ให้บริการ LM Studio ป้อนที่อยู่ที่แสดง และดึงรายการ Cherry Studio ไม่สามารถใช้งานได้หากไม่ได้โหลดโมเดลหรือไม่ได้เริ่มเซิร์ฟเวอร์

ในการค้นหา "uncensored models" ให้ค้นหา Hugging Face สำหรับ:

1uncensored GGUF

"Uncensored" เป็นคำอธิบายสำหรับข้อจำกัดน้อยกว่า ไม่ใช่การรับรอง โมเดลอาจปฏิเสธคำขอสร้างสรรค์น้อยกว่า แต่ไม่ได้หมายความว่าฉลาดกว่าหรือเชื่อถือได้มากกว่า Cherry Studio ไม่มีสวิตช์ "ปลดล็อคทุกโมเดล" เพียงอันเดียว คุณเพียงแค่เลือกโมเดลอื่น

GGUF เป็นรูปแบบโมเดลท้องถิ่นทั่วไป ตรวจสอบโมเดลฐาน ภาษาที่รองรับ และใบอนุญาตก่อนดาวน์โหลดไฟล์ที่เหมาะสมกับเครื่องมือของคุณ คุณไม่จำเป็นต้องมีทั้ง repository

เริ่มต้นด้วยโมเดล 7B หรือ 8B, Q4 quantized "B" คือขนาดพารามิเตอร์ "Q4" หมายถึงน้ำหนักถูกบีบอัด ใช้หน่วยความจำน้อยลงโดยสูญเสียผลกระทบเล็กน้อย หากต้องการใช้ใน Agent ให้ยืนยันว่ารองรับการเรียกใช้เครื่องมือ

โมเดลขนาดเล็กสามารถทำงานบนคอมพิวเตอร์ทั่วไปได้ Dolphin Mistral มีขนาดประมาณ 4 GB น้ำหนัก Q4 ขนาด 30B อาจมีขนาด 15-16 GB หรือมากกว่า ไม่รวมค่าใช้จ่ายในการรันและแคชสำหรับการสนทนายาว

คอมพิวเตอร์ที่มี RAM 16 GB สามารถลองโมเดล 7B หรือ 8B แบบ quantized ความเร็วขึ้นอยู่กับชิป VRAM และความยาวบริบท ในการรัน 30B ให้ตรวจสอบ RAM/VRAM และพื้นที่ดิสก์ อาจทำงานได้สองสามบรรทัด แต่จะช้าลงอย่างมากกับวัสดุยาว

เมื่อรันในเครื่องทั้งหมด ข้อมูลนำเข้าจะไม่ถูกส่งไปยังบริการแชทบนคลาวด์ และไม่มีค่าใช้จ่าย API แต่ใช้พลังงานของคอมพิวเตอร์ของคุณ หากคุณใช้การค้นหา cloud, embedding หรือ rerank ข้อมูลนั้นอาจยังถูกส่งออกไป

หมายเหตุ: ส่วนประกอบ embedding และ OCR ในเครื่องที่ดาวน์โหลดได้ในการตั้งค่า Cherry Studio ช่วยในการดึงข้อมูลและการรู้จำข้อความ การติดตั้งไม่ได้หมายความว่าคุณได้ติดตั้งโมเดลแชทแล้ว

ครั้งต่อไปที่มีคนส่งอินเทอร์เฟซโมเดลใหม่มาให้คุณ ให้เชื่อมต่อและรันคำถามทดสอบของคุณ หากเหมาะสม ให้เก็บไว้ หากไม่ ให้เปลี่ยนออกโดยไม่ต้องเปลี่ยนเวิร์กเบนช์ของคุณ

ฉันคือ Miles ผู้เชี่ยวชาญด้านอัลกอริทึม AI ที่เปลี่ยนจากบริษัทเทคโนโลยียักษ์ใหญ่มาสู่ FDE มีประสบการณ์ด้าน R&D, การปรับให้เหมาะสม, การปรับใช้ และการฝึกอบรมองค์กร ติดตามฉัน @miles_mazy เพื่อ เติบโตและสร้างรายได้ไปด้วยกัน