ฉันติดตามทุกบาทที่ใช้ไปกับโครงสร้างพื้นฐาน AI ปีที่แล้ว มีรายการหนึ่งที่เพิ่มขึ้นเรื่อยๆ นั่นคือค่าเช่า GPU บนคลาวด์ ภายในไตรมาสที่ 3 มันพุ่งถึงเดือนละ 1,900 ดอลลาร์สหรัฐฯ — และฉันเป็นคนออกใบแจ้งหนี้ให้ลูกค้าสำหรับงานที่สร้างรายได้นั้น
ตัวเลขแบบนั้นมันใช้ไม่ได้ คุณจะสร้างธุรกิจโดยการส่ง 40% ของต้นทุนการดำเนินงานไปให้ศูนย์ข้อมูลของคนอื่นไม่ได้
แล้วฉันก็ซื้อ DGX Spark มา นี่คือรายละเอียด
1 / DGX Spark จริงๆ แล้วคืออะไร
NVIDIA ใช้เวลาตลอดปี 2025 บีบอัดฮาร์ดแวร์ระดับศูนย์ข้อมูลให้อยู่บนโต๊ะทำงาน พวกเขาประกาศในชื่อ Project DIGITS ที่งาน CES ในเดือนมกราคม เปลี่ยนชื่อเป็น DGX Spark ที่งาน GTC ในเดือนมีนาคม และเริ่มจัดส่งในเดือนตุลาคม ผลลัพธ์ที่ได้คือกล่องขนาด 150×150×50 มม. ที่หนัก 1.2 กก. และทำงานโดยใช้ปลั๊กไฟบ้านทั่วไป
สเปก:
ส่วนประกอบ
รายละเอียด
ชิป
GB10 Grace Blackwell Superchip
พลังประมวลผล AI
1 PFLOP (FP4)
CPU
ARM 20-core (Grace)
หน่วยความจำ
128GB LPDDR5x, แบบรวม
พื้นที่จัดเก็บ
4TB Gen5 NVMe
เครือข่าย
ConnectX-7 (เชื่อมต่อสองเครื่อง)
การใช้พลังงาน
~150–240W ภายใต้โหลด
ราคา
$2,999
ตัวเลข petaflop เป็นตัวเลขทางการตลาด ตัวเลขที่สำคัญจริงๆ คือ หน่วยความจำรวม 128GB
GPU สำหรับผู้บริโภคมีขีดจำกัดที่แน่นอน การ์ด 4090 ให้ VRAM 24GB — ทันทีที่โมเดลใหญ่กว่านั้น มันจะโหลดไม่ได้ การ์ด 5090 เพิ่มขีดจำกัดเป็น 32GB ส่วน Spark ทำให้เป็น 128GB ซึ่งหมายความว่ามันสามารถรันโมเดลที่การ์ดราคา $2,000 สำหรับผู้บริโภคไม่สามารถเปิดได้ด้วยซ้ำ
2 / อธิบายกำแพงหน่วยความจำ
นี่คือสิ่งที่หน่วยความจำรวม 128GB ปลดล็อคได้จริง:
- Llama 3.3 70B - ความแม่นยำ BF16 เต็มรูปแบบ ไม่ต้องใช้เทคนิค quantization
- Qwen 3 (ช่วง 30B–110B) - ใส่ได้พอดี
- โมเดลระดับ DeepSeek สูงถึง 200B - แบบ quantized ทำงานได้เสถียร
- การสร้างภาพ FLUX.1 - ได้
- พารามิเตอร์ 405B - เชื่อม Spark สองเครื่องผ่าน ConnectX-7
GPU สำหรับผู้บริโภคจะถึงขีดจำกัดที่ประมาณ 30B แบบบีบๆ Spark เริ่มต้นตรงจุดที่ขีดจำกัดนั้นสิ้นสุดพอดี ช่องว่างนั้นคือเหตุผลทั้งหมดในการซื้อเครื่องนี้
3 / คณิตศาสตร์: 22,000 ดอลลาร์สหรัฐฯ มาจากไหน
ค่าใช้จ่าย GPU คลาวด์สำหรับงาน AI ที่หนักหน่วง:
งาน
ค่าใช้จ่ายรายเดือน
A100 80GB, แบบไม่เต็มเวลา
$600–$1,200
H100 สำหรับการปรับแต่ง (fine-tuning)
$1,000–$2,500
โฮสต์ inference 70B
$300–$900
อินสแตนซ์ที่ลืมปิด
เซอร์ไพรส์
ยอดรวมตามจริงสำหรับผู้สร้าง AI
$1,500–$3,000
DGX Spark กับงานเดียวกัน:
รายการ
ค่าใช้จ่าย
ฮาร์ดแวร์
$2,999 (ครั้งเดียว)
ค่าไฟที่ ~200W
$8–15/เดือน
ค่าเช่าคลาวด์
$0
ค่าใช้จ่ายรายเดือนหลังซื้อ
~$10
ที่ค่าใช้จ่ายคลาวด์เดือนละ $1,900 Spark จะคืนทุนในเวลา น้อยกว่า 7 สัปดาห์
หลังจากนั้น: $1,890 ต่อเดือนที่เคยออกจากธุรกิจของคุณ จะยังคงอยู่ในธุรกิจของคุณ กับงานลูกค้าเดิม กับใบแจ้งหนี้เดิมที่ออกไป
ยอดรวมปีแรกที่เปลี่ยนเส้นทางกลับมาสู่ธุรกิจของคุณ: $22,680
4 / ชั้นซอฟต์แวร์ไม่ใช่ปัญหา
Spark รัน DGX OS — Ubuntu ของ NVIDIA ที่มาพร้อมชุดซอฟต์แวร์ AI แบบครบชุด: CUDA, NIM, NeMo Ollama, vLLM, PyTorch, Hugging Face และ llama.cpp ทั้งหมดทำงานได้โดยไม่ต้องแก้ไขตั้งแต่วันแรก
ถ้าคุณเคยใช้ปลายทางคลาวด์อยู่แล้ว การย้ายคือการเปลี่ยนบรรทัดเดียว:
1# ก่อน: จ่ายเป็นรายชั่วโมง2client = OpenAI(base_url="https://some-gpu-host/v1", api_key="sk-...")34# หลัง: บนโต๊ะคุณ, ไม่มีมิเตอร์5client = OpenAI(base_url="http://localhost:11434/v1", api_key="local")
เส้นทางโค้ดเดียวกัน ผลลัพธ์ JSON เดียวกัน พฤติกรรมเดียวกัน ไม่มีอะไรถูกเรียกเก็บเงิน ไม่มีอะไรออกจากอาคาร
5 / เหตุผลทางธุรกิจที่เหนือกว่าการประหยัดต้นทุน
Spark ไม่ใช่แค่เครื่องมือลดต้นทุน มันขจัดอุปสรรคทางเศรษฐกิจสำหรับงานที่ก่อนหน้านี้แพงเกินกว่าจะรันได้อย่างอิสระ
ถ้าคุณทำงาน AI ให้ลูกค้า:
การปรับแต่ง (fine-tuning) ที่เคยเป็นค่าใช้จ่ายคลาวด์ $400 ตอนนี้ฟรี รันข้ามคืน รันสามรูปแบบด้วยไฮเปอร์พารามิเตอร์ที่แตกต่างกัน ไม่มีใบแจ้งหนี้มาในตอนเช้า คุณสามารถปรับใช้เอเจนต์เขียนโค้ดส่วนตัวกับฐานโค้ดทั้งหมดของลูกค้า หรือผู้ช่วยที่เปิดตลอดเวลาที่ทั้งทีมใช้ได้ — และต้นทุนต่อหน่วยของคุณคือค่าไฟ ไม่ใช่โทเค็น API ลูกค้าทุกคนหลังจากคนแรกคือกำไรล้วนๆ
ถ้าคุณจัดการกับข้อมูลที่ละเอียดอ่อน:
นี่คือมุมที่คนส่วนใหญ่ประเมินค่าต่ำไป สัญญา เอกสารทางกฎหมาย เวชระเบียน ข้อมูลทางการเงิน อะไรก็ตามที่อยู่ภายใต้ NDA ที่คุณจะไม่ส่งผ่าน API สาธารณะ บน Spark ข้อมูลนั้นจะไม่ข้ามเครือข่ายของคุณ ไม่มีข้อกำหนดในการให้บริการใดๆ มาควบคุมเครื่องที่คุณเป็นเจ้าของโดยสมบูรณ์
"ข้อมูลของคุณไม่เคยออกจากอาคาร" ปิดดีลในอุตสาหกรรมที่มีการควบคุม ซึ่งผู้ให้บริการคลาวด์ไม่สามารถแตะต้องได้ สำนักงานกฎหมาย คลินิก ที่ปรึกษาทางการเงิน — ลูกค้าเหล่านี้จะยอมจ่ายเบี้ยประกันภัยที่มีความหมายสำหรับการรับประกันนั้น
การเปลี่ยนแปลงความคิดที่ไม่มีใครพูดถึง:
การกำหนดราคาคลาวด์ฝึกให้คุณจำกัดการใช้การประมวลผล คุณลังเลก่อนที่จะปล่อยให้เอเจนต์วนซ้ำ ก่อนที่จะรันคลังข้อมูลทั้งหมดอีกครั้ง ก่อนที่จะปรับแต่งตามไอเดียที่อาจใช้ไม่ได้ ทุกครั้งที่รันมีต้นทุนเป็นดอลลาร์ติดอยู่ ดังนั้นคุณจึงรันน้อยลง
เป็นเจ้าของเครื่องแล้วความลังเลนั้นจะหายไป ส่วนใหญ่แล้ว งานที่ดีที่สุดอยู่เบื้องหลังความลังเลนั้น
6 / สิ่งที่ Spark ไม่ใช่
พูดตรงๆ เกี่ยวกับข้อจำกัด:
- ความเร็วดิบ - 5090 เร็วกว่าในทุกสิ่งที่พอดีกับ VRAM 32GB ของมัน
- ขนาด - การให้บริการผู้ใช้พร้อมกันหลายพันคนยังคงเป็นงานของศูนย์ข้อมูล
- โมเดลระดับ前沿ที่เกิน 405B - Spark สองเครื่องที่เชื่อมต่อกันจัดการ 405B ได้; เกินกว่านั้น คุณต้องใช้ฮาร์ดแวร์อื่น
- ผู้ใช้ปริมาณน้อย - ถ้าคุณใช้จ่าย $20/เดือนสำหรับการเรียก API นี่ไม่ใช่เครื่องมือที่เหมาะสม
เกณฑ์ที่ซื่อสัตย์: การใช้จ่าย GPU คลาวด์ $1,000+/เดือน คือจุดที่ Spark กลายเป็นตัวเลือกที่ชัดเจน ต่ำกว่า $500/เดือน การ์ดสำหรับผู้บริโภคหรือการเข้าถึง API เป็นทางเลือกที่ฉลาดกว่า เครื่องนี้มีขนาดเหมาะสมกับงานหนัก ไม่ใช่การใช้งานทั่วไป
7 / ระยะเวลาคืนทุนในระดับการใช้จ่ายต่างๆ
ค่าใช้จ่ายคลาวด์รายเดือน
ระยะเวลาคืนทุน
$1,900/เดือน
~6 สัปดาห์
$1,000/เดือน
~3 เดือน
$500/เดือน
~6 เดือน
$200/เดือน
อยู่กับคลาวด์ต่อไป
8 / ภาพรวมที่กว้างขึ้น
ในปี 2024 การรันโมเดล 70B ต้องใช้ศูนย์ข้อมูลหรือค่าใช้จ่ายคลาวด์ $1,900/เดือน ในปี 2026 มันต้องใช้กล่องราคา $2,999 ขนาดเท่าหนังสือปกอ่อนและปลั๊กไฟ
NVIDIA ตั้งราคา DGX Spark ไว้ที่ $2,999 อย่างจงใจ — พวกเขาต้องการให้ผลิตภัณฑ์ AI รุ่นต่อไปถูกสร้างขึ้นบนซิลิคอนของพวกเขา ในพื้นที่ ในระดับใหญ่ Jensen ส่งมอบเครื่องรุ่นแรกด้วยตนเองให้กับ Musk และ Altman Dell, HP, ASUS และ Lenovo ต่างก็สร้างเครื่อง GB10 ของตัวเอง ชุดซอฟต์แวร์ได้รับการปรับแต่งให้เหมาะกับชิปนี้เกือบทุกสัปดาห์
อัตราค่า GPU คลาวด์ไม่ได้ลดลง ข้อกำหนดด้านความเป็นส่วนตัวของข้อมูลกำลังเข้มงวดขึ้น ลูกค้าถามมากขึ้นว่าข้อมูลของพวกเขาไปอยู่ที่ไหนจริงๆ ก่อนที่จะเซ็นอะไร
คนที่รันโมเดลระดับ前沿บนโต๊ะทำงานในปี 2026 จะดูเฉียบแหลมในปี 2028
เลขคณิตตรงไปตรงมา: $2,999 ครั้งเดียว เทียบกับ $1,900 ทุกเดือน เครื่องคืนทุนก่อนสิ้นไตรมาสที่ 1 แล้วรันด้วยค่าใช้จ่าย $10/เดือนตราบเท่าที่คุณต้องการ
นั่นคือการแลกเปลี่ยน หวังว่าฉันจะทำมันตั้งแต่ปีที่แล้ว
ถ้าสิ่งนี้มีประโยชน์ ติดตาม @cryptowluha
บุ๊กมาร์กไว้ก่อนที่มันจะถูกฝัง ถ้าสิ่งนี้มีประโยชน์ แชร์ให้กับคนที่ต้องการมันสักคน
