เจาะสเปกเซิร์ฟเวอร์ AI ปี 2026: HGX B200, ราคาต่อโทเคน, ระบบระบายความร้อน และ TCO สำหรับดาต้าเซ็นเตอร์ไทย

ทำไมปี 2026 คือจุดเปลี่ยนของ Inference Server

สมมติว่าคุณรัน Llama 3 ขนาด 70B บนเซิร์ฟเวอร์ A100 ปี 2023 ค่าไฟต่อเดือนอยู่ที่ราว 80,000 บาท และ throughput อยู่แถว 2,000 token/s มาถึงปี 2026 ตัวเลขเดียวกันบน HGX B200 อาจกลายเป็น 12,000 token/s ในขณะที่ค่าไฟเพิ่มขึ้นเพียง 40%

นั่นคือเหตุผลที่ทุกดาต้าเซ็นเตอร์กำลังคำนวณใหม่ว่า architecture แบบไหนคุ้มที่สุดสำหรับ inference ในยุคที่โมเดลใหญ่ขึ้น ผู้ใช้เยอะขึ้น แต่ margin ต่อ token บางลงทุกวัน

บทความนี้เจาะลึกสเปก HGX B200 เทียบราคาต่อโทเคน ระบบระบายความร้อน และ TCO สำหรับสภาพแวดล้อมดาต้าเซ็นเตอร์ในไทยโดยเฉพาะ

---

ภาพรวมสถาปัตยกรรม HGX B200

HGX B200 คือ reference board ของ NVIDIA ที่ประกอบด้วย GPU Blackwell จำนวน 8 ตัว เชื่อมต่อกันด้วย NVLink ความเร็วสูง มาดูสเปกหลักที่มีผลต่อ inference โดยตรง

สเปกที่สำคัญ

รายการ	ค่าโดยประมาณ
GPU	8× NVIDIA B200 (Blackwell)
HBM3e ต่อ GPU	192 GB
แบนด์วิดท์หน่วยความจำ	~8 TB/s ต่อ GPU
รวม HBM ทั้งบอร์ด	~1.5 TB
NVLink bandwidth	1.8 TB/s ต่อคู่
FP4 Tensor Core	~18 PFLOPS ต่อ GPU
FP8 Tensor Core	~9 PFLOPS ต่อ GPU
TDP ต่อ GPU	~1,000 W
กำลังไฟรวมบอร์ด	~8–10 kW

จุดที่น่าสนใจที่สุดคือ FP4 precision ที่ช่วยลดขนาดโมเดลลงครึ่งหนึ่งเมื่อเทียบกับ FP8 โดยที่คุณภาพ inference ยังใกล้เคียงกันสำหรับหลาย use case ซึ่งหมายความว่าโมเดล 70B ที่เคยต้องใช้หน่วยความจำเป็น GB มหาศาล ตอนนี้รันได้บน GPU เดียวและเหลือพื้นที่สำหรับ KV cache อีกมาก

เปรียบเทียบกับรุ่นก่อน

รุ่น	HBM/GPU	แบนด์วิดท์	FP8	TDP/GPU
HGX H100	80 GB	3.35 TB/s	~2 PFLOPS	700 W
HGX H200	141 GB	4.8 TB/s	~2 PFLOPS	700 W
HGX B200	192 GB	8 TB/s	~9 PFLOPS	1,000 W

สรุปสั้นๆ คือ B200 ไม่ได้เพิ่มแค่หน่วยความจำ แต่เพิ่มทั้งแบนด์วิดท์และ compute แบบก้าวกระโดด ซึ่งส่งผลตรงต่อจำนวน concurrent request ที่รองรับได้

---

ราคาต่อโทเคน: เปรียบเทียบจริง

มาทำคำนวณง่ายๆ กัน สมมติรัน Llama 3 70B แบบ FP8 บนเซิร์ฟเวอร์ 8-GPU และวัด throughput ในโหมด batch serving

สมมติฐาน

• ราคาเซิร์ฟเวอร์ H100: ~$300,000 (ประมาณ 10.5 ล้านบาท)
• ราคาเซิร์ฟเวอร์ B200: ~$400,000 (ประมาณ 14 ล้านบาท)
• ค่าไฟไทย: 4.5 บาท/หน่วย (TOU tariff สำหรับดาต้าเซ็นเตอร์)
• อายุการใช้งาน: 3 ปี
• Utilization: 70%

ผลลัพธ์โดยประมาณ

รุ่น	Throughput (token/s)	ค่าไฟ/เดือน	ต้นทุน/1M token
HGX H100	~2,000	~75,000 บาท	~0.85 บาท
HGX B200	~8,000	~110,000 บาท	~0.28 บาท

หมายเหตุ: ตัวเลขข้างต้นเป็นการประมาณการณ์เชิงเทคนิค ผลลัพธ์จริงขึ้นอยู่กับ batch size, sequence length, quantization method และ software stack

สิ่งที่เห็นได้ชัดคือ ราคาต่อโทเคนลดลงราว 3 เท่า แม้ว่าราคาเครื่องจะสูงขึ้น 33% นี่คือเหตุผลที่หลายองค์กรเลือกข้ามไป B200 เลยแทนที่จะซื้อ H200 ในช่วง 2025–2026

ปัจจัยที่กระทบราคาต่อโทเคน

• Quantization: FP4 ลดขนาดโมเดลได้มาก แต่ต้องเทรน calibration เพิ่ม
• Batch size: ยิ่งใหญ่ยิ่งคุ้ม แต่ latency จะเพิ่มตาม
• Speculative decoding: ใช้ draft model เร็วกว่า ลดเวลา generation ได้ 30–50%
• Prefix caching: ช่วยลดการคำนวณซ้ำสำหรับ system prompt ที่ใช้บ่อย

---

ระบบระบายความร้อน: ความท้าทายในไทย

นี่คือจุดที่หลายคนมองข้าม B200 กินไฟราว 8–10 kW ต่อบอร์ด อุณหภูมิ ambient ในไทยเฉลี่ย 30–35°C ตลอดปี ระบบ air cooling แบบเดิมเอาไม่อยู่

ตัวเลือกระบายความร้อน

1. Air Cooling (เหมาะสำหรับ H100/H200)

• ใช้ fan ความเร็วสูง + heatsink
• รองรับได้สูงสุด ~700W/GPU
• ไม่เหมาะกับ B200 เพราะ TDP เกินขีดจำกัด

2. Direct Liquid Cooling (DLC) — แนะนำสำหรับ B200

• ส่งน้ำเย็นเข้า cold plate บน GPU โดยตรง
• ลดอุณหภูมิ GPU ได้ 15–20°C เมื่อเทียบกับ air
• ต้องลงทุน piping, manifold, CDU (Coolant Distribution Unit)
• ค่าใช้จ่ายเพิ่ม ~15–20% ของราคาเซิร์ฟเวอร์

3. Immersion Cooling

• จุ่มทั้งเซิร์ฟเวอร์ใน dielectric fluid
• รองรับความหนาแน่นสูงสุด
• ต้นทุนสูงและ maintenance ยากกว่า
• เหมาะสำหรับสเกลใหญ่ 1,000+ GPU

ความท้าทายเฉพาะในไทย

• ความชื้นสูง: ทำให้ condensation risk สูงในระบบ DLC ต้องควบคุม dew point อย่างเข้มงวด
• ไฟฟ้าไม่เสถียรในบางพื้นที่: ต้องมี UPS + generator ที่รองรับ load สูง
• ขาดแคลนช่างเทคนิค DLC: ต้องอบรมทีมหรือจ้าง vendor จากสิงคโปร์/ฮ่องกง
• พื้นที่ติดตั้ง: DLC ต้องการห้อง CDU และ piping route ที่วางแผนตั้งแต่ขั้นออกแบบอาคาร

คำแนะนำ: หากวางแผนติดตั้ง B200 ในไทย ควรเริ่มจาก DLC แบบ closed-loop ที่ไม่ต้องพึ่งพา chiller ภายนอกมากนัก ลดความเสี่ยงจากสภาพอากาศ

---

คำนวณ TCO สำหรับดาต้าเซ็นเตอร์ไทย

มาดูตัวเลข TCO ระยะ 3 ปี สำหรับการติดตั้ง HGX B200 จำนวน 8 เซิร์ฟเวอร์ (64 GPU) เทียบกับ H100 ในสภาพแวดล้อมไทย

ต้นทุนหลัก

รายการ	H100 (8 เซิร์ฟเวอร์)	B200 (8 เซิร์ฟเวอร์)
ราคาเครื่อง	84 ล้านบาท	112 ล้านบาท
ระบบระบายความร้อน	8 ล้าน (air)	22 ล้าน (DLC)
ค่าไฟ 3 ปี	27 ล้าน	40 ล้าน
พื้นที่ + โครงสร้าง	6 ล้าน	5 ล้าน (ความหนาแน่นสูงกว่า)
บำรุงรักษา 3 ปี	12 ล้าน	16 ล้าน
TCO รวม	137 ล้านบาท	195 ล้านบาท

ราคาต่อโทเคนเมื่อรวม TCO

• H100: throughput รวม ~16,000 token/s → ต้นทุน ~1.1 บาท/1M token
• B200: throughput รวม ~64,000 token/s → ต้นทุน ~0.4 บาท/1M token

แม้ TCO สูงกว่า ~42% แต่ throughput สูงกว่า 4 เท่า ส่งผลให้ ต้นทุนต่อโทเคนต่ำกว่าครึ่งหนึ่ง

เมื่อไรควรเลือก H200 แทน B200?

• โหลด inference ไม่สูงมาก (ต่ำกว่า 5,000 token/s ต่อเซิร์ฟเวอร์)
• ไม่พร้อมลงทุนระบบ DLC
• ต้องการ deploy เร็วภายใน 6 เดือน (B200 lead time อาจยาวกว่า)
• โมเดลขนาดเล็กกว่า 30B ที่ FP8 ก็เพียงพอ

---

กลยุทธ์ลดต้นทุนสำหรับทีมในไทย

1. ใช้ FP4 อย่างชาญฉลาด

ไม่ใช่ทุกโมเดลที่เหมาะกับ FP4 ลองเริ่มจากโมเดลที่ tolerance ต่อ error สูง เช่น recommendation หรือ summarization ก่อน แล้วค่อยขยับไปยัง use case ที่ไวต่อความแม่นยำ

2. สร้าง token routing layer

แทนที่จะส่งทุก request ไป B200 หมด ใช้ router แยกงาน:

• งานเร่งด่วน/ซับซ้อน → B200
• งานทั่วไป → H200 หรือ L40S
• งาน batch ขนาดใหญ่ → B200 ในตอนกลางคืน (ไฟถูกกว่าในบาง tariff)

3. ต่อรอง power tariff

ดาต้าเซ็นเตอร์ขนาดใหญ่ในไทยสามารถเจรจา TOU rate กับการไฟฟ้าได้ หาก load สม่ำเสมอและยอมรับ load shedding ในช่วง peak บางช่วง

4. พิจารณา colocation ในสิงคโปร์สำหรับบาง workload

สำหรับงานที่ต้องการ latency ต่ำสู่ผู้ใช้ในภูมิภาค บางครั้ง colocation ในสิงคโปร์ที่มี cooling infrastructure พร้อมและไฟถูกกว่า อาจคุ้มกว่าสร้างใหม่ในไทย

---

สรุป: B200 คุ้มไหมสำหรับไทย?

คำตอบสั้นคือ คุ้ม หาก throughput สูงพอ หากคุณรัน inference ในสเกลที่ต้องการ 10,000+ token/s ต่อเซิร์ฟเวอร์ B200 ให้ราคาต่อโทเคนที่ต่ำกว่าอย่างชัดเจน แม้ต้นทุนตั้งต้นจะสูง

แต่ถ้า workload ยังไม่ถึงจุดนั้น H200 หรือแม้แต่ H100 ที่มีอยู่ก็ยังเพียงพอ อย่ารีบกระโดดเพราะ hype

สิ่งที่ต้องเตรียมก่อนตัดสินใจ:

• วัด throughput จริงของ workload ปัจจุบัน
• ประเมินความพร้อมของอาคารสำหรับ DLC
• เจรจา power contract ล่วงหน้า
• คำนวณ break-even point ระหว่างราคาต่อโทเคนกับ TCO

---

ลองนำตัวเลขในบทความนี้ไปปรับใช้กับ workload ของทีมคุณดู หากมีสเปกเฉพาะหรือ use case ที่อยากเจาะลึกเพิ่ม ฝากคอมเมนต์ไว้ได้เลย หรือแชร์ประสบการณ์รัน inference ในไทยให้ชุมชนอ่านกันได้ที่ฟอรัม