Local AI พร้อมใช้งานจริงแล้ว: การ์ดจอ Intel 32GB VRAM + Qwen 3.8 เชื่อมต่อ Oculink
Lon Seidman จากช่อง Lon.TV ทำการทดสอบการ์ดจอเวิร์กสเตชันรุ่นใหม่ Intel Arc Pro (32GB VRAM) เชื่อมต่อผ่านพอร์ต Oculink เข้ากับ Minisforum Mini PC เพื่อรันโมเดลยอดนิยมแห่งปี Qwen 3.8 (26B/27B) แบบ Local 100% โดยพิสูจน์ให้เห็นว่าความจุ VRAM 32GB ทำให้สามารถโหลดทั้งโมเดลและ Context Window ขนาดยาวลงบนการ์ดจอได้เต็มที่ พร้อมทดสอบการเขียนโค้ดจริง ทั้งเกม Space Invaders ในภาษา Python, การปรับแต่งแอปพลิเคชัน Gadget Tracker ผ่าน Opencode และงาน Web Scraping
การวิเคราะห์เจาะลึกเชิงเทคนิค (In-Depth Technical Analysis)
ทำไม VRAM 32GB ถึงเป็นจุดเปลี่ยนของ Local AI?
ปัญหาหลักของการ์ดจอเกมมิ่งทั่วไป (8GB-16GB) คือ เมื่อโหลดโมเดล Dense 26B-27B (Weight ประมาณ 16GB) เข้าไป VRAM จะเต็มทันที ทำให้ไม่เหลือพื้นที่สำหรับ Context Window (KV Cache)
แต่บน Intel 32GB GPU ตัว Weight กินเพียงครึ่งเดียว เหลือพื้นที่อีกกว่า 15GB สำหรับ Context ยาวหลายหมื่นโทเค็น ทำให้ป้อนโค้ดทั้งโปรเจกต์หรือเอกสารหลายร้อยหน้าได้โดยไม่ต้องกังวลเรื่อง Out of Memory
Oculink: ทางเลือกที่ดีกว่า Thunderbolt / USB4
การต่อ eGPU ผ่าน Thunderbolt 4 หรือ USB4 จะสูญเสียประสิทธิภาพไป 20-30% เนื่องจาก Protocol Overhead
Lon.TV เลือกใช้ Oculink (SFF-8611) ซึ่งเป็นการเชื่อมต่อแบบ PCIe Direct (PCIe 4.0 x4 แบนด์วิดท์ 64 Gbps) ตรงเข้าสู่ CPU ของ Minisforum Mini PC ทำให้ได้ Latency ต่ำและความเร็วเกือบเท่าการเสียบบนเมนบอร์ดใหญ่
Intel OneAPI & SYCL Backend in llama.cpp
หลายคนกังวลว่าการ์ดจอ Intel จะรัน AI สู้ Nvidia ได้ไหม?
ปัจจุบันชุมชน Open-source และ Intel ได้พัฒนา SYCL / OneAPI Backend บน llama.cpp จนเสถียรมาก สามารถดึงพลังของ Intel XMX (Xe Matrix Extensions) มาประมวลผล Matrix Multiplication ได้อย่างรวดเร็วและประหยัดพลังงาน
การทดสอบงานจริง: Space Invaders, Opencode & Scraping
1. Space Invaders in Python: AI สามารถสร้างเกม 2D สมบูรณ์แบบ มีระบบยิง, คะแนน, เอเลี่ยนเคลื่อนที่ในคลิกเดียว
2. Opencode Agent: เชื่อมต่อกับ Editor สั่งให้แก้ไขโค้ดฐานข้อมูลและ UI ของแอป Gadget Tracker ได้อย่างแม่นยำ
3. Web Scraping: อ่านข้อมูล HTML ดึงฟิลด์สำคัญ จัดหมวดหมู่เป็น JSON โครงสร้างเป๊ะ
| พารามิเตอร์ / หัวข้อ | ค่าที่บันทึกได้ / รายละเอียด |
|---|---|
| Tested GPU | Intel Arc Pro B70 / Data Center GPU (32GB VRAM) |
| Connection Method | Oculink Dock (PCIe 4.0 x4 Direct) |
| Host Mini PC | Minisforum Mini PC (High-end AMD/Intel) |
| Software Runtime | llama.cpp with Intel SYCL / OneAPI |
| Estimated Power | ~150 - 200 Watts under full AI load |
- ทลายกำแพงราคา VRAM 32GB ในงบประมาณต่ำกว่า $1,000 คุ้มค่าที่สุดสำหรับการรันโมเดล 26B-32B
- สามารถรองรับ Large Context Window ได้เต็มรูปแบบโดยไม่ต้อง Offload ไป System RAM
- การเชื่อมต่อผ่าน Oculink ทำให้ประกอบเข้ากับ Mini PC กลายเป็นชุด Local AI กะทัดรัดแต่ทรงพลัง
- การตั้งค่าไดรเวอร์ Intel OneAPI / SYCL บน Linux ต้องมีความรู้เชิงเทคนิคเบื้องต้น
- ซอฟต์แวร์ AI บางตัวยังคงเน้น Optimization ให้กับ Nvidia CUDA เป็นอันดับแรก
- พอร์ต Oculink ยังมีเฉพาะใน Mini PC หรือเมนบอร์ดเฉพาะกลุ่ม (อาจต้องใช้อะแดปเตอร์ M.2 to Oculink)