1 บทความ · ดูบทความทั้งหมด
เจาะวิธีที่ทำให้โมเดล AI ขนาด 284B ลงไปอยู่ในเครื่อง RAM 64GB แบบไม่มีการ์ดจอ ทั้งหลักการ MoE การบีบอัด 1.71 บิต ความเร็วที่ได้จริง และข้อควรระวังก่อนลองตาม