Eat That AI! ดูคลิปบน YouTube
ปกคลิป EP.4 Ollama เทียบ LM Studio ตัวไหนเร็วกว่า

Ollama vs LM Studio ตัวไหนเร็วกว่า? หม่ำวัดให้แล้ว

EP.4

อยากรัน AI ในเครื่องตัวเอง สองตัวที่คนพูดถึงบ่อยที่สุดคือ Ollama กับ LM Studio หม่ำเลยวัดให้ดูบนโน้ตบุ๊กจริง ใช้โมเดลไฟล์เดียวกันทั้งสองฝั่ง จะได้เทียบกันแบบแฟร์ ๆ

เครื่องที่ใช้ทดสอบ

ผลวัด (โทเคนต่อวินาที ยิ่งมากยิ่งเร็ว)

โหมดOllamaLM Studio
ไม่ปรับอะไรเลย~20 ถึง 28~49
บังคับลงการ์ดจอทั้งหมด~50~50
ใช้ CPU อย่างเดียว~12 ถึง 13~7

ทำไมค่าเริ่มต้นต่างกันเยอะ

บนการ์ดจอ 4 GB Ollama ใส่โมเดลลงการ์ดจอแค่ราว 2 ใน 3 (66 %) อีก 34 % รันบน CPU เลยช้ากว่า ส่วน LM Studio ใส่ลงการ์ดจอทั้งหมดให้เอง พอบังคับให้ Ollama ลงการ์ดจอเต็ม ความเร็วเท่ากันทันที เพราะข้างในทั้งคู่ใช้ llama.cpp ตัวเดียวกัน

เรื่องฟรีและสัญญาอนุญาต

ใช้ฟรีทั้งคู่ แต่ Ollama เป็นโอเพนซอร์ส (MIT) ส่วน LM Studio ไม่ใช่โอเพนซอร์ส และโมเดลแต่ละตัวมีสัญญาของตัวเอง เช่น Qwen3-4B ใช้ Apache-2.0

หม่ำตัดสิน: มีการ์ดจอและอยากใช้ง่าย เลือก LM Studio ส่วนไม่มีการ์ดจอ หรือจะเขียนโค้ดต่อ เลือก Ollama

วัดเองบนเครื่องเดียว ผลบนเครื่องอื่นอาจต่าง โหมด CPU ใช้ค่า thread เริ่มต้นของแต่ละตัว ไม่ได้ปรับ

วิธีฉบับเต็ม

สคริปต์วัดความเร็วที่หม่ำใช้ในคลิป พร้อมวิธีตั้งให้ Ollama ลงการ์ดจอเต็ม ทีละขั้น

เร็ว ๆ นี้ จะเปิดให้รับทางอีเมล