วิธีการติดตั้งและเรียกใช้ LLM ในเครื่องโทรศัพท์ Android

การรันโมเดลภาษาขนาดใหญ่ (LLM)ในเครื่องโทรศัพท์ Android ของคุณหมายความว่าคุณสามารถเข้าถึงโมเดล AI เหล่านั้นได้โดยไม่ต้องพึ่งพาเซิร์ฟเวอร์คลาวด์หรือ การเชื่อม ต่ออินเทอร์เน็ตการตั้งค่าในเครื่องนี้รับประกันความเป็นส่วนตัวโดยเก็บข้อมูลของคุณให้ปลอดภัยและอยู่ในอุปกรณ์ ด้วยความก้าวหน้าของฮาร์ดแวร์มือถือ การรันโมเดล AI ในเครื่องจึงกลายเป็นความจริงแล้ว แอป MLC Chat ช่วยให้คุณสัมผัสกับเทคโนโลยีอันทรงพลังนี้ได้อย่างง่ายดายบนโทรศัพท์ของคุณ

บทความนี้จะอธิบายความสำคัญของการรัน LLM ในเครื่องบนโทรศัพท์ Android และให้คำแนะนำแบบทีละขั้นตอนในการติดตั้งและรันโดยใช้แอป MLC Chat

เหตุใดจึงต้องใช้ LLM บนโทรศัพท์ Android?

โดยทั่วไปแล้ว LLM จะทำงานบนเซิร์ฟเวอร์บนคลาวด์ เนื่องจากต้องใช้พลังการประมวลผลจำนวนมาก แม้ว่าโทรศัพท์ Android จะมีข้อจำกัดบางประการเมื่อใช้งาน LLM แต่ก็ยังเปิดโอกาสที่น่าสนใจบางอย่างอีกด้วย

• ความเป็นส่วนตัวที่ได้รับการปรับปรุง : เนื่องจากการประมวลผลทั้งหมดเกิดขึ้นบนโทรศัพท์ของคุณ ข้อมูลของคุณจึงอยู่ในเครื่องคอมพิวเตอร์ภายในเครื่อง ซึ่งเป็นสิ่งสำคัญสำหรับข้อมูลละเอียดอ่อนใดๆ ที่คุณแชร์
• การเข้าถึงแบบออฟไลน์ : ไม่จำเป็นต้องเชื่อมต่ออินเทอร์เน็ตอย่างต่อเนื่องเพื่อเข้าถึงหรือโต้ตอบกับโมเดลเหล่านี้ สิ่งนี้มีประโยชน์อย่างยิ่งสำหรับผู้ใช้ในพื้นที่ห่างไกลหรือผู้ที่มีการเชื่อมต่ออินเทอร์เน็ตจำกัด
• ประหยัดต้นทุน : การรัน LLM บนเซิร์ฟเวอร์ระบบคลาวด์นั้นมีต้นทุนในการดำเนินการ เช่น พื้นที่เก็บข้อมูลบนคลาวด์และพลังการประมวลผล วิธีนี้เป็นโซลูชันที่คุ้มต้นทุนสำหรับผู้ใช้

คู่มือทีละขั้นตอนในการติดตั้งและเรียกใช้ MLC Chat บน Android

แอปพลิเคชั่น MLC Chat ได้รับการออกแบบเพื่อให้ผู้ใช้สามารถรันและโต้ตอบกับโมเดลภาษาขนาดใหญ่ (LLM) ในเครื่องบนอุปกรณ์ต่างๆ รวมถึงโทรศัพท์มือถือ โดยไม่ต้องพึ่งพาบริการบนคลาวด์ ทำตามขั้นตอนต่อไปนี้เพื่อเรียกใช้ LLM ในเครื่องบนอุปกรณ์ Android ของคุณ

ขั้นตอนที่ 1: ติดตั้งแอปพลิเคชัน MLC Chat

ขั้นแรกคุณจะต้องดาวน์โหลด APK สำหรับแอป MLC Chat (112MB) จากลิงก์ด้านล่าง

ไฟล์ APK แอปพลิเคชัน MLC Chat

เมื่อดาวน์โหลด APK เสร็จแล้ว ให้แตะที่ไฟล์เพื่อเริ่มการติดตั้ง

ขั้นตอนที่ 2: ดาวน์โหลด LLM

หลังจากติดตั้งแอปสำเร็จแล้ว ให้เปิดแอปแล้วคุณจะเห็นรายการ LLM ที่สามารถดาวน์โหลดได้ มีโมเดลที่มีขนาดและความสามารถแตกต่างกัน เช่น LLama-3.2, Phi-3.5 และ Mistral เลือกโมเดลตามความต้องการของคุณแล้วคลิกไอคอนดาวน์โหลดถัดจากนั้นเพื่อเริ่มดาวน์โหลด ตัวอย่างเช่น หากคุณใช้โทรศัพท์ระดับกลางอย่าง Redmi Note 10 ให้เลือกรุ่นน้ำหนักเบา เช่น Qwen-2.5 เพื่อประสิทธิภาพที่ราบรื่นยิ่งขึ้น

ขั้นตอนที่ 3: เรียกใช้ LLM ที่ติดตั้งแล้ว

เมื่อดาวน์โหลดโมเดลเสร็จแล้ว ไอคอนแชทจะปรากฏถัดจากนั้น คลิกที่ไอคอนเพื่อเริ่มสร้างแบบจำลอง

เมื่อแบบจำลองพร้อมแล้ว คุณสามารถเริ่มพิมพ์คำแนะนำและโต้ตอบกับ LLM ในเครื่องได้

ตัวอย่างเช่น ในอุปกรณ์อย่าง Redmi Note 10 การรันรุ่นเล็กกว่าอย่าง Qwen2.5 จะให้ประสบการณ์ที่ราบรื่นพอสมควร โดยสร้างโทเค็นได้ประมาณ 1.4 โทเค็นต่อวินาที แม้ว่าประสิทธิภาพนี้จะช้ากว่าอุปกรณ์ระดับไฮเอนด์อย่างGalaxy S23 Ultraแต่ก็ยังทำงานได้ดีสำหรับงานพื้นฐานเช่นการสนทนาสั้นๆ และการสร้างเนื้อหาง่ายๆ

การรัน LLM ในเครื่องบนอุปกรณ์ Android ผ่านแอป MLC Chat ช่วยให้เข้าถึงได้และมีความเป็นส่วนตัวในการโต้ตอบกับโมเดล AI ประสิทธิภาพการทำงานนั้นขึ้นอยู่กับฮาร์ดแวร์โทรศัพท์เป็นอย่างมาก โซลูชันนี้เหมาะอย่างยิ่งสำหรับผู้ใช้ที่ต้องการเข้าถึงโมเดล AI แบบออฟไลน์ ทดสอบ LLM แบบเรียลไทม์ หรือกังวลเกี่ยวกับความเป็นส่วนตัว ในขณะที่ฮาร์ดแวร์มือถือยังคงพัฒนาต่อไป ความสามารถของ LLM ในท้องถิ่นจะขยายตัวเพิ่มขึ้นเรื่อยๆ ทำให้เป็นแนวโน้มที่น่าตื่นเต้นสำหรับเทคโนโลยี AI