Cursor สามารถใช้โมเดลในเครื่องได้ แต่ความคาดหวังก็มีความสำคัญ
การใช้ Cursor กับ LLM ในเครื่องนั้นน่าสนใจ เนื่องจากข้อความแจ้งการเข้ารหัส ไฟล์ส่วนตัว และการทดลองสามารถอยู่ใกล้เครื่องของคุณมากขึ้น เส้นทางปกติคือการรันโมเดลในเครื่องผ่านรันไทม์ เช่น Ollama หรือ LM Studio จากนั้นเชื่อมต่อเครื่องมือผ่าน OpenAI-compatible endpoint เมื่อเวิร์กโฟลว์รองรับ ซึ่งสามารถลดการพึ่งพาระบบคลาวด์และทำให้การทดลองถูกลง
ข้อเสียคือความสามารถและความน่าเชื่อถือ เวิร์กโฟลว์ Cursor อาจเกี่ยวข้องกับการแก้ไขโค้ด บริบทหลายไฟล์ ลักษณะการทำงานของเครื่องมือ และพร้อมท์แบบยาว โมเดลท้องถิ่นที่เหมาะกับการแชทอาจมีจุดอ่อนสำหรับการเขียนโค้ดจริง โมเดลที่โหลดผ่าน Ollama หรือ LM Studio อาจยังช้าเกินไปสำหรับการพัฒนาเชิงโต้ตอบ เป้าหมายไม่ใช่แค่การเชื่อมต่อ Cursor กับโมเดลโลคัลใดๆ เท่านั้น เป็นการเลือกรุ่นท้องถิ่นที่เป็นประโยชน์สำหรับโค้ดจริงๆ
ใช้ตำแหน่งข้อมูลภายในที่เข้ากันได้กับ OpenAI เมื่อเป็นไปได้
Ollama รองรับเอกสาร OpenAI-compatible API และ LM Studio เอกสาร OpenAI-compatible local server สิ่งนี้สำคัญเนื่องจากไคลเอ็นต์จำนวนมากคาดหวังการตั้งค่ารูปกุญแจ base URL ชื่อรุ่น และ API key ในเวิร์กโฟลว์ในเครื่อง base URL มักจะชี้ไปที่ localhost ในขณะที่คีย์อาจเป็นตัวยึดตำแหน่ง ขึ้นอยู่กับไคลเอ็นต์และเซิร์ฟเวอร์
การตั้งค่า Cursor ที่แน่นอนสามารถเปลี่ยนแปลงได้เมื่อเวลาผ่านไป ดังนั้นแนวคิดที่คงทนจึงมีความสำคัญมากกว่าภาพหน้าจอเดียว: เริ่มเซิร์ฟเวอร์ในเครื่อง ยืนยันว่าจะตอบคำขอให้แชทเสร็จสิ้น จากนั้นชี้เครื่องมือเขียนโค้ดไปที่จุดสิ้นสุดที่เข้ากันได้ หากเครื่องมืออนุญาตให้กำหนดค่าโมเดลแบบกำหนดเองได้ หากเครื่องมือไม่สามารถใช้จุดสิ้นสุดนั้นได้อย่างสมบูรณ์ ให้ใช้โมเดลในเครื่องสำหรับความช่วยเหลือในการเขียนโค้ดแบบเคียงข้างกัน แทนที่จะบังคับใช้ในทุกฟีเจอร์ Cursor
เลือกโมเดลการเขียนโค้ด ไม่ใช่แค่โมเดลแชทยอดนิยม
สำหรับงานสไตล์ Cursor ความสามารถในการเขียนโค้ดมีความสำคัญมากกว่าความนิยมทั่วไป มองหาโมเดลที่ได้รับการปรับแต่งโค้ด การทำตามคำแนะนำ การดีบัก และบริบทที่เพียงพอเพื่อรวมบันทึกข้อผิดพลาด เนื้อหาของฟังก์ชัน และคำแนะนำของโปรเจ็กต์ โมเดลการเขียนโค้ดขนาดเล็กอาจดีกว่าโมเดลการสนทนาทั่วไปที่มีขนาดใหญ่กว่าได้ หากสร้างข้อผิดพลาดทางไวยากรณ์น้อยลงและปฏิบัติตามข้อจำกัดของโค้ดได้อย่างน่าเชื่อถือมากขึ้น
ฮาร์ดแวร์ยังคงตัดสินเพดาน บน 8GB VRAM ให้ใช้รุ่นกะทัดรัดและคาดหวังบริบทที่จำกัด ใน 12GB ถึง 16GB, 7B และโมเดลการเขียนโค้ด 14B บางรูปแบบจะใช้งานได้จริงมากขึ้น บน 24GB หรือระบบที่ใหญ่กว่า โมเดลที่แข็งแกร่งกว่าและการหาปริมาณที่สูงกว่าจะมีความสมจริงมากขึ้น สำหรับ Apple Silicon หน่วยความจำแบบรวมจะขยายตัวเลือกต่างๆ แต่ไม่ได้ทำให้โมเดลขนาดใหญ่ทุกรุ่นเร็วขึ้น
ทดสอบด้วยงานเขียนโค้ดจริง
โมเดลโลคัลควรได้รับการทดสอบด้วยงาน Cursor ที่สมจริง: อธิบายข้อผิดพลาด ปรับโครงสร้างฟังก์ชัน เขียนการทดสอบขนาดเล็ก สรุปไฟล์ และปฏิบัติตามคำแนะนำเฉพาะโปรเจ็กต์ หากล้มเหลวในงานเหล่านี้ จำนวนการดาวน์โหลดที่สูงก็ไม่สำคัญ ขั้นตอนการเขียนโค้ดจะลงโทษข้อผิดพลาดเล็กๆ น้อยๆ มากกว่าการแชทแบบทั่วไป
ให้ความสนใจกับความล่าช้า การเขียนโค้ดเชิงโต้ตอบรู้สึกแย่เมื่อทุกคำตอบใช้เวลานานเกินไป หากโมเดลคุณภาพสูงกว่าใช้ CPU ออฟโหลดจำนวนมาก โมเดลที่มีการเร่งความเร็วเต็มที่ที่เล็กกว่าอาจจะดีกว่า เก็บรายชื่อรุ่นและการตั้งค่าที่ทดสอบไว้สั้นๆ เพื่อให้คุณสามารถเปรียบเทียบคุณภาพ ความเร็ว และความเสถียร แทนที่จะคาดเดา
การตรวจสอบความเป็นส่วนตัวและความปลอดภัย
โมเดลท้องถิ่นสามารถลดการเปิดเผยรหัสส่วนตัวได้ แต่เฉพาะในกรณีที่การตั้งค่าเป็นแบบท้องถิ่นและปลอดภัยเท่านั้น เก็บเซิร์ฟเวอร์ภายในที่เชื่อมโยงกับ localhost เว้นแต่คุณจะจงใจรักษาความปลอดภัยการเข้าถึงเครือข่าย อย่าวางความลับลงในข้อความแจ้ง ตรวจสอบว่าส่วนขยาย พร็อกซี หรือบริการที่เชื่อมต่อส่งข้อความแจ้งนอกเครื่องของคุณหรือไม่
ตรวจสอบใบอนุญาตก่อนใช้โมเดลเอาท์พุตในงานเชิงพาณิชย์ Local ไม่ได้หมายถึงไม่จำกัดโดยอัตโนมัติ การ์ดโมเดลบน Hugging Face หรือเพจไลบรารีรันไทม์ควรเป็นส่วนหนึ่งของรายการตรวจสอบการตั้งค่า โดยเฉพาะอย่างยิ่งหากคุณใช้โมเดลสำหรับโค้ดไคลเอ็นต์ เครื่องมือภายใน หรือเวิร์กโฟลว์ทางธุรกิจ
คำถามที่พบบ่อย
Cursor สามารถใช้ Ollama ได้หรือไม่ ผู้ใช้จำนวนมากเชื่อมต่อเวิร์กโฟลว์ Ollama ในเครื่องผ่าน OpenAI-compatible endpoints หรือเลเยอร์ตัวช่วย แต่การสนับสนุนและการตั้งค่า Cursor ที่แน่นอนสามารถเปลี่ยนแปลงได้ ดังนั้นให้ทดสอบลักษณะการทำงานของแอปปัจจุบัน
โมเดล Cursor ในเครื่องดีเท่ากับโมเดลการเข้ารหัสบนคลาวด์หรือไม่ โดยปกติแล้วไม่ใช่สำหรับงานที่ยากที่สุด แต่อาจมีประโยชน์สำหรับตัวอย่างส่วนตัว คำอธิบาย การรีแฟคเตอร์เล็กๆ น้อยๆ และการสนับสนุนแบบออฟไลน์
ฉันควรใช้โมเดลท้องถิ่นใดสำหรับ Cursor เริ่มต้นด้วยโมเดลที่ปรับแต่งโค้ดที่เหมาะกับฮาร์ดแวร์ของคุณอย่างสมบูรณ์และตอบสนองอย่างรวดเร็ว จากนั้นเปรียบเทียบตัวแปรที่แข็งแกร่งกว่าเฉพาะเมื่อความเร็วยังคงใช้งานได้
ฉันควรตรวจสอบอะไรก่อน? ยืนยันว่าโมเดลทำงานภายในเครื่อง ยืนยันปลายทางตอบสนอง ทดสอบพร้อมท์การเขียนโค้ดจริง และตรวจสอบว่าเซิร์ฟเวอร์ไม่ได้เปิดเผยต่อสาธารณะ