เส้นทางการตั้งค่าการปฏิบัติ
วิธีที่เชื่อถือได้มากที่สุดในการใช้โมเดลในเครื่องกับ Cursor.ai คือการคิดที่จุดปลาย ไม่ใช่ชื่อรุ่นก่อน เวิร์กโฟลว์การเขียนโค้ดสไตล์ Cursor จำเป็นต้องมีผู้ให้บริการโมเดลที่สามารถตอบสนองการแชทหรือคำขอการเขียนโค้ดผ่าน API ที่เข้ากันได้ รันไทม์ในเครื่อง เช่น Ollama และ LM Studio สามารถเปิดเผยตำแหน่งข้อมูล OpenAI-compatible ได้ ดังนั้นรูปแบบการตั้งค่าที่คงทนจึงเป็นเรื่องง่าย: รันโมเดลในเครื่อง ยืนยันว่าตำแหน่งข้อมูลในเครื่องทำงานได้ จากนั้นชี้เวิร์กโฟลว์การเขียนโค้ดไปที่ตำแหน่งข้อมูลนั้นเมื่อแอปรองรับการกำหนดค่าโมเดลที่กำหนดเอง
สิ่งนี้แตกต่างจากการถามว่าในทางเทคนิคแล้วโมเดลสามารถดาวน์โหลดได้หรือไม่ โมเดลในเครื่องอาจพอดีกับดิสก์และยังคงเป็นตัวเลือก Cursor.ai ที่แย่หากช้า การแก้ไขโค้ดไม่มีประสิทธิภาพ หรือไม่สามารถทำตามคำแนะนำของโปรเจ็กต์ได้ การตั้งค่าแรกที่ดีที่สุดคือแบบอนุรักษ์นิยม: เลือกรุ่นที่สามารถเขียนโค้ดได้ที่เหมาะกับเครื่องของคุณ เก็บเซิร์ฟเวอร์บน localhost และทดสอบบนพื้นที่เก็บข้อมูลจริงขนาดเล็กก่อนที่จะใช้งานในแต่ละวัน
เลือกเซิร์ฟเวอร์ภายในเครื่องก่อน
Ollama สะดวกเมื่อคุณต้องการเวิร์กโฟลว์ที่ขับเคลื่อนด้วยคำสั่งและ API ภายในแบบธรรมดา LM Studio สะดวกเมื่อคุณต้องการเบราว์เซอร์โมเดลกราฟิก การดาวน์โหลดโมเดล การทดสอบแชท และเซิร์ฟเวอร์ภายในเครื่องจากแอปเดียวกัน LM Studio จัดทำเอกสารจุดสิ้นสุด OpenAI-compatible โดยที่ไคลเอ็นต์ OpenAI สามารถใช้รูปร่างไคลเอ็นต์เดิมซ้ำได้โดยการเปลี่ยน base URL เป็นเซิร์ฟเวอร์ภายในเครื่อง Ollama ยังจัดทำเอกสารการสนับสนุน OpenAI-compatible API สำหรับเวิร์กโฟลว์โลคัล
แนวคิดหลักคือ base URL ในการตั้งค่าภายในเครื่อง URL นั้นมักจะชี้ไปที่ localhost เช่นเซิร์ฟเวอร์ LM Studio บนพอร์ต 1234 หรือเซิร์ฟเวอร์ Ollama บนพอร์ตภายในเครื่อง การตั้งค่า Cursor.ai ที่แน่นอนสามารถเปลี่ยนแปลงได้ ดังนั้นควรหลีกเลี่ยงการสร้างกระบวนการทั้งหมดโดยใช้ภาพหน้าจอเดียว ให้ตรวจสอบสามสิ่งแทน: เซิร์ฟเวอร์ภายในกำลังทำงานอยู่ เซิร์ฟเวอร์ยอมรับชื่อโมเดล และคำขอให้เสร็จสิ้นเล็กน้อยจะส่งกลับคำตอบที่เป็นประโยชน์
เลือกโมเดลการเขียนโค้ดก่อนโมเดลแชทที่ใหญ่ขึ้น
สำหรับ Cursor.ai ความน่าเชื่อถือของโค้ดมีความสำคัญมากกว่าความนิยมในการแชททั่วไป ชอบโมเดลที่ได้รับการปรับแต่งสำหรับการเขียนโค้ด การปฏิบัติตามคำแนะนำ การดีบัก และการแก้ไขที่มีโครงสร้าง โมเดลการเขียนโค้ดที่มีขนาดเล็กจะมีประโยชน์มากกว่าโมเดล Assistant ทั่วไปที่มีขนาดใหญ่กว่า หากทำให้เกิดข้อผิดพลาดทางไวยากรณ์น้อยลง เป็นไปตามข้อจำกัด และตอบสนองเร็วเพียงพอสำหรับการพัฒนาเชิงโต้ตอบ
ฮาร์ดแวร์ยังคงตั้งเพดาน บน 8GB VRAM ให้เริ่มต้นจากจุดเล็กๆ และรักษาความคาดหวังของบริบทให้พอประมาณ ใน 12GB ถึง 16GB, 7B และโมเดลการเข้ารหัส 14B บางรุ่นจะใช้งานได้จริงมากขึ้น บน 24GB หรือระบบที่ใหญ่กว่า โมเดลที่แข็งแกร่งกว่าและระดับปริมาณที่สูงกว่าจะทดสอบได้ง่ายขึ้น หน่วยความจำรวม Apple Silicon สามารถใส่รุ่นขนาดใหญ่ได้ แต่หน่วยความจำและแบนด์วิธที่ใช้ร่วมกันยังคงส่งผลต่อความเร็ว
ทดสอบ Cursor.ai กับงานจริง
อย่าตัดสินการตั้งค่าด้วยพรอมต์ทั่วไปเพียงข้อความเดียว ทดสอบโมเดลในงานเดียวกับที่คุณคาดหวังให้ Cursor.ai ช่วย: อธิบายข้อผิดพลาด แก้ไขฟังก์ชัน เขียนการทดสอบหน่วย สรุปไฟล์ และทำตามกฎของโครงการ หากโมเดลเพิกเฉยคำสั่งหรือประดิษฐ์ API โมเดลนั้นจะไม่พร้อมสำหรับการเขียนโค้ดแม้ว่าจะโหลดได้สำเร็จก็ตาม
วัดเวลาแฝงและคุณภาพคำตอบ โมเดลที่ให้คำตอบที่ชัดเจนหลังจากล่าช้าเป็นเวลานานอาจมีประโยชน์สำหรับการตรวจสอบแบบเทียบเคียงกัน แต่จะน่าหงุดหงิดสำหรับการเขียนโค้ดแบบอินไลน์ หากโมเดลต้องการการถ่ายข้อมูล CPU จำนวนมาก โมเดลที่เร่งความเร็วเต็มที่ขนาดเล็กกว่าจะรู้สึกดีขึ้น จดบันทึกเกี่ยวกับชื่อรุ่น ปริมาณ การตั้งค่าบริบท เซิร์ฟเวอร์ภายในเครื่อง และดูว่าผลลัพธ์ที่ได้นั้นสะดวกหรือไม่
การตรวจสอบความเป็นส่วนตัวและความปลอดภัย
โมเดลโลคัลสามารถลดการเปิดเผยโค้ดส่วนตัวได้ แต่เฉพาะในกรณีที่เวิร์กโฟลว์เป็นแบบโลคัลจริงๆ ให้เซิร์ฟเวอร์เชื่อมโยงกับ localhost เว้นแต่คุณจะตั้งใจรักษาความปลอดภัยการเข้าถึงเครือข่าย ตรวจสอบว่าผู้ให้บริการพร็อกซี ส่วนขยาย หรือโมเดลภายนอกยังคงได้รับข้อความแจ้งหรือไม่ อย่าวางข้อมูลลับ คีย์การผลิต หรือข้อมูลลูกค้าลงในพรอมต์เพียงเพราะไฟล์โมเดลอยู่ในเครื่อง
ตรวจสอบใบอนุญาตรุ่นก่อนใช้เอาต์พุตในโค้ดเชิงพาณิชย์ การดำเนินการในเครื่องไม่ได้หมายถึงการใช้งานที่ไม่จำกัดโดยอัตโนมัติ การ์ดโมเดล เอกสารรันไทม์ และนโยบายบริษัทของคุณควรเป็นส่วนหนึ่งของรายการตรวจสอบการตั้งค่า
FAQ
Cursor.ai สามารถใช้ LLM ท้องถิ่นได้หรือไม่ สามารถใช้กับเวิร์กโฟลว์โมเดลในเครื่องได้เมื่อแอปหรือเครื่องมือโดยรอบรองรับปลายทางที่เข้ากันได้ แต่การตั้งค่าที่แน่นอนอาจเปลี่ยนแปลง ดังนั้นให้ตรวจสอบพฤติกรรมของ Cursor.ai ในปัจจุบัน
ฉันควรใช้ Ollama หรือ LM Studio หรือไม่ ใช้ Ollama หากคุณต้องการคำสั่งและแท็กโมเดลแบบธรรมดา ใช้ LM Studio หากคุณต้องการเบราว์เซอร์โมเดลกราฟิกและการควบคุมเซิร์ฟเวอร์ภายในเครื่องในแอปเดียว
ฉันควรเริ่มต้นด้วยรุ่นใด? เริ่มต้นด้วยโมเดลที่ปรับแต่งโค้ดที่เหมาะกับฮาร์ดแวร์ของคุณอย่างสมบูรณ์และตอบสนองอย่างรวดเร็ว จากนั้นเปรียบเทียบตัวแปรที่ใหญ่กว่าหลังจากที่พื้นฐานเสถียรแล้วเท่านั้น
ขั้นตอนการแก้ไขปัญหาขั้นแรกคืออะไร? ยืนยันว่าเซิร์ฟเวอร์ภายในเครื่องตอบคำของ่ายๆ ภายนอก Cursor.ai หากจุดสิ้นสุดล้มเหลว การรวมตัวแก้ไขไม่ใช่ปัญหาต้นตอ