Der praktische Einrichtungsweg
Der zuverlässigste Weg, lokale Modelle mit Cursor.ai zu verwenden, besteht darin, in Endpunkten zu denken und nicht zuerst in Modellnamen. Für Codierungsworkflows im Cursor-Stil ist ein Modellanbieter erforderlich, der Chat- oder Codierungsanfragen über einen kompatiblen API beantworten kann. Lokale Laufzeiten wie Ollama und LM Studio können OpenAI-compatible-Endpunkte verfügbar machen, daher ist das dauerhafte Einrichtungsmuster einfach: Führen Sie das Modell lokal aus, bestätigen Sie, dass der lokale Endpunkt funktioniert, und verweisen Sie dann den Codierungsworkflow auf diesen Endpunkt, wenn die App die benutzerdefinierte Modellkonfiguration unterstützt.
Dies unterscheidet sich von der Frage, ob ein Modell technisch heruntergeladen werden kann. Ein lokales Modell passt möglicherweise auf die Festplatte und ist dennoch eine schlechte Cursor.ai-Wahl, wenn es langsam ist, bei Code-Bearbeitungen schwach ist oder Projektanweisungen nicht folgen kann. Die beste erste Einrichtung ist konservativ: Wählen Sie ein codierfähiges Modell, das vollständig zu Ihrem Computer passt, belassen Sie den Server auf localhost und testen Sie ihn in einem kleinen realen Repository, bevor Sie sich bei der täglichen Arbeit darauf verlassen.
Wählen Sie zunächst einen lokalen Server
Ollama ist praktisch, wenn Sie einen befehlsgesteuerten Workflow und ein einfaches lokales API wünschen. LM Studio ist praktisch, wenn Sie einen grafischen Modellbrowser, Modell-Downloads, Chat-Tests und einen lokalen Server über dieselbe App benötigen. LM Studio dokumentiert OpenAI-compatible-Endpunkte, bei denen OpenAI-Clients dieselbe Clientform wiederverwenden können, indem sie base URL auf den lokalen Server ändern. Ollama dokumentiert außerdem die OpenAI-compatible API-Unterstützung für lokale Workflows.
Das Schlüsselkonzept ist der base URL. In einem lokalen Setup verweist diese URL normalerweise auf localhost, z. B. einen LM Studio-Server an Port 1234 oder einen Ollama-Server an seinem lokalen Port. Die genauen Cursor.ai-Einstellungen können sich ändern. Vermeiden Sie es daher, Ihren gesamten Prozess auf einem Screenshot aufzubauen. Überprüfen Sie stattdessen drei Dinge: Der lokale Server läuft, der Modellname wird vom Server akzeptiert und eine kleine Abschlussanforderung gibt eine nützliche Antwort zurück.
Wählen Sie Codierungsmodelle vor größeren Chat-Modellen
Für Cursor.ai ist die Zuverlässigkeit des Codes wichtiger als die allgemeine Chat-Popularität. Bevorzugen Sie Modelle, die auf Codierung, Befolgung von Anweisungen, Debugging und strukturierte Bearbeitungen abgestimmt sind. Ein kleineres Codierungsmodell kann nützlicher sein als ein größeres allgemeines Assistentenmodell, wenn es weniger Syntaxfehler macht, Einschränkungen befolgt und schnell genug für die interaktive Entwicklung reagiert.
Die Hardware legt immer noch die Obergrenze fest. Fangen Sie bei 8GB VRAM klein an und halten Sie die Kontexterwartungen bescheiden. Auf 12GB bis 16GB, 7B und einigen 14B-Codierungsmodellen werden sie praktischer. Auf 24GB oder größeren Systemen lassen sich stärkere Modelle und höhere Quantisierungsstufen einfacher testen. Der einheitliche Speicher Apple Silicon kann für größere Modelle verwendet werden, aber gemeinsam genutzter Speicher und Bandbreite wirken sich dennoch auf die Geschwindigkeit aus.
Testen Sie Cursor.ai mit realen Aufgaben
Beurteilen Sie das Setup nicht anhand einer allgemeinen Eingabeaufforderung. Testen Sie das Modell bei denselben Aufgaben, bei denen Cursor.ai Ihnen helfen soll: Erklären Sie einen Fehler, bearbeiten Sie eine Funktion, schreiben Sie einen Komponententest, fassen Sie eine Datei zusammen und befolgen Sie eine Projektregel. Wenn das Modell Anweisungen ignoriert oder APIs erfindet, ist es selbst bei erfolgreichem Laden nicht für Codierungsarbeiten bereit.
Messen Sie die Latenz und die Antwortqualität. Ein Modell, das nach einer langen Verzögerung aussagekräftige Antworten liefert, kann für die Parallelüberprüfung nützlich sein, für die Inline-Codierung jedoch frustrierend. Wenn ein Modell eine starke CPU-Entlastung benötigt, kann sich ein kleineres, voll beschleunigtes Modell besser anfühlen. Machen Sie sich Notizen zu Modellname, Quantisierung, Kontexteinstellung, lokalem Server und ob das Ergebnis komfortabel war.
Datenschutz- und Sicherheitsprüfungen
Lokale Modelle können die Offenlegung von privatem Code reduzieren, allerdings nur, wenn der Workflow tatsächlich lokal ist. Halten Sie den Server an localhost gebunden, es sei denn, Sie sichern absichtlich den Netzwerkzugriff. Überprüfen Sie, ob ein Proxy, eine Erweiterung oder ein externer Modellanbieter weiterhin Eingabeaufforderungen erhält. Fügen Sie keine Geheimnisse, Produktionsschlüssel oder Kundendaten in eine Eingabeaufforderung ein, nur weil die Modelldatei lokal ist.
Überprüfen Sie auch die Modelllizenz, bevor Sie die Ausgabe in kommerziellem Code verwenden. Die lokale Ausführung bedeutet nicht automatisch eine uneingeschränkte Nutzung. Die Modellkarte, die Laufzeitdokumentation und Ihre Unternehmensrichtlinien sollten alle Teil der Setup-Checkliste sein.
FAQ
Kann Cursor.ai ein lokales LLM verwenden? Es kann mit lokalen Modell-Workflows verwendet werden, wenn die App oder die umgebenden Tools einen kompatiblen Endpunkt unterstützen. Die genauen Einstellungen können sich jedoch ändern. Überprüfen Sie daher das aktuelle Cursor.ai-Verhalten.
Sollte ich Ollama oder LM Studio verwenden? Verwenden Sie Ollama, wenn Sie Befehle und einfache Modell-Tags bevorzugen. Verwenden Sie LM Studio, wenn Sie einen grafischen Modellbrowser und lokale Serversteuerelemente in einer App wünschen.
Mit welchem Modell soll ich beginnen? Beginnen Sie mit einem auf die Codierung abgestimmten Modell, das vollständig zu Ihrer Hardware passt und schnell reagiert. Vergleichen Sie dann größere Varianten erst, wenn die Basislinie stabil ist.
Was ist der erste Schritt zur Fehlerbehebung? Bestätigen Sie, dass der lokale Server eine einfache Anfrage außerhalb von Cursor.ai beantwortet. Wenn der Endpunkt dort ausfällt, ist die Editor-Integration nicht das Hauptproblem.