Aus dem Kurs: KI-Agenten mit n8n erstellen

Erhalten Sie Zugriff auf diesen Kurs – mit einer kostenlosen Probeversion

Werden Sie noch heute Mitglied und erhalten Sie Zugriff auf mehr als 24.900 Kurse von Branchenfachleuten.

Lokale LLMs über Ollama anbinden

Lokale LLMs über Ollama anbinden – Tutorial zu n8n

Aus dem Kurs: KI-Agenten mit n8n erstellen

Gratismonat starten Für Ihr Team erwerben

Lokale LLMs über Ollama anbinden

“

Um lokale LLMs in Ihren AI-Agents in N8N einzusetzen, empfehle ich Ihnen, über Ollama zu arbeiten. Um allerdings lokale Sprachmodelle mal schnell auszutesten, können Sie auch mit der OpenRouter Chat Node arbeiten. Bei der Modellauswahl finden sich also zahlreiche Modelle, darunter auch Open-Source-Modelle wie z.B. die LLaMA-Modelle vom Meta, DeepSeek-Modelle oder auch Open-Source-Lösungen von Qwen. Selbst von OpenAI gibt es ein Open Source- und Open Weight-Modell, das GPT OSS Model. Das gibt es sowohl in einer kleineren als auch größeren Variante, unterschieden wird hier 20 Milliarden und 120 Milliarden Parameter. Wichtig ist natürlich, wenn Sie jetzt hier über Open Router arbeiten, können Sie zwar dieses GPT OSS Model anbinden, was an sich Open Weight und Open Source ist, allerdings läuft die Verarbeitung nicht lokal, sondern immer noch in der Cloud-Infrastruktur von Open Router bzw. deren Partner. Gehen Sie daher auf die Webseite von Ollama und hier finden Sie also diverse Open…

Inhalt