Veyllo

Local-first KI-Agenten

Ein local-first KI-Agent läuft auf deinem eigenen Rechner statt in der Cloud eines Anbieters. Hier erfährst du, was dahintersteckt, wie sich local-first von Cloud und Self-Hosting unterscheidet und warum das für Datenschutz, Kosten und Kontrolle wichtig ist.

Welche Teile laufen wirklich lokal?

Bei local-first geht es um mehr als die Frage, wo ein Programm startet. Ein Agent besteht aus vier Teilen: der Steuerlogik, die plant und entscheidet, dem Gedächtnis, das er aufbaut, den Tools, die er ausführt, und dem Sprachmodell, mit dem er denkt. Bei Veyllo (VAF) laufen die ersten drei immer auf deiner eigenen Hardware. Nur beim Modell hast du die Wahl zwischen lokal und gehostet. Genau in dieser Aufteilung liegt der Unterschied zu einem Cloud-Agenten, bei dem alle vier Teile beim Anbieter laufen.

Cloud, Self-Hosting und local-first

Es gibt drei Arten, einen Agenten zu betreiben. Hier siehst du, wo deine Daten jeweils liegen.

Cloud-Agent

Läuft komplett auf den Servern eines Anbieters. Der Einstieg ist bequem, aber Daten, Kontext und Keys liegen beim Anbieter, und damit liegt auch der Ausschalter bei ihm. Ein Ausfall, geänderte Bedingungen oder ein gesperrtes Konto, und der Agent steht still, egal aus welchem Grund.

Selbst gehosteter Agent

Läuft auf deiner eigenen Infrastruktur, meist auf einem Server, den du selbst verwaltest. Die Kontrolle liegt bei dir, dafür musst du den Server aber auch betreiben und warten.

Local-first Agent

Läuft auf deinem Rechner, in einem eigenen Fenster. Der Installer richtet für dich einen lokalen Server und ein Konto ein, und deine Daten bleiben bei dir. Du musst keine Remote-Infrastruktur aufsetzen oder warten. So läuft Veyllo standardmäßig.

Local-first und Self-Hosting überschneiden sich, denn bei beiden behältst du die Kontrolle. Local-first heißt aber konkret, dass der Agent dort läuft, wo du bist, also auf deinem Gerät. Mit Veyllo kannst du beides: VAF lokal nutzen oder auf deinem eigenen Server selbst hosten.

Ein Host für dein ganzes Team.

Local-first heißt nicht, dass nur eine Person damit arbeitet. Schon die Desktop-App gibst du mit einem Schalter im Netzwerk frei, eine separate Server-Installation brauchst du nicht. Dein Rechner, ein PC zu Hause oder ein Firmenserver wird zum Host, und alle im LAN erreichen ihn per HTTPS.

✓
Mit einem Schalter freigeben. Ein Schalter in der App oder vaf server on im Terminal, und VAF ist in deinem LAN per HTTPS erreichbar. Dafür reicht eine normale Desktop-Installation, einen separaten Server brauchst du nicht.
✓
Ein eigenes Konto pro Person. Jede Person bekommt einen eigenen Bereich mit getrenntem Gedächtnis, eigenen Aufgaben und Einstellungen. Niemand sieht die Daten der anderen.
✓
Kein Abo pro Nutzer. Eine Instanz versorgt das ganze Team oder den ganzen Haushalt. Du betreibst sie einmal, statt für jede Person zu zahlen.

Was du davon hast.

✓
Prompts bleiben, wo sie entstehen. Text, der deinen Rechner nicht verlässt, kann niemand protokollieren, aufbewahren, fürs Training nutzen oder auf Anfrage herausgeben. Mit einem lokalen Modell gilt das für die komplette Verarbeitung, nicht nur für die Speicherung.
✓
Kein Anbieter zwischen dir und deiner Arbeit. Niemand kann die Preise erhöhen, dein Modell abschalten, Rate-Limits ändern oder ein Konto sperren. Was heute läuft, läuft auch nächstes Jahr noch, mit denselben Modellgewichten.
✓
Strom statt Tokens. Mit einem lokalen Modell zahlst du nicht pro Token. Lange Kontexte, wiederholte Läufe und Batch-Jobs über Nacht kosten nur den Strom für deine Hardware, und genau das macht geplante und mehrstufige Aufgaben bezahlbar.
✓
Funktioniert auch offline. Im Zug oder in einem abgeschotteten Netzwerk arbeitet der Agent mit einem lokalen Modell weiter, samt Gedächtnis und Dateien.

Lokales oder gehostetes Modell?

Alles andere ist bei einem local-first Agenten schon festgelegt. Diese Entscheidung liegt wirklich bei dir, und du kannst sie später noch ändern.

✓
Lokales Modell. Läuft auf deiner eigenen GPU oder CPU. Nichts verlässt den Rechner, und es gibt keine Token-Abrechnung. Tempo und Qualität hängen von deiner Hardware ab. Kleine Modelle sind gut für Entwürfe, Zusammenfassungen und Dateiarbeit im Alltag, für anspruchsvolles Reasoning brauchst du eine starke GPU.
✓
Gehostetes Modell. Der Agent läuft weiter lokal, nur der Aufruf ans Modell geht nach draußen. So kommst du an Spitzenmodelle, ohne Hardware zu kaufen, und zahlst pro Token. Der Prompt und alle angehängten Dateien gehen dabei an den Modell-Anbieter.
✓
Beides, je nach Aufgabe. Meistens läuft es gemischt: das lokale Modell für Routine und Vertrauliches, ein gehostetes für die harten Fälle. Der Wechsel kostet eine Zeile Konfiguration, die Entscheidung ist also nie endgültig.

Was Veyllo um das Modell herum baut.

Veyllo macht aus einem Sprachmodell einen Agenten, der lokal für dich arbeitet. Dazu gehören ein vektorbasiertes Langzeitgedächtnis, ein komplettes Toolset für Web, Code, Dateien und Browser plus alles, was du per MCP anbindest, Sub-Agents für delegierte Aufgaben und Code-Ausführung in einer Sandbox. Du kannst ein lokales Modell nutzen oder die gehostete, OpenAI-kompatible Veyllo API, wenn du ein Cloud-Backend willst. Veyllo ist Open Source unter AGPL-3.0, eine kommerzielle Lizenz gibt es auch.

Fragen und Antworten.

Was ist ein local-first KI-Agent?

Bei einem local-first KI-Agenten laufen Steuerlogik, Gedächtnis und Tools auf deinem Gerät. Nur das Modell kann woanders sitzen, wenn du ein gehostetes wählst. Bei einem Cloud-Agenten liegt dagegen alles auf den Servern des Anbieters, auch der Kontext jeder einzelnen Anfrage.

Ist local-first dasselbe wie Self-Hosting?

Nicht ganz. Bei beiden hast du die Kontrolle, aber die Software läuft an einem anderen Ort. Beim Self-Hosting ist das ein Server, den du selbst verwaltest, bei local-first der Rechner direkt vor dir, und du musst keinen Server aufsetzen. Veyllo kann beides, und eine selbst gehostete Installation kann ein ganzes Team bedienen.

Muss ich meine Daten in die Cloud schicken, um Veyllo zu nutzen?

Nein. Veyllo ist local-first, du kannst den Agenten also komplett auf deinem eigenen Rechner betreiben, inklusive der Modelle. Die gehostete Veyllo API ist optional und liefert dir die Modelle, auf denen VAF läuft (Text, Bild und Sprache), falls du keine eigenen betreiben willst.

Können mehrere Personen eine Veyllo-Installation nutzen?

Ja. Schalte die Netzwerkfreigabe ein, dann ist VAF in deinem LAN per HTTPS erreichbar, auch bei einer ganz normalen Desktop-Installation. Jede Person bekommt ein eigenes Konto mit getrenntem Gedächtnis und eigenen Aufgaben. So bedient ein Host alle, ohne Abo pro Nutzer.

Kann ich das OpenAI SDK mit der Veyllo API nutzen?

Ja. Die Veyllo API ist OpenAI-kompatibel. Setz in einem beliebigen OpenAI SDK oder HTTP-Client die Base-URL auf api.veyllo.app/v1 und nutze deinen Veyllo-Key. Chat und Bild werden unterstützt.

Kann ich mit VAF eigene KI-Agenten bauen?

Ja. VAF gibt es auf PyPI: pip install --pre vaf installiert die Kern-Runtime, und darauf kannst du eigene KI-Agenten, Tools und Lösungen bauen, samt eigenem Harness. Optionale Extras wie der Server oder der Gedächtnis-Stack lassen sich genauso installieren, und die Embedding-Anleitung in der VAF-Doku erklärt das Schritt für Schritt. Das Flag --pre brauchst du, solange VAF in der Alpha ist.

Welche Lizenz nutzt Veyllo?

Das Veyllo Agentic Framework (VAF) ist dual lizenziert: AGPL-3.0 für den Open-Source-Einsatz, dazu eine kommerzielle Lizenz für Teams, die andere Bedingungen brauchen.

Welche Betriebssysteme unterstützt Veyllo?

Veyllo läuft unter macOS, Windows und Linux, als Desktop-App, auf einem Server oder im Terminal.