Ein local-first KI-Agent läuft auf dem eigenen Rechner statt in der Cloud eines Anbieters. Was das bedeutet, wie sich local-first zu Cloud- und Self-Hosting-Setups verhält und warum das für Datenschutz, Kosten und Kontrolle zählt.
Local-first ist mehr als die Frage, wo ein Programm startet. An einem Agenten hängen vier Teile: die Ablaufsteuerung, die plant und entscheidet, das Gedächtnis, das dabei entsteht, die Tools, die er ausführt, und das Sprachmodell, mit dem er denkt. Bei Veyllo (VAF) laufen die ersten drei immer auf der eigenen Hardware. Das Modell ist die einzige Stelle mit einer Wahl zwischen lokal und gehostet. Genau diese Trennung unterscheidet local-first von einem Cloud-Agenten, bei dem alle vier beim Anbieter liegen.
Drei Arten, einen Agenten zu betreiben, und wo die Daten dabei liegen.
Läuft vollständig auf den Servern eines Anbieters. Der Einstieg ist bequem, aber Daten, Kontext und Keys liegen beim Anbieter, und damit auch der Schalter: Eine Störung, geänderte Bedingungen oder ein gesperrtes Konto legen den Agenten still, aus welchem Grund auch immer.
Läuft auf eigener Infrastruktur, meist auf einem selbst verwalteten Server. Die Kontrolle bleibt auf der eigenen Seite, dafür will der Server betrieben und gepflegt werden.
Läuft auf dem eigenen Rechner, in einem eigenen Fenster. Der Installer richtet einen lokalen Server samt Konto ein, die Daten bleiben vor Ort. Keine entfernte Infrastruktur, die bereitgestellt oder gewartet werden muss. Bei Veyllo ist das die Voreinstellung.
Local-first und Self-Hosting überschneiden sich: Beide behalten die Kontrolle auf der eigenen Seite. Local-first heißt darüber hinaus, dass der Agent dort läuft, wo gearbeitet wird, auf dem Gerät selbst. Mit Veyllo geht beides, lokal betreiben oder die Harness auf dem eigenen Server hosten.
Local-first heißt nicht Einzelperson. Schon die Desktop-App öffnet sich mit einem Schalter ins Netzwerk, eine separate Server-Installation braucht es nicht. Der eigene Rechner, ein freier Rechner zu Hause oder ein Firmenserver wird zum Host, und alle im LAN erreichen ihn über HTTPS.
vaf server on ausführen, und VAF ist im LAN über HTTPS erreichbar. Eine normale Desktop-Installation genügt, ein separater Server ist nicht nötig.Alles andere an einem local-first Agenten ist damit geklärt. Das hier ist die Entscheidung, die tatsächlich bei Ihnen liegt, und sie lässt sich später ändern.
Veyllo macht lokal aus einem Sprachmodell einen arbeitenden Agenten: ein dauerhaftes Vektor-Gedächtnis über Sitzungen hinweg, ein vollständiger Satz Tools für Web, Code, Dateien und Browser, dazu alles, was über MCP hinzukommt, delegierbare Sub-Agents und Code-Ausführung in der Sandbox. Betrieben wird das mit einem lokalen Modell oder mit der gehosteten, OpenAI-kompatiblen Veyllo API als Cloud-Backend. Open Source unter AGPL-3.0, eine kommerzielle Lizenz gibt es dazu.
Ablaufsteuerung, Gedächtnis und Tools laufen auf dem eigenen Gerät, allein das Modell darf woanders sitzen, wenn ein gehostetes gewählt wird. Bei einem Cloud-Agenten liegt alles davon beim Anbieter, inklusive des Kontexts jeder einzelnen Anfrage.
Sie überschneiden sich darin, wer die Kontrolle hat, nicht darin, wo gearbeitet wird. Self-Hosting verlagert die Software auf einen selbst verwalteten Server, local-first legt sie auf den Rechner, vor dem man sitzt, ganz ohne Server. Veyllo kann beides, und der selbst gehostete Host bedient ein ganzes Team.
Nein. Veyllo ist local-first: Der Agent lässt sich vollständig auf dem eigenen Rechner betreiben, Modelle eingeschlossen. Die gehostete Veyllo API ist optional und liefert die Modelle, auf denen VAF läuft (Text, Bild und Sprache), wenn eigene Modelle nicht infrage kommen.
Ja. Mit eingeschalteter Netzwerkfreigabe ist VAF im LAN über HTTPS erreichbar, auch aus einer normalen Desktop-Installation heraus. Jede Person bekommt ein eigenes Konto mit abgetrenntem Gedächtnis und eigenen Aufgaben, ein Host bedient also alle, ohne Abo pro Nutzer.
Ja. Die Veyllo API ist OpenAI-kompatibel. Ein beliebiges OpenAI SDK oder einen HTTP-Client auf api.veyllo.app/v1 richten und den Veyllo-Key verwenden. Chat und Bild werden unterstützt.
Ja. VAF liegt auf PyPI: pip install --pre vaf holt die Kern-Runtime, und darauf lassen sich eigene KI-Agenten, Tools und Lösungen bauen, samt eigener Harness. Optionale Extras wie der Server oder der Gedächtnis-Stack installieren sich genauso, und der Embedding-Guide in der VAF-Doku führt Schritt für Schritt hindurch. Das Flag --pre ist nötig, solange VAF in der Alpha ist.
Das Veyllo Agent Framework (VAF) ist dual lizenziert: AGPL-3.0 für den Open-Source-Einsatz, dazu eine kommerzielle Lizenz für Teams, die andere Bedingungen brauchen.
Veyllo läuft unter macOS, Windows und Linux, als Desktop-App, auf einem Server oder im Terminal.