Концепция

Local-first ИИ-агенты

Local-first ИИ-агент работает на вашем собственном компьютере, а не в облаке поставщика. Здесь разобрано, что это значит, чем такой агент отличается от облачных и self-hosted-вариантов и почему это важно для приватности, затрат и контроля.

Что именно работает локально?

Local-first — не только о том, где программа запускается. У агента четыре подвижные части: цикл управления, который планирует и принимает решения; память, которая накапливается; инструменты, которые он запускает; и языковая модель, которой он думает. В Veyllo (VAF) первые три всегда работают на вашем железе. Единственное место выбора между локальным и размещённым — модель. В этом разделении — вся разница с облачным агентом, где у поставщика находятся все четыре.

Разница

Облако, self-hosted и local-first

Три способа запустить агента — и где в каждом из них живут ваши данные.

Облачный агент

Работает целиком на серверах поставщика. Начать удобно, но данные, контекст и ключи — у него, как и рубильник: сбой, изменение условий или заблокированный аккаунт останавливают агента, какова бы ни была причина.

Self-hosted-агент

Работает на инфраструктуре, которую вы обслуживаете, — обычно на сервере под вашим управлением. Контроль на вашей стороне, но и сервер — ваша забота.

Local-first-агент

Работает на вашем собственном компьютере, в собственном окне. Установщик настраивает локальный сервер и аккаунт за вас, данные остаются у вас. Никакой удалённой инфраструктуры, которую нужно готовить и обслуживать. Так Veyllo работает по умолчанию.

Local-first и self-hosted пересекаются: в обоих случаях контроль на вашей стороне. Local-first означает именно то, что агент работает там, где вы, — на вашем устройстве. С Veyllo можно и так и так: работать локально или разместить harness на собственном сервере.

Локально — не значит в одиночку

Один хост — вся команда.

Local-first не означает одного человека. Даже настольное приложение открывается в сеть одним переключателем — без отдельной серверной установки. Ваш компьютер, свободная машина дома или сервер компании становится хостом, и все в локальной сети достигают его по HTTPS.

Server
Общий доступ — один переключатель. Щёлкните тумблер в приложении (или выполните vaf server on) — и VAF доступен в вашей сети по HTTPS. Достаточно обычной настольной установки, отдельный сервер не нужен.
Каждому — отдельный аккаунт. У каждого своё изолированное пространство: память, задачи и настройки — раздельные. Чужого не видит никто.
Без платы за каждого пользователя. Один экземпляр обслуживает всю команду или семью. Вы запускаете его один раз — вместо оплаты за каждого.
Почему это важно

Что это вам даёт.

Промпты, которые никуда не уходят. Текст, не покидающий компьютер, нельзя записать, сохранить, использовать для обучения или выдать по запросу. С локальной моделью это касается всей цепочки обработки, а не только хранения.
Между вами и работой нет поставщика. Никто не поднимет цены, не спишет модель, на которую вы полагаетесь, не изменит лимиты и не заблокирует аккаунт. Конфигурация, которая работает сегодня, работает и через год — с теми же весами модели.
Электричество вместо токенов. У локальной модели нет счёта за токены. Длинные контексты, повторные запуски и ночные пакеты стоят как простаивающий компьютер — потому регулярные и многошаговые задачи и становятся по карману.
Работает без связи. В поезде или в закрытой сети агент продолжает работать с локальной моделью — вместе с памятью и файлами.
Единственный настоящий выбор

Локальная модель или размещённая?

Всё остальное в local-first-агенте уже решено. Вот решение, которое действительно за вами, — и его можно поменять позже.

Локальная модель. Работает на вашем GPU или CPU. Ничто не покидает компьютер, счёта за токены нет; скорость и качество зависят от железа. Небольшие модели хорошо справляются с черновиками, сводками и файлами, а тяжёлые рассуждения требуют мощного GPU.
Размещённая модель. Агент по-прежнему работает локально — наружу уходит только вызов модели. Так передовые модели доступны без покупки железа, с оплатой за токены; промпт и приложенные файлы попадают к провайдеру модели.
Обе — и переключение по задаче. Большинство конфигураций в итоге смешанные: локальная модель для рутины и конфиденциального, размещённая — для сложных случаев. Переключение — одна строка конфигурации, так что выбор никогда не окончателен.
Как это делает Veyllo

Что Veyllo надстраивает над моделью.

Veyllo превращает языковую модель в работающего локально агента: постоянная векторная память, помнящая между сессиями; полный набор инструментов (веб, код, файлы, браузер) плюс всё, что вы подключите по MCP; субагенты, которым можно поручать работу; исполнение кода в песочнице. Запускайте на локальной модели — или направьте на размещённый, OpenAI-совместимый Veyllo API, когда нужен облачный бэкенд. Открытый исходный код, AGPL-3.0, доступна коммерческая лицензия.

Вопросы и ответы

Спрашивали — отвечаем.

Что такое local-first ИИ-агент?

Цикл управления, память и инструменты работают на вашем устройстве; в другом месте может находиться только модель — если вы выбрали размещённую. Облачный агент держит всё это на серверах поставщика, включая контекст каждого запроса.

Local-first — это то же самое, что self-hosting?

Они совпадают в том, у кого контроль, но различаются в том, где происходит работа. Self-hosting переносит софт на сервер под вашим управлением; local-first ставит его на компьютер перед вами — без сервера вовсе. Veyllo умеет и то и другое, а self-hosted-хост обслуживает целую команду.

Нужно ли отправлять данные в облако, чтобы пользоваться Veyllo?

Нет. Veyllo — local-first: агента можно запускать целиком на своём компьютере, включая модели. Размещённый Veyllo API — по желанию: он поставляет модели, на которых работает VAF (текст, изображения, речь), если свои запускать не хочется.

Может ли одной установкой Veyllo пользоваться несколько человек?

Да. Включите сетевой доступ — и VAF доступен в вашей сети по HTTPS даже из обычной настольной установки. У каждого свой аккаунт с изолированной памятью и задачами; один хост обслуживает всех — без платы за каждого пользователя.

Можно ли использовать OpenAI SDK с Veyllo API?

Да. Veyllo API совместим с OpenAI. Направьте любой OpenAI SDK или HTTP-клиент на api.veyllo.app/v1 и используйте свой ключ Veyllo. Поддерживаются чат и зрение.

Могу ли я строить собственных ИИ-агентов на VAF?

Да. VAF опубликован на PyPI: pip install --pre vaf ставит ядро, и поверх фреймворка вы строите собственных агентов, инструменты и решения — включая собственный harness. Дополнения вроде сервера или стека памяти ставятся так же, а руководство по встраиванию в документации VAF ведёт по шагам. Флаг --pre нужен, пока VAF в альфе.

Какая у Veyllo лицензия?

Veyllo Agentic Framework (VAF) распространяется по двойной лицензии: AGPL-3.0 для открытого использования плюс коммерческая лицензия для команд, которым нужны другие условия.

Какие операционные системы поддерживаются?

Veyllo работает на macOS, Windows и Linux — как настольное приложение, на сервере или из терминала.

Что такое local-first ИИ-агенты · Veyllo