Veyllo
Концепция

Local-first ИИ-агенты

Local-first ИИ-агент работает на вашем собственном компьютере, а не в облаке поставщика. Здесь разобрано, что это значит, чем такой агент отличается от облачных и self-hosted-вариантов и почему это важно для приватности, затрат и контроля.

Что именно работает локально?

Local-first - не только о том, где программа запускается. У агента четыре подвижные части: цикл управления, который планирует и принимает решения; память, которая накапливается; инструменты, которые он запускает; и языковая модель, которой он думает. В Veyllo (VAF) первые три всегда работают на вашем железе. Единственное место выбора между локальным и размещённым - модель. В этом разделении - вся разница с облачным агентом, где у поставщика находятся все четыре.

Разница

Облако, self-hosted и local-first

Три способа запустить агента - и где в каждом из них живут ваши данные.

Облачный агент

Работает целиком на серверах поставщика. Начать удобно, но данные, контекст и ключи - у него, как и рубильник: сбой, изменение условий или заблокированный аккаунт останавливают агента, какова бы ни была причина.

Self-hosted-агент

Работает на инфраструктуре, которую вы обслуживаете, обычно на сервере под вашим управлением. Контроль на вашей стороне, но и сервер - ваша забота.

Local-first-агент

Работает на вашем собственном компьютере, в собственном окне. Установщик настраивает локальный сервер и аккаунт за вас, данные остаются у вас. Никакой удалённой инфраструктуры, которую нужно готовить и обслуживать. Так Veyllo работает по умолчанию.

Local-first и self-hosted пересекаются: в обоих случаях контроль на вашей стороне. Local-first означает именно то, что агент работает там, где вы, на вашем устройстве. С Veyllo можно и так и так: работать локально или разместить harness на собственном сервере.

Локально - не значит в одиночку

Один хост - вся команда.

Local-first не означает одного человека. Даже настольное приложение открывается в сеть одним переключателем, без отдельной серверной установки. Ваш компьютер, свободная машина дома или сервер компании становится хостом, и все в локальной сети достигают его по HTTPS.

✓
Общий доступ - один переключатель. Щёлкните тумблер в приложении (или выполните vaf server on), и VAF доступен в вашей сети по HTTPS. Достаточно обычной настольной установки, отдельный сервер не нужен.
✓
Каждому - отдельный аккаунт. У каждого своё изолированное пространство: память, задачи и настройки - раздельные. Чужого не видит никто.
✓
Без платы за каждого пользователя. Один экземпляр обслуживает всю команду или семью. Вы запускаете его один раз, вместо оплаты за каждого.
Почему это важно

Что это вам даёт.

✓
Промпты, которые никуда не уходят. Текст, не покидающий компьютер, нельзя записать, сохранить, использовать для обучения или выдать по запросу. С локальной моделью это касается всей цепочки обработки, а не только хранения.
✓
Между вами и работой нет поставщика. Никто не поднимет цены, не спишет модель, на которую вы полагаетесь, не изменит лимиты и не заблокирует аккаунт. Конфигурация, которая работает сегодня, работает и через год, с теми же весами модели.
✓
Электричество вместо токенов. У локальной модели нет счёта за токены. Длинные контексты, повторные запуски и ночные пакеты стоят как простаивающий компьютер, потому регулярные и многошаговые задачи и становятся по карману.
✓
Работает без связи. В поезде или в закрытой сети агент продолжает работать с локальной моделью, вместе с памятью и файлами.
Единственный настоящий выбор

Локальная модель или размещённая?

Всё остальное в local-first-агенте уже решено. Вот решение, которое действительно за вами, и его можно поменять позже.

✓
Локальная модель. Работает на вашем GPU или CPU. Ничто не покидает компьютер, счёта за токены нет; скорость и качество зависят от железа. Небольшие модели хорошо справляются с черновиками, сводками и файлами, а тяжёлые рассуждения требуют мощного GPU.
✓
Размещённая модель. Агент по-прежнему работает локально - наружу уходит только вызов модели. Так передовые модели доступны без покупки железа, с оплатой за токены; промпт и приложенные файлы попадают к провайдеру модели.
✓
Обе - и переключение по задаче. Большинство конфигураций в итоге смешанные: локальная модель для рутины и конфиденциального, размещённая - для сложных случаев. Переключение - одна строка конфигурации, так что выбор никогда не окончателен.
Как это делает Veyllo

Что Veyllo надстраивает над моделью.

Veyllo превращает языковую модель в работающего локально агента: постоянная векторная память, помнящая между сессиями; полный набор инструментов (веб, код, файлы, браузер) плюс всё, что вы подключите по MCP; субагенты, которым можно поручать работу; исполнение кода в песочнице. Запускайте на локальной модели - или направьте на размещённый, OpenAI-совместимый Veyllo API, когда нужен облачный бэкенд. Открытый исходный код, AGPL-3.0, доступна коммерческая лицензия.

Вопросы и ответы

Спрашивали - отвечаем.

Что такое local-first ИИ-агент?

Цикл управления, память и инструменты работают на вашем устройстве; в другом месте может находиться только модель, если вы выбрали размещённую. Облачный агент держит всё это на серверах поставщика, включая контекст каждого запроса.

Local-first - это то же самое, что self-hosting?

Они совпадают в том, у кого контроль, но различаются в том, где происходит работа. Self-hosting переносит софт на сервер под вашим управлением; local-first ставит его на компьютер перед вами, без сервера вовсе. Veyllo умеет и то и другое, а self-hosted-хост обслуживает целую команду.

Нужно ли отправлять данные в облако, чтобы пользоваться Veyllo?

Нет. Veyllo - local-first: агента можно запускать целиком на своём компьютере, включая модели. Размещённый Veyllo API - по желанию: он поставляет модели, на которых работает VAF (текст, изображения, речь), если свои запускать не хочется.

Может ли одной установкой Veyllo пользоваться несколько человек?

Да. Включите сетевой доступ, и VAF доступен в вашей сети по HTTPS даже из обычной настольной установки. У каждого свой аккаунт с изолированной памятью и задачами; один хост обслуживает всех, без платы за каждого пользователя.

Можно ли использовать OpenAI SDK с Veyllo API?

Да. Veyllo API совместим с OpenAI. Направьте любой OpenAI SDK или HTTP-клиент на api.veyllo.app/v1 и используйте свой ключ Veyllo. Поддерживаются чат и зрение.

Могу ли я строить собственных ИИ-агентов на VAF?

Да. VAF опубликован на PyPI: pip install --pre vaf ставит ядро, и поверх фреймворка вы строите собственных агентов, инструменты и решения, включая собственный harness. Дополнения вроде сервера или стека памяти ставятся так же, а руководство по встраиванию в документации VAF ведёт по шагам. Флаг --pre нужен, пока VAF в альфе.

Какая у Veyllo лицензия?

Veyllo Agentic Framework (VAF) распространяется по двойной лицензии: AGPL-3.0 для открытого использования плюс коммерческая лицензия для команд, которым нужны другие условия.

Какие операционные системы поддерживаются?

Veyllo работает на macOS, Windows и Linux, как настольное приложение, на сервере или из терминала.