Infinity: локальный ИИ-агент не держит процесс, пока ждёт инструмент

Сборка тестов ещё идёт, а в списке процессов уже висит ИИ-агент, который ничего не считает. Мы долго считали это нормальной работой: будто модель думает, пока инструмент не вернулся. 23 октября 2026 года AWS и Калифорнийский университет в Беркли выложили под Apache 2.0 раннюю Infinity в проекте Hydro. На время чужого шага агент уходит из живых процессов и поднимается снова, когда результат готов. Для локального ИИ-агента на ноутбуке это как раз тот простой, который съедал машину сильнее, чем сам ответ модели.

Простой стоит дороже ответа

Картина повторялась. Агент вызвал инструмент: проверки, разбор документа, паузу до решения человека. Свой ход модель уже сделала. Дальше висела сессия, которую никто не читал до возврата инструмента.

Сначала сессию оставляли жить и растягивали тайм-аут. Один агент так терпит. Когда одновременно ждут сборка, согласующий и ночная выгрузка, ноутбук задыхается раньше, чем кончается бюджет на модель. Потом процесс убивали и поднимали заново по готовности результата. Терялся ход: что уже решили, какой шаг следующий, на чём остановился разговор. Промпт собирали из журнала и надеялись, что задача не сменила характер.

Infinity предлагает третий путь: на ожидании агент лежит как запись, а не как процесс. На сайте проекта есть лабораторный замер. После 20 ходов с вызовом инструментов простаивающий агент занимает около 103 КБ, один поток, хранилища в памяти. В примере AWS 75 000 одновременных агентов помещаются в 8 ГБ на Raspberry Pi 5. Обе цифры для нас замер в лаборатории, не обещание для машины с диском и сетью. Отдельной цены у этой среды в анонсе нет: платите тому, кто отдаёт модель.

Тот же код заявлен и для локального процесса, и для AWS Lambda. Пока агент ждёт, функцию можно завершить. Есть spawn_thread и доставка событий дочерним потокам. Уже написанные MCP-серверы подключаются слоем совместимости. Это важнее цифры на плате из примера: инструменты к учётным системам у нас уже живут как MCP, и переписывать их ради новой среды - способ похоронить пилот.

Как сделать ИИ-агента на Infinity и не задеть рабочую копию

Чужой репозиторий для первой пробы не берём. Хватает тестового, без клиентских выгрузок.

Страница быстрого старта на infinity.hydro.run в момент проверки отдавала 404, поэтому идём в документацию Infinity Code. Сначала смотрим не на конкурентность, а на след в файлах: правки агент кладёт на ветку sandbox-{thread_id}, не в ту копию, где вы правите код сами. Эксперимент не размазывает обычную работу.

Дальше установка. Нужны Rust и ripgrep, затем CLI из репозитория hydro-project/infinity: cargo install infinity-agent-cli. После этого - хотя бы один провайдер модели и локальная песочница. В тестовом репозитории запускается infinity.

Если CLI ставить рано, на сайте проекта есть короткий пример на Rust: всё в памяти и ровно один запрос к модели. По нему видно, вернулось ли состояние вместе с ответом инструмента, без ветки и без песочницы.

Среду исполнения не склеиваем с зарубежной моделью как с боевым контуром. Infinity модель за вас не выбирает. Локально это может быть открытая модель на своей машине, в закрытом контуре - GigaChat Pro или YandexGPT, если провайдер подключён так, как ждёт CLI. Смысл пробы не в смене модели, а в том, что простой больше не держит тяжёлую сессию.

Задачу берём одну. "Запусти проверки и жди" или "собери черновик и остановись, пока человек не скажет да". Десять сценариев на первом заходе только прячут, проснулся агент или ответ дописали вы.

Где ранняя сборка ломается

Это исследовательский релиз, не договор об уровне сервиса. 75 000 агентов - лабораторная цифра. Без ключа или учётных данных AWS у выбранного провайдера агент не стартует.

Запись состояния не думает за агента. Вернул инструмент мусор - проснувшийся агент продолжит с мусора. Перед записью в учётную систему и перед отправкой письма проверка остаётся. Память хода не разрешение действовать.

Слой совместимости с MCP не значит, что каждый уже работающий сервер поведёт себя так же. Тайм-ауты, длинные файлы, инструмент, который сам ждёт человека, прощёлкиваются на своём контуре.

Есть и тихая поломка. Функция завершилась, агент лежит как данные, событие пробуждения потерялось. Утром это неотличимо от "экономно спит": согласование просто стоит. Рядом с засыпанием сразу кладём срок и передачу человеку. Иначе экономия памяти прячет зависший шаг.

Много агентов на одной машине - это про место, не про доступ. Разные потоки не заменяют правило "чужие данные этому ходу нельзя".

Что забрать в работу с ИИ-агентами без самого Infinity

В прод раннюю сборку вместо контура мы не ставим. Забираем правило.

Два состояния больше не смешиваем: "модель думает" и "инструмент ещё не ответил". Второе не держит тяжёлый процесс. В шаг пишем, что спросили, чего ждём, что делать при ответе и что делать по сроку. Будим по событию, а не опрашиваем хранилище каждые несколько секунд.

На ноутбуке так локальный ИИ-агент перестаёт спорить за память с редактором. В заявках это часто называют AI-агентом "как на своём компьютере", хотя нужен не ещё один чат, а процесс, который умеет отсутствовать. В контуре компании очередь согласований не превращается в пачку живых сессий, о которых вспоминают после перезагрузки.

Посмотрите на самый длинный простой у себя. Агент там думает или просто не умер, пока ждал? Если второе, следующий шаг в том, как сделать ИИ-агента, - снять состояние в данные, а не докупать модели память.

Infinity: локальный ИИ-агент не держит процесс, пока ждёт инструмент

Простой стоит дороже ответа

Как сделать ИИ-агента на Infinity и не задеть рабочую копию

Где ранняя сборка ломается

Что забрать в работу с ИИ-агентами без самого Infinity

Похожие статьи

Обсудим, как это внедрить у вас