Что можно доверить AI-агенту? Границы автономности

Поручить агенту исправить баг, реализовать целую фичу или довести проект до результата — насколько это разные задачи? И как понять, что работу действительно можно оставить без постоянного присмотра?

В девятом выпуске 3 AImigo поговорим о границах автономности AI-агентов: какую работу им стоит делегировать, что для этого нужно подготовить и как проверить результат. Обсуждают Евгений Сергеев, Алексей Литвинов и Александр Поломодов.

В программе:

• от отдельного действия до работы «под ключ»: как меняются требования к агенту и человеку;
• что агенту нужно знать о задаче, её цели и ограничениях, прежде чем начинать работу;
• как проверять готовность результата и где оставлять контрольные точки;
• какие решения мы готовы делегировать, а в каких хотим участвовать сами.

Будем опираться на собственные эксперименты и рабочие задачи: от разработки приложений до исследований и поддержки проектов. Сравним, где агенту можно дать больше самостоятельности, а где проверка его работы сама становится непростой задачей.

Все выпуски 3 AImigo доступны на сайте Александра Поломодова и в его tg-канале

Материалы Алексея Литвинова:

• Инженерная программа и материалы по работе с AI-агентами
• Внедрение управляемых AI-процессов в компаниях
• Telegram-канал

Timeline
00:00 - Тема выпуска и соведущие
03:26 - От действия до результата под ключ
07:55 - Автоматизация выпуска контента во Flo Health
10:59 - Почему генерация упирается в согласования
18:20 - Пересмотр инструкций при смене модели
27:04 - Задача, направление и зона ответственности
35:38 - Риски и ответственность за действия агента
45:49 - Перенос игры: проверка через эмуляторы
54:02 - Обложки и границы повторяемой автоматизации
59:04 - Что оптимизировать в личном и рабочем проекте
1:05:53 - METR: размер задачи и вероятность успеха
1:14:28 - Контекст, намерение и архитектурные решения
1:23:11 - Восстановление кода из знаний о системе
1:32:40 - Псевдоавтономность и скрытая работа человека
1:39:29 - Как меняется управление людьми и агентами