Что можно доверить AI-агенту? Границы автономности
Notas del episodio
Поручить агенту исправить баг, реализовать целую фичу или довести проект до результата — насколько это разные задачи? И как понять, что работу действительно можно оставить без постоянного присмотра?
В девятом выпуске 3 AImigo поговорим о границах автономности AI-агентов: какую работу им стоит делегировать, что для этого нужно подготовить и как проверить результат. Обсуждают Евгений Сергеев, Алексей Литвинов и Александр Поломодов.
В программе:
- от отдельного действия до работы «под ключ»: как меняются требования к агенту и человеку;
- что агенту нужно знать о задаче, её цели и ограничениях, прежде чем начинать работу;
- как проверять готовность результата и где оставлять контрольные точки;
- какие решения мы готовы делегировать, а в каких хотим участвовать сами.
Будем опираться на собственные эксперименты и рабочие задачи: от разработки приложений до исследований и поддержки проектов. Сравним, где агенту можно дать больше самостоятельности, а где проверка его работы сама становится непростой задачей.
Все выпуски 3 AImigo доступны на сайте Александра Поломодова и в его tg-канале
Материалы Алексея Литвинова:
- Инженерная программа и материалы по работе с AI-агентами
- Внедрение управляемых AI-процессов в компаниях
- Telegram-канал
Timeline
00:00 - Тема выпуска и соведущие
03:26 - От действия до результата под ключ
07:55 - Автоматизация выпуска контента во Flo Health
10:59 - Почему генерация упирается в согласования
18:20 - Пересмотр инструкций при смене модели
27:04 - Задача, направление и зона ответственности
35:38 - Риски и ответственность за действия агента
45:49 - Перенос игры: проверка через эмуляторы
54:02 - Обложки и границы повторяемой автоматизации
59:04 - Что оптимизировать в личном и рабочем проекте
1:05:53 - METR: размер задачи и вероятность успеха
1:14:28 - Контекст, намерение и архитектурные решения
1:23:11 - Восстановление кода из знаний о системе
1:32:40 - Псевдоавтономность и скрытая работа человека
1:39:29 - Как меняется управление людьми и агентами