Skip to content

063. Расширяем контекст LLM: от RAG до агентов — как победить ограничения AI?

July 8, 2025 · 41 min

Show notes

Думаете, увеличение контекстного окна до миллионов токенов решает все проблемы? На самом деле модели всё равно теряют фокус, упускают важные детали в середине и страдают от информационной перегрузки!

В этом выпуске обсуждаем:

  • 🔹 Retrieval-Augmented Generation (RAG): как эта технология борется с "галлюцинациями" и устаревшими данными, обогащая ответы AI.

  • 💡 GraphRAG: почему семантические графы — это следующий шаг в понимании сложных связей в данных, и как это меняет игру.

  • 🎧 Tools и Function Calling: как научить модель взаимодействовать с внешним миром, получать актуальную информацию и выполнять действия через API.

  • 💬 AI-агенты: как мы переходим от простых диалоговых сценариев к автономным системам, способным самостоятельно планировать и выполнять задачи.

Этот выпуск будет особенно полезен разработчикам и архитекторам, которые хотят создавать более умные и автономные AI-решения, используя такие инструменты, как Amazon Bedrock.

💡 Узнаете, почему Nova Micro в 27 раз дешевле популярных моделей и как правильно декомпозировать документы для векторного поиска с учётом прав доступа.

Навигация для Podbean:
(0:00) Introduction
(3:15) Проблема ограниченного контекста в LLM
(8:40) Что такое RAG и как он обогащает запросы?
(15:20) GraphRAG: новый уровень работы с данными через графы
(22:10) Tools и Function Calling: как научить LLM действовать?
(28:55) От диалоговых флоу к автономным AI-агентам
(35:30) Анонс следующего эпизода: что такое MCP?

Навигация для YouTube:
00:00:00 - Начало
00:03:15 - Проблема ограниченного контекста в LLM
00:08:40 - Что такое RAG и как он обогащает запросы?
00:15:20 - GraphRAG: новый уровень работы с данными через графы
00:22:10 - Tools и Function Calling: как научить LLM действовать?
00:28:55 - От диалоговых флоу к автономным AI-агентам
00:35:30 - Анонс следующего эпизода: что такое MCP?

🎧 Слушайте на любимой платформе:

• YouTube

• Podbean

• Apple Podcast

• Яндекс.Музыка

• Spotify

• 💬 Какие подходы к расширению контекста используете вы? Пробовали Graph RAG в продакшене?

#AWS #AI #RAG #GraphRAG #LLM

All episodes of AWS на русском

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.