Zum Inhalt springen

#072 ML Татьяна Шаврина. Бенчмарки для LLM или как оценивать большие языковые модели?

17.04.2025 · 1 Std. 21 Min.

Shownotes

В гостях сегодня Татьяна Шаврина, старший научный сотрудник Института Языкознания РАН. Обсуждаем бенчмарки - стандартизированные наборы тестов, метрик и протоколов оценки, предназначенные для объективного измерения производительности больших языковых моделей. Что произошло в индустрии за последние 4 года с момента записи предыдущего выпуска? Все ли проявления естественного интеллекта можно наблюдать у искусственного? Как автоматизировать науку? Как и для чего автоматически проверять новые архитектуры сетей на разных доменах? Скоро ли агентные системы начнут выигрывать у людей kaggle-соревнования? Как ИИ-учёные ддосят учёных-людей? Зачем большим языковым моделям сдавать выпускные экзамены на бакалавра? Как не допустить того, чтобы разработчики бенчмарков и больших моделей договорились? Какие проблемы существуют у современных решений? Почему к OpenAI всегда так много претензий? Кто и как придумывает бенчмарки? Придумали ли бенчмарк для определения, что AGI уже здесь? Если заработал сто миллиардов долларов, то уже AGI? Где взять бенчмарки, если ты не OpenAI? Почему высокие метрики на бенчмарках могут не являться решающим фактором при выборе модели под свою задачу? Обо всём этом и многом другом в выпуске!


Ссылки выпуска:


Телеграм-канал Татьяны (https://t.me/rybolos_channel)


Буду благодарен за обратную связь!


Подписывайтесь на телеграм-канал "Стать специалистом по машинному обучению" (https://t.me/toBeAnMLspecialist)


Обо мне (https://t.me/toBeAnMLspecialist/935)

Мой телеграм для связи (https://t.me/kmsint)

Также со мной можно связаться по электронной почте: [email protected]


Я сделал бесплатный курс по созданию телеграм-ботов на Python и aiogram на Степике (https://stepik.org/120924). Присоединяйтесь, если хотите научиться разрабатывать телеграм-ботов и вообще вести проекты на Python!

Также в соавторстве с крутыми разработчиками я пишу курс по продвинутой разработке телеграм-ботов с элементами микросервисной архитектуры (https://stepik.org/a/153850?utm_source=mlpodcast&utm_campaign=ep_72).


Выразить благодарность можно добрым словом и/или донатом (https://www.tinkoff.ru/rm/kryzhanovskiy.mikhail11/NkwE718878/)

Alle Folgen von Подкаст о машинном обучении (Machine Learning Podcast)

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.