News: чи розуміють LLM абсурд? чому моделі ллють воду? новинки від Apple: Джобса на них немає

У цьому випуску ми обговорюємо кілька тем, пов’язаних із розвитком великих мовних моделей та їхнім практичним використанням.

Частина розмови присвячена реакції LLM на безглузді або ірраціональні запити. Експеримент показує, що різні моделі можуть використовувати різні стратегії: одні намагаються уникати відповіді, інші пробують знайти умовну логіку навіть у абсурдних питаннях.

Окрім цього, у випуску розглядаються й інші технологічні теми. Зокрема:

— дослідження нейронних активацій, пов’язаних із появою галюцинацій у LLM
— обмеження токенів та особливості підписок у різних AI-сервісах
— презентація бюджетного ноутбука від Apple
— досвід компанії Stripe, яка використовує AI-агентів для допомоги у написанні коду
— історія про проєкт, що обіцяв можливість «бачити крізь стіни» за допомогою Wi-Fi, але після перевірки виявився технологічно неспроможним і має ознаки шахрайства

00:33 — аналіз відповідей LLM на абсурдні питання

06:14 — критика бенчмарків та їх об'єктивності

10:10 — дослідження нейронів та галюцинацій у LLM

13:24 — ситуація з гарантіями на електроніку в Австралії

15:04 — авторські права на твори штучного інтелекту

18:10 — проблеми з тестуванням у програмуванні

22:36 — використання різних моделей у програмуванні

25:27 — презентація нових продуктів Apple

30:00 — майбутнє MacBook Ultra

32:13 — безпека електромобілів та нові технології

34:24 — механічні ручки в автомобілях: безпека та зручність

40:10 — дані та конфіденційність у навчанні LLM

42:04 — річний репорт від Stripe та критика автоматизації в розробці

48:00 — шахрайство в GitHub та його наслідки

50:28 — етика штучного інтелекту та його вплив на людей