News: чи розуміють LLM абсурд? чому моделі ллють воду? новинки від Apple: Джобса на них немає
Notes de l’épisode
У цьому випуску ми обговорюємо кілька тем, пов’язаних із розвитком великих мовних моделей та їхнім практичним використанням.
Частина розмови присвячена реакції LLM на безглузді або ірраціональні запити. Експеримент показує, що різні моделі можуть використовувати різні стратегії: одні намагаються уникати відповіді, інші пробують знайти умовну логіку навіть у абсурдних питаннях.
Окрім цього, у випуску розглядаються й інші технологічні теми. Зокрема:
— дослідження нейронних активацій, пов’язаних із появою галюцинацій у LLM
— обмеження токенів та особливості підписок у різних AI-сервісах
— презентація бюджетного ноутбука від Apple
— досвід компанії Stripe, яка використовує AI-агентів для допомоги у написанні коду
— історія про проєкт, що обіцяв можливість «бачити крізь стіни» за допомогою Wi-Fi, але після перевірки виявився технологічно неспроможним і має ознаки шахрайства
00:33 — аналіз відповідей LLM на абсурдні питання
06:14 — критика бенчмарків та їх об'єктивності
10:10 — дослідження нейронів та галюцинацій у LLM
13:24 — ситуація з гарантіями на електроніку в Австралії
15:04 — авторські права на твори штучного інтелекту
18:10 — проблеми з тестуванням у програмуванні
22:36 — використання різних моделей у програмуванні
25:27 — презентація нових продуктів Apple
30:00 — майбутнє MacBook Ultra
32:13 — безпека електромобілів та нові технології
34:24 — механічні ручки в автомобілях: безпека та зручність
40:10 — дані та конфіденційність у навчанні LLM
42:04 — річний репорт від Stripe та критика автоматизації в розробці
48:00 — шахрайство в GitHub та його наслідки
50:28 — етика штучного інтелекту та його вплив на людей