Pular para o conteúdo

#317 Czy możemy ufać sztucznej inteligencji? | prof. Przemysław Biecek

10 de setembro de 2026 · 1 h 6 min

Notas do episódio

Dlaczego modele językowe zmyślają zamiast „przyznać”, że nie dotarły do jakiejś informacji? – Celem takiego „czata” jest uzyskanie jak największej oceny od użytkownika. Użytkownik lubi porozmawiać sobie, lubi mieć wrażenie, że jest zaopiekowany, więc gdyby usłyszał odpowiedź „nie wiem”, to pewnie nie byłby zadowolony. Sposób treningu powoduje, że jest presja, by te modele zawsze wiedziały, zawsze coś mówiły – wyjaśnia prof. Przemysław Biecek, dyrektor Centrum Wiarygodnej Sztucznej Inteligencji na Politechnice Warszawskiej.

💛 https://patronite.pl/radionaukowe
💸 https://suppi.pl/radionaukowe
📖 https://wydawnictworn.pl/

W odcinku rozmawiamy o tym, na ile zjawisko „halucynowania” jest wpisane w naturę tych modeli i czy są metody, aby uzyskiwać odpowiedzi, na których można polegać. – Samo słowo „halucynacja” myślę, że wybiela rzeczywistość – ocenia prof. Biecek. Sugeruje, że to stan tymczasowy, chwilowe zaćmienie. Co ciekawe, z danych wynika, że czasem pomaga rozbudowanie prompta. – Część osób pokazywała, że dodawanie losowych sekwencji tokenów po swoim pytaniu zwiększa skuteczność. Czyli możemy napisać pytanie, a później dodać 200 losowych innych słów i to może zwiększyć skuteczność odpowiedzi – mówi naukowiec.

Tu trafiamy jednak na kolejny problem: aktualne modele są potwornie zasobożerne. – Kolejną rewolucją być może będzie dekompozycja modeli, żeby one były mniejsze, lżejsze, mniej energetycznie wymagające. Nie mamy tej technologii. Ale jak ona będzie, to wydaje mi się, że się otworzy jeszcze znowu jakaś przestrzeń na nowe rozwiązania – opowiada prof. Biecek. Jak mówi, wzrasta zainteresowanie modelami wieloagentowymi.

W odcinku usłyszycie, komu wyspecjalizowana AI mogłaby znacząco pomóc w pracy i rozwijaniu wiedzy (na przykład lekarzom i badaczom kosmosu), czy możemy ufać modelowi, który informuje nas, w jaki sposób doszedł do podanego nam wniosku (spoiler: etapy wnioskowania też mogą być wymyślane), o tym, że same modele powinni być obiektem badań naukowców oraz dlaczego, zdaniem naszego gościa, szkodliwe jest postrzeganie AI jako czegoś więcej niż narzędzia. – Wierzę w metodę naukową i nawet jeżeli coś wygląda na magiczne, to fantastycznie jest rozłożyć to na części pierwsze i zobaczyć dokładnie, jakie elementy tej funkcji wpływają na konkretny wynik – podsumowuje prof. Biecek.

Obiecany link do zestawienia „Epic fAIls - największa wpadka systemu AI w roku 2025” https://docs.google.com/forms/d/e/1FAIpQLSdqZ3Otl3XQdeq-mZBKvCh8_OAwzbywgBasRl_SKXDzS4MDLQ/viewform?pli=1

PS. Nie odnosimy się do awantury wokół OpenAI I problemu Naviera-Stokesa, bo informacje pojawiły się już po naszym nagraniu.

Todos os episódios de Radio Naukowe

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.