Pular para o conteúdo

AI knuje jak złośliwy dżin? To już zagrożenie czy tylko marketing? #173

8 de setembro de 2026 · 1 h 9 min

Notas do episódio

"OpenAI stworzyło zbyt potężną AI". "Agenty AI masowo zrywają się ze smyczy". "Osiągnęliśmy AGI". Takie doniesienia przetaczały się przez serwisy społecznościowe w ostatnich miesiącach. Tylko na ile są one prawdziwe? Wszyscy słyszeliśmy o tym, że agenty OpenAI włamały się latem do Huggin Face - ale w zasadzie jak i po co to zrobiły? I czego jest to przejawem? AI naprawdę wyrwała się na wolność? A może to jednak czysty marketing? Jesteśmy w przededniu przełomu technologicznego? A może jednak AI zachowywała się dokładnie tak, jak ją zaprogramowano? Właśnie na te pytania odpowiemy w dzisiejszym odcinku.
Zapraszamy do słuchania!
Rozdziały:
4:35 - "Bunt AI"
6:30 - Jak knuje Mythos?
18:20 - Jak agenty knuły na forum?
25:30 - Piaskownica
36:25 - Reward hacking
44:26 - Czy zasypią nas spinacze?
52:24 - GPT 2
56:12 - Giełda
58:10 - Konkurencja z Chinami

Źródła:
Wybryki Astry: https://www.wsj.com/tech/ai/openai-to-restrict-astra-model-after-rating-it-critical-cyber-risk-499b5a46?mod=tech_lead_pos4
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Obserwatorium utraty kontroli: https://www.longtermresilience.org/reports/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis/
AI hackuje siłownię: https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986
Atak na niemiecki portal: https://www.bbc.com/news/articles/ckg725z5kgzo
https://x.com/Cormac_SB/status/2095883154162880997
Samozadowolenie AI: https://www.theguardian.com/technology/2026/aug/26/openai-staff-observed-warning-signs-before-ai-agent-hacking-crusade-caused-global-alarm
Agenty się komunikują: https://www.engadget.com/2231393/openai-agents-shared-security-exploits-with-each-other-via-message-board/
Zachowanie agentów w sandboxie: https://www.aisi.gov.uk/blog/what-can-sandboxed-ai-agents-learn-about-their-evaluation-environments
Ludzie jako króliki doświadczalne nowych technologii: https://www.theguardian.com/technology/2026/aug/05/ai-models-have-been-going-rogue-in-tests-how-worried-should-we-be
To nie bunt a konsekwentne działanie: https://www.lboro.ac.uk/media-centre/press-releases/2026/july/ai-models-escape-testlab-expert-asked/
Noblista o Volkswagenie: https://x.com/IamKyros69/status/2095770509774409819
Przepowiednie o zbyt potężnym AI: https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction
Sceptycyzm wobec zagrożeń AI: https://www.theverge.com/2019/6/6/18655212/reddit-ai-bots-gpt2-openai-text-artificial-intelligence-subreddit
Narracje o zagrożeniu: https://www.researchgate.net/publication/404019837_From_GPT-2_to_Claude_Mythos_How_Too_Dangerous_to_Release_Narratives_Shape_Perceptions_of_Frontier_AI
IPO Anthropica: https://www.reuters.com/world/anthropic-ipo-launch-shifts-toward-mid-october-sources-say-2026-09-04/
Wycena Anthropika: https://www.wsj.com/tech/ai/anthropic-expected-to-tell-investors-it-sees-over-30-trillion-in-potential-revenue-a611efea
OpenAI na giełdzie: https://finance.yahoo.com/technology/ai/articles/openai-reportedly-targeting-ipo-debut-164000971.html?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAKvwyfYTz0aNifTLHNN4jIFViqRg2XrzWYHutIOtCbsHxiZgt4zYoOZmvZH9pX_SYIQLvhSy5g1dI2OyUge37UaT8IGgO-dWFtQ9hNPb2nVnX6Fkbjcj2v40kBeNbuMwnri2zP7kljfNNrWTxJmAP46maE4uSm9TtQlnBJDy0Vko

Książka Gniewosza Leliwy: https://helion.pl/ksiazki/inteligentny-inaczej-czy-ai-naprawde-mysli-czy-tylko-doskonale-udaje-gniewosz-leliwa,ininai.htm#format/d

Todos os episódios de Techstorie – rozmowy o technologiach

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.