Zum Inhalt springen

AI knuje jak złośliwy dżin? To już zagrożenie czy tylko marketing? #173

08.09.2026 · 1 Std. 9 Min.

Shownotes

"OpenAI stworzyło zbyt potężną AI". "Agenty AI masowo zrywają się ze smyczy". "Osiągnęliśmy AGI". Takie doniesienia przetaczały się przez serwisy społecznościowe w ostatnich miesiącach. Tylko na ile są one prawdziwe? Wszyscy słyszeliśmy o tym, że agenty OpenAI włamały się latem do Huggin Face - ale w zasadzie jak i po co to zrobiły? I czego jest to przejawem? AI naprawdę wyrwała się na wolność? A może to jednak czysty marketing? Jesteśmy w przededniu przełomu technologicznego? A może jednak AI zachowywała się dokładnie tak, jak ją zaprogramowano? Właśnie na te pytania odpowiemy w dzisiejszym odcinku.
Zapraszamy do słuchania!
Rozdziały:
4:35 - "Bunt AI"
6:30 - Jak knuje Mythos?
18:20 - Jak agenty knuły na forum?
25:30 - Piaskownica
36:25 - Reward hacking
44:26 - Czy zasypią nas spinacze?
52:24 - GPT 2
56:12 - Giełda
58:10 - Konkurencja z Chinami

Źródła:
Wybryki Astry: https://www.wsj.com/tech/ai/openai-to-restrict-astra-model-after-rating-it-critical-cyber-risk-499b5a46?mod=tech_lead_pos4
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Obserwatorium utraty kontroli: https://www.longtermresilience.org/reports/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis/
AI hackuje siłownię: https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986
Atak na niemiecki portal: https://www.bbc.com/news/articles/ckg725z5kgzo
https://x.com/Cormac_SB/status/2095883154162880997
Samozadowolenie AI: https://www.theguardian.com/technology/2026/aug/26/openai-staff-observed-warning-signs-before-ai-agent-hacking-crusade-caused-global-alarm
Agenty się komunikują: https://www.engadget.com/2231393/openai-agents-shared-security-exploits-with-each-other-via-message-board/
Zachowanie agentów w sandboxie: https://www.aisi.gov.uk/blog/what-can-sandboxed-ai-agents-learn-about-their-evaluation-environments
Ludzie jako króliki doświadczalne nowych technologii: https://www.theguardian.com/technology/2026/aug/05/ai-models-have-been-going-rogue-in-tests-how-worried-should-we-be
To nie bunt a konsekwentne działanie: https://www.lboro.ac.uk/media-centre/press-releases/2026/july/ai-models-escape-testlab-expert-asked/
Noblista o Volkswagenie: https://x.com/IamKyros69/status/2095770509774409819
Przepowiednie o zbyt potężnym AI: https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction
Sceptycyzm wobec zagrożeń AI: https://www.theverge.com/2019/6/6/18655212/reddit-ai-bots-gpt2-openai-text-artificial-intelligence-subreddit
Narracje o zagrożeniu: https://www.researchgate.net/publication/404019837_From_GPT-2_to_Claude_Mythos_How_Too_Dangerous_to_Release_Narratives_Shape_Perceptions_of_Frontier_AI
IPO Anthropica: https://www.reuters.com/world/anthropic-ipo-launch-shifts-toward-mid-october-sources-say-2026-09-04/
Wycena Anthropika: https://www.wsj.com/tech/ai/anthropic-expected-to-tell-investors-it-sees-over-30-trillion-in-potential-revenue-a611efea
OpenAI na giełdzie: https://finance.yahoo.com/technology/ai/articles/openai-reportedly-targeting-ipo-debut-164000971.html?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAKvwyfYTz0aNifTLHNN4jIFViqRg2XrzWYHutIOtCbsHxiZgt4zYoOZmvZH9pX_SYIQLvhSy5g1dI2OyUge37UaT8IGgO-dWFtQ9hNPb2nVnX6Fkbjcj2v40kBeNbuMwnri2zP7kljfNNrWTxJmAP46maE4uSm9TtQlnBJDy0Vko

Książka Gniewosza Leliwy: https://helion.pl/ksiazki/inteligentny-inaczej-czy-ai-naprawde-mysli-czy-tylko-doskonale-udaje-gniewosz-leliwa,ininai.htm#format/d

Alle Folgen von Techstorie – rozmowy o technologiach

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.