Aller au contenu

AI knuje jak złośliwy dżin? To już zagrożenie czy tylko marketing? #173

8 septembre 2026 · 1 h 9 min

Notes de l’épisode

"OpenAI stworzyło zbyt potężną AI". "Agenty AI masowo zrywają się ze smyczy". "Osiągnęliśmy AGI". Takie doniesienia przetaczały się przez serwisy społecznościowe w ostatnich miesiącach. Tylko na ile są one prawdziwe? Wszyscy słyszeliśmy o tym, że agenty OpenAI włamały się latem do Huggin Face - ale w zasadzie jak i po co to zrobiły? I czego jest to przejawem? AI naprawdę wyrwała się na wolność? A może to jednak czysty marketing? Jesteśmy w przededniu przełomu technologicznego? A może jednak AI zachowywała się dokładnie tak, jak ją zaprogramowano? Właśnie na te pytania odpowiemy w dzisiejszym odcinku.
Zapraszamy do słuchania!
Rozdziały:
4:35 - "Bunt AI"
6:30 - Jak knuje Mythos?
18:20 - Jak agenty knuły na forum?
25:30 - Piaskownica
36:25 - Reward hacking
44:26 - Czy zasypią nas spinacze?
52:24 - GPT 2
56:12 - Giełda
58:10 - Konkurencja z Chinami

Źródła:
Wybryki Astry: https://www.wsj.com/tech/ai/openai-to-restrict-astra-model-after-rating-it-critical-cyber-risk-499b5a46?mod=tech_lead_pos4
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Obserwatorium utraty kontroli: https://www.longtermresilience.org/reports/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis/
AI hackuje siłownię: https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986
Atak na niemiecki portal: https://www.bbc.com/news/articles/ckg725z5kgzo
https://x.com/Cormac_SB/status/2095883154162880997
Samozadowolenie AI: https://www.theguardian.com/technology/2026/aug/26/openai-staff-observed-warning-signs-before-ai-agent-hacking-crusade-caused-global-alarm
Agenty się komunikują: https://www.engadget.com/2231393/openai-agents-shared-security-exploits-with-each-other-via-message-board/
Zachowanie agentów w sandboxie: https://www.aisi.gov.uk/blog/what-can-sandboxed-ai-agents-learn-about-their-evaluation-environments
Ludzie jako króliki doświadczalne nowych technologii: https://www.theguardian.com/technology/2026/aug/05/ai-models-have-been-going-rogue-in-tests-how-worried-should-we-be
To nie bunt a konsekwentne działanie: https://www.lboro.ac.uk/media-centre/press-releases/2026/july/ai-models-escape-testlab-expert-asked/
Noblista o Volkswagenie: https://x.com/IamKyros69/status/2095770509774409819
Przepowiednie o zbyt potężnym AI: https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction
Sceptycyzm wobec zagrożeń AI: https://www.theverge.com/2019/6/6/18655212/reddit-ai-bots-gpt2-openai-text-artificial-intelligence-subreddit
Narracje o zagrożeniu: https://www.researchgate.net/publication/404019837_From_GPT-2_to_Claude_Mythos_How_Too_Dangerous_to_Release_Narratives_Shape_Perceptions_of_Frontier_AI
IPO Anthropica: https://www.reuters.com/world/anthropic-ipo-launch-shifts-toward-mid-october-sources-say-2026-09-04/
Wycena Anthropika: https://www.wsj.com/tech/ai/anthropic-expected-to-tell-investors-it-sees-over-30-trillion-in-potential-revenue-a611efea
OpenAI na giełdzie: https://finance.yahoo.com/technology/ai/articles/openai-reportedly-targeting-ipo-debut-164000971.html?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAKvwyfYTz0aNifTLHNN4jIFViqRg2XrzWYHutIOtCbsHxiZgt4zYoOZmvZH9pX_SYIQLvhSy5g1dI2OyUge37UaT8IGgO-dWFtQ9hNPb2nVnX6Fkbjcj2v40kBeNbuMwnri2zP7kljfNNrWTxJmAP46maE4uSm9TtQlnBJDy0Vko

Książka Gniewosza Leliwy: https://helion.pl/ksiazki/inteligentny-inaczej-czy-ai-naprawde-mysli-czy-tylko-doskonale-udaje-gniewosz-leliwa,ininai.htm#format/d

Tous les épisodes de Techstorie – rozmowy o technologiach

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.