They Talk Tech – mit Eckert und Wolfangel
- Episodios
- 105
- Se publica
- cada semana
- Último episodio
- 21 Oct 2026
Sobre el podcast
Der neue Technologie-Podcast mit Svea Eckert und Eva Wolfangel. Die beiden freien Technologie-Journalistinnen widmen sich jeden Mittwoch spannenden Tech-Thema und laden sich dazu inspirierende weibliche Gäste ein. Aber auch die Podcast-Hosts bringen etwas mit: investigative und spannende Recherchen, zu denen es in jeder Folge gleich zu Beginn einen kurzen Deepdive gibt.
Episodios 105
Der Roboter war's nicht: Der Kölner Fall. Und: Alke Martens über ihr neues Buch „Dumm dank KI?"
„Roboter soll 16-Jährige belästigt haben", so lief die Schlagzeile in den Nachrichten. Was in Köln wirklich passiert ist: Zwei Streamer haben einen 25 Kilo schweren Unitree R1 per Joystick gegen den Hintern …
Notas del episodio
„Roboter soll 16-Jährige belästigt haben", so lief die Schlagzeile in den Nachrichten. Was in Köln wirklich passiert ist: Zwei Streamer haben einen 25 Kilo schweren Unitree R1 per Joystick gegen den Hintern eines Mädchens gesteuert, live gestreamt. Svea und Eva haben die Videos gesichtet und erklären, warum das Ding nicht mehr Eigenleben hat als ein ferngesteuertes Auto, wer jetzt haftet und ob man so einen Roboter einfach umtreten darf. Danach Alke Martens, Informatikprofessorin in Rostock und mit mehr als 270.000 Followern die KI-Erklärerin auf Instagram. Sie nimmt uns mit von Weizenbaums ELIZA bis zum Transformer, erklärt, warum ChatGPT am Ende nur Wahrscheinlichkeiten ausspuckt, und verrät exklusiv den Titel ihres neuen Buchs: „Dumm dank KI?". Was sie selbst nie an eine KI abgeben würde: das Schreiben.
Shownotes:
Der Unitree R1: 25 Kilo, 1,20 Meter, ab 5.900 Dollar, eine Weitwinkelkamera, kein Lidar (heise): https://heise.de/-10501209
Die Diskussion um die “Roboter-Haftung” bei Heise: https://www.heise.de/news/Schaeden-durch-KI-EU-diskutiert-neue-Haftungsregeln-11461732.html
Pressemitteilung der Polizei Köln zum Vorfall: https://koeln.polizei.nrw/presse/mutmasslich-ferngesteuerter-roboter-fasst-16-jaehriger-ans-gesaess
Der Fabrik-Vorfall mit dem Unitree H1 am Kran, Mai 2025 (Notebookcheck): https://www.notebookcheck.com/Roboter-dreht-durch-gruseliges-Video-zeigt-Wutanfall-des-Unitree-H1.1012418.0.html
Alke Martens auf Instagram: https://www.instagram.com/alkemartens
Alke Martens an der Uni Rostock, Lehrstuhl für Praktische Informatik: https://www.ief.uni-rostock.de/fakultaet/ueber-uns/news/detailansicht-der-news/n/informatik-professorin-alke-martens-glueckwunsch-zu-177000-followern-und-auftritt-in-der-ndr-talkshow-16032026-268295/
Ein Hack bis zum Blackout: 470.000 Solaranlagen am seidenen Faden
Login-Typ auf 5 setzen, kein Passwort nötig, drin. So simpel war die Lücke in der Cloud von Sungrow, dem zweitgrößten Wechselrichterhersteller der Welt. Ein ethischer Hacker aus Kassel hätte damit 470.000 …
Notas del episodio
Login-Typ auf 5 setzen, kein Passwort nötig, drin. So simpel war die Lücke in der Cloud von Sungrow, dem zweitgrößten Wechselrichterhersteller der Welt. Ein ethischer Hacker aus Kassel hätte damit 470.000 Solaranlagen in Europa auf einen Schlag abschalten können, 18 Gigawatt mitten im August. Das Stromnetz verkraftet rund drei. Eva erzählt, was sie in den internen Daten gefunden hat, warum Sungrow drei Wochen lang schwieg und wieso der Hacker für seinen Fund 800 Euro bekam.
Danach die Aufreger-Ecke: OpenAI hat 722 Manuskripte zu offenen Matheproblemen auf GitHub gekippt. Die Mathe-Community ist gespalten, ein Verband fordert den Bruch mit OpenAI. Durchbruch oder Machtdemonstration mit fremden Benchmarks?
Von Eva Wolfangel und Svea Eckert
Musik und Produktion: Marko Pauli Shownotes
Heise zum Thema (Un)sicherheit von Wechselrichtern: https://www.heise.de/news/Sicherheitsalbtraum-Wechselrichter-Hoymiles-laesst-Nachbarschaften-verstummen-11357067.html
Evas Recherche in der ZEIT: Hackerangriff auf Solaranlagen, eine Lücke hätte zum Blackout führen können: https://www.zeit.de/digital/2026-10/hackerangriff-solaranlagen-sicherheitsluecke-blackout-solarenergie
Sungrow schließt die Schwachstelle, mit Stellungnahme des BSI (pv magazine): https://www.pv-magazine.de/2026/10/08/nach-hackerangriff-sungrow-schliesst-schwachstelle-in-seiner-isolarcloud/
Huawei und Sungrow dominieren den Wechselrichtermarkt, Wood Mackenzie (pv magazine): https://www.pv-magazine.de/2023/08/14/wood-mackenzie-huawei-und-sungrow-dominieren-photovoltaik-wechselrichter-markt/
Das AHM-Statement zu OpenAIs Veröffentlichung, als Gastbeitrag im Blog von Terence Tao: https://terrytao.wordpress.com/2026/10/07/ahm-statement-on-openais-october-6-release-of-mathematical-documents/
Nature: OpenAI posts 700 maths preprints online, mathematicians are up in arms: https://www.nature.com/articles/d41586-026-03196-8
Unsere Storyfolge zu Cleo, Teil 1: https://frauen-technik.podigee.io/21-neue-episode
Cleo, Teil 2, die Auflösung: https://frauen-technik.podigee.io/22-neue-episode
Voice Phishing und das Problem sitzt nicht vorm Rechner - mit Prof. Angela Sasse
Angela Sasse über Passkeys, die Grenzen von Awareness-Trainings und Sicherheitstechnik, die sich Menschen anpasst. „Hallo, hier die IT, wir migrieren gerade den Login." Ein Anruf auf Niederländisch, eine …
Notas del episodio
Angela Sasse über Passkeys, die Grenzen von Awareness-Trainings und Sicherheitstechnik, die sich Menschen anpasst.„Hallo, hier die IT, wir migrieren gerade den Login." Ein Anruf auf Niederländisch, eine nachgebaute Anmeldeseite, ein Callcenter-Account. Mehr brauchte es nicht, um beim Telekom-Anbieter Odido die Daten von über sechs Millionen Menschen abzuziehen. Kein Deepfake, keine KI - Svea erzählt, wie ShinyHunters vorgehen, warum die niederländische Polizei den Anruf im Fernsehen abspielte und was das FBI damit zu tun hat.
Danach Angela Sasse, Professorin für Human-Centred Security in Bochum. 1999 schrieb sie „Users are not the enemy", bis heute einer der meistzitierten Texte des Fachs. Ihre These: Awareness-Training ist meist das Billigste, nicht das Wirksamste. Warum Passwörter ein Relikt sind, was Passkeys besser machen und wieso Eva selbst auf eine Test-Phishing-Mail geklickt hat.
Mit Svea Eckert und Eva Wolfangel
Musik und Produktion: Marko Pauli
Odido-Hack: Mehr als sechs Millionen Betroffene (TechCrunch): https://techcrunch.com/2026/02/13/dutch-phone-giant-odido-says-millions-of-customers-affected-by-data-breach/
Die Polizei spielt die Stimme des Anrufers im Fernsehen ab (NOS): https://nos.nl/l/2622288
Zack Whittaker: Fear the phone call, die großen Vishing-Fälle der letzten Monate: https://this.weekinsecurity.com/fear-the-phone-call-hackers-are-calling-for-your-personal-data/
Der Angriff auf das FBI-Bewerbungsportal (Help Net Security): https://www.helpnetsecurity.com/2026/09/28/fbi-job-portals-offline-shinyhunters-breach/
Angela Sasse an der Ruhr-Universität Bochum: https://casa.rub.de/en/news/casa/news/angela-sasse-is-considered-a-pioneer-of-usable-security
Adams und Sasse (1999): Users Are Not the Enemy: https://doi.org/10.1145/322796.322806
Selling Satisfaction, die Studie zu den Versprechen der Awareness-Anbieter: https://doi.org/10.1145/3658644.3690196
Passkeys und FIDO2, erklärt: https://fidoalliance.org/passkeys/
Law4school, das Webinar-Programm von Gesa von Schwerin: https://www.law4school.de
„Das ist Mord“: Sabotieren KI-Agenten ihren Ausschalter? Und die stillen Helferlein von Metas Muse
Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und …
Notas del episodio
Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt haben, warum Metas eigene Leute vor „so much negative PR“ warnten und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google Duplex bis zu Amazons Supermärkten.
Danach die Studie der Woche: KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was Alignment ist und warum die Maschine trotzdem nichts will.
Veröffentlichung Metas Muse bei Heise: https://www.heise.de/news/Meta-Platforms-bringt-persoenlichen-KI-Agenten-Muse-fuer-alltaegliche-Aufgaben-11446000.html
404 Media, Jason Koebler: Meta Tests Muse AI Agent Calls That Are Actually Made By Humans in a Call Center https://www.404media.co/meta-tests-muse-ai-agent-calls-that-are-actually-made-by-humans-in-a-call-center
Reuters: Meta testing a 'human concierge' for its new personal AI agent, Muse https://www.ksl.com/article/51627159/exclusive-meta-testing-a-human-concierge-for-its-new-personal-ai-agent-mus
Astra Taylor: The Automation Charade, der Essay zum Begriff „Fauxtomation“ (Logic Magazine, 2018) https://logicmag.io/failure/the-automation-charade/
Die Studie: Knecht, Schaller, Hagendorff, Summerfield: Shutdown Sabotage Propensities in Multi-Agent Systems (Universität Stuttgart und Oxford, 2026) https://arxiv.org/abs/2609.28274
Evas Artikel in DIE ZEIT: Der Nutzer will mich abschalten? „Das ist Mord“, denkt der KI-Agent https://www.zeit.de/digital/2026-09/ki-agenten-abschaltung-kontrolle-kill-switch-thilo-hagendorff/komplettansicht
Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Anthropomorphisierung: Warum Maschinen nichts wollen. Und: Ex-Meta-Forscherin Anneke Buffone
Der Himmel küsst die Erde, schreibt Eichendorff 1837. Heute titeln Zeitungen die KI sei “ausgebrochen”. In dieser Folge nehmen Svea und Eva diesen Reflex auseinander: warum wir KI so oft vermenschlichen und …
Notas del episodio
Der Himmel küsst die Erde, schreibt Eichendorff 1837. Heute titeln Zeitungen die KI sei “ausgebrochen”. In dieser Folge nehmen Svea und Eva diesen Reflex auseinander: warum wir KI so oft vermenschlichen und woher der Begriff Anthropomorphisierung eigentlich kommt. Spoiler: Ein Grieche um 500 vor Christus hat diese Technik bereits benutzt, damals um sich über die Götter lustig zu machen. Weizenbaums ELIZA darf natürlich auch nicht fehlen und die Frage, wem es eigentlich nützt, wenn eine Software einen Willen zugeschrieben bekommt.
Im zweiten Teil ist Anneke Buffone im Interview, sie war sieben Jahre Forscherin bei Meta. Sie sollte messen, wie viele Menschen die Kontrolle über ihre Nutzungszeit verlieren. Sie packt aus über die Bedingungen und wie Forschung bei Meta läuft, gerade erst war sie als Zeugin dazu in den USA vor Gericht geladen. Es ist ihr erstes deutschsprachiges Interview.
Eva Wolfangel und Svea Eckert Musik und Produktion Marko Pauli
Das Thema bei Heise: https://www.heise.de/hintergrund/Analyse-zu-KI-Hacks-und-Agenten-Chaos-Was-wirklich-hinter-dem-KI-Eigenleben-steckt-11455264.html
Joseph von Eichendorff, „Mondnacht". Entstanden um 1835, veröffentlicht 1837 in den „Gedichten". Text gemeinfrei, zum Beispiel beim Projekt Gutenberg: https://www.projekt-gutenberg.org/eichendo/gedichte/chap004.html
Xenophanes von Kolophon, die Fragmente über die Götter nach menschlichem Bild, überliefert bei Clemens von Alexandria. Einordnung in der Stanford Encyclopedia of Philosophy: https://plato.stanford.edu/entries/xenophanes/ Fritz Heider und Marianne Simmel (1944): An Experimental Study of Apparent Behavior. American Journal of Psychology 57. https://doi.org/10.2307/1416950 Joseph Weizenbaum (1966): ELIZA. A Computer Program For the Study of Natural Language Communication Between Man and Machine. Communications of the ACM 9(1) Zur Sekretärinnen-Geschichte und warum sie sich nicht belegen lässt, Projekt ELIZA Archaeology: https://sites.google.com/view/elizaarchaeology/blog/3-weizenbaums-secretary Die Erklärung von 2007, warum wir vermenschlichen: Nicholas Epley, Adam Waytz und John Cacioppo, On Seeing Human. A Three-Factor Theory of Anthropomorphism. Psychological Review 114. https://doi.org/10.1037/0033-295X.114.4.864 Profil von Anneke Buffone an der USC Marshall School of Business, wo sie als Neely Senior Practitioner Fellow zu Jugendschutz und Altersnachweis bei Sprachmodellen arbeitet: https://www.marshall.usc.edu/people/anneke-meyerberg-buffone Ihr Papier zu Kindersicherheit im Netz, „A Shared Responsibility Framework for Children's Online Safety", mit dem Satz „No safety policy can rest on platforms grading themselves": https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6381800 Der Prozess des Staates Tennessee gegen Meta, in dem sie als Zeugin aussagte, Verhandlung vom 24. Juli bis 26. August 2026 in Nashville: https://cvn.com/proceedings/state-of-tennessee-v-meta-platforms-inc-et-al-trial-2026-07-20 Die Mitteilung der Generalstaatsanwaltschaft Tennessee zum Vergleich vom 26.08.2026: https://www.tn.gov/attorneygeneral/news/2026/8/26/pr26-33.html Metas eigene Themenseite zu den Jugendschutz-Verfahren: https://www.meta.com/safety/teen-safety-lawsuits/
Mitmachen
Svea sammelt Ersatzbegriffe für vermenschlichende KI-Sprache. Wenn euch gute Alternativen einfallen, schreibt uns.
Wird KI uns alle umbringen (und warum das die falsche Frage ist) - 100 Folgen TTT
Hundert Folgen. Angefangen hat alles am 14. August 2024, damals hieß der Podcast noch "Frauen und Technik". Svea und Eva gehen in den Weinkeller und holen drei Jahrgänge nach oben. Frederike Kaltheuner über das …
Notas del episodio
Hundert Folgen. Angefangen hat alles am 14. August 2024, damals hieß der Podcast noch "Frauen und Technik". Svea und Eva gehen in den Weinkeller und holen drei Jahrgänge nach oben. Frederike Kaltheuner über das große Blasenterritorium. BSI-Chefin Claudia Plattner über Desinformation vor Wahlen. Julia Freudenberg über Kinder und Smartphones, mit dem Bobbycar auf der Autobahn. Alle drei klingen heute dringlicher als damals, und das ist keine gute Nachricht. Dazwischen die Frage, warum der Bremsappell aus dem Silicon Valley eigentlich ein Produktproblem beschreibt. Warum russische Bots fast niemanden erreichen und trotzdem Schlagzeilen machen. Und warum man Journalistinnen anschreibt, damit sie eine Fälschung entdecken. Am Ende ein Cliffhanger, den Svea für den besten aller Zeiten hält.
Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Shownotes: KI als Blase, mit Frederike Kaltheuner (Folge 57, 19.11.2025): https://frauen-technik.podigee.io/57-new-episode
Heise-Text zur Folge, "Warum KI eine Blase ist und was das mit digitaler Souveränität zu tun hat": https://www.heise.de/news/Warum-KI-eine-Blase-ist-und-was-das-mit-digitaler-Souveraenitaet-zu-tun-hat-11089348.html
"Wie sicher sind unsere Wahlen, Claudia Plattner?" (Folge 16, 05.02.2025): https://frauen-technik.podigee.io/16-neue-episode
"Smartphone und Kinder: Wieviel ist gut? Mit Julia Freudenberg" (Folge 28, 30.04.2025): https://frauen-technik.podigee.io/28-new-episode
Der Mediennutzungsvertrag zum Selbstausfüllen, von Internet-ABC und klicksafe: https://www.mediennutzungsvertrag.de/
"Jolie, Teil 1: Die Jagd nach dem Unsichtbaren" (Folge 65, 14.01.2026): https://frauen-technik.podigee.io/65-new-episode
X-Mas Spezial 1/2, "Der große Krypto-Hack": Ein Milliardenraub, eine Rapperin und ganz viele Bitcoins (Folge 10, 25.12.2024): https://frauen-technik.podigee.io/10-neue-episode
Bundesamt für Verfassungsschutz zur Kampagne MATRYOSHKA, Kurzmeldung vom 12.08.2026: https://www.verfassungsschutz.de/SharedDocs/kurzmeldungen/DE/2026/2026-08-12-auslaendische-einflussnahme.html
Correctiv hat nachgezählt: "Diese russischen Bots erreichen fast niemanden": https://correctiv.org/hybride-kriegsfuehrung/2026/09/04/einflussnahme-auf-landtagswahlen-diese-russischen-bots-erreichen-fast-niemanden/
Hörtipp: Darknet Diaries Deutsch, produziert von Heise, deutsche Stimme von Jack: Marko Pauli.
Dritte Staffel seit dem 15. September 2026: https://darknet-diaries-deutsch.podigee.io/
Die Ankündigung bei Heise: https://www.heise.de/news/Podcast-Darknet-Diaries-Deutsch-startet-in-die-dritte-Staffel-11437077.html
IFA Besuch: Roboter, die Kaffee verschütten. Und Brillen, die dich filmen mit IT-Anwältin Karina Filusch
Neben uns tanzen Roboter - Svea und Eva sitzen für diese Folge mitten auf der IFA in Berlin, zwischen humanoiden Robotern mit Catwalk-Ambitionen, Kühlschränken, die den Salat im Blick behalten, und einem …
Notas del episodio
Neben uns tanzen Roboter - Svea und Eva sitzen für diese Folge mitten auf der IFA in Berlin, zwischen humanoiden Robotern mit Catwalk-Ambitionen, Kühlschränken, die den Salat im Blick behalten, und einem Haushaltsroboter, dem beim Kaffeekochen ungefähr alles misslingt. Klingt lustig, ist es auch… wenn da nur nicht überall Kameras verbaut wären. Aber auch dafür gibt es inzwischen lokale Lösungen. Wir ordnen ein. Und wir widmen uns einem weiteren großen Trend: Smart Glasses, im Netz längst "Pervert Glasses" genannt. Junge Männer filmen damit heimlich Frauen auf der Straße und stellen sie auf TikTok bloß. Ist das erlaubt? Wie schnell wird aus einem Clip eine Straftat? Und was kannst du eigentlich tun, wenn dein Kind auf dem Spielplatz mitgefilmt wird? Darüber sprechen wir mit Carina Filusch, IT-Fachanwältin aus Berlin. Sie erklärt, warum die Bundesnetzagentur das winzige LED-Licht durchgewunken hat, warum heimliche Tonaufnahmen härter bestraft werden als Video, und warum diese ganze Debatte schon 1890 schon einmal geführt wurde.
Shownotes Heise auf der IFA: https://www.heise.de/news/Roboter-fuer-schwere-Lasten-kleine-Kinder-und-grosse-Sorgen-11442532.html
Lokales Smarthome: https://www.theverge.com/tech/990006/this-nas-company-wants-to-run-your-local-smart-home
Kanzlei Filusch: https://kanzlei-filusch.de Sowie der Podcast DaSou: https://dasou.law/
heise online, "Datenschutz kontra Meta Smart Glasses: Droht ein Verbot in Deutschland?": https://www.heise.de/news/Datenschutz-kontra-Meta-Smart-Glasses-Droht-ein-Verbot-in-Deutschland-11394520.html
BfDI, FAQ zu den Ray-Ban Meta Smart Glasses: https://www.bfdi.bund.de/DE/Buerger/Inhalte/Telemedien/Meta_Smart_Glasses.html
TikTok Videos zu “Pick up Artists” https://www.tiktok.com/@koelleforniagurl/video/7623803991217966368 https://www.tiktok.com/@ekat_levy/video/7632363690347580694
Ein offener Brief von OpenAI und Milliarden statt Urteil: Wie Meta den Big-Tobacco-Moment abwendet
16,68 Milliarden Dollar, kein Urteil, kein Schuldeingeständnis, keine Präzedenzwirkung. Svea und Eva sortieren, was beim Meta Vergleich in den USA eigentlich passiert ist. Denn was auf den ersten Blick wirkt …
Notas del episodio
16,68 Milliarden Dollar, kein Urteil, kein Schuldeingeständnis, keine Präzedenzwirkung. Svea und Eva sortieren, was beim Meta Vergleich in den USA eigentlich passiert ist. Denn was auf den ersten Blick wirkt, wie ein Einlenken des Big-Tech Konzerns, ist bei genauerem Hinschauen doch eher ein “weiter so”: Endlos-Scroll, Autoplay und personalisierte Feeds bleiben erlaubt. Dazu: Was heißt das für Europa, den DSA und die Altersverifikation, ohne dass am Ende noch mehr Daten bei Meta landen?
Außerdem eine E-Mail, die aussah wie Scam: Ein offener Brief von OpenAI und mehr als hundert Unternehmen, unter ihnen Telekom und SAP, die zu mehr KI für die Cyber-Verteidigung aufrufen. Eva erklärt, warum sie das für einen ziemlich perfiden Kreislauf hält: Wer die Probleme baut, verkauft die Lösung gleich mit.
Und zum Schluss eine Frage an euch, ausgelöst von einem Hörer: zu viel KI hier? Welche Themen fehlen euch? Schreibt uns.
Hosts: Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Shownotes
Der Vergleich bei Heise: https://www.heise.de/news/Gefahr-fuer-Jugendliche-Meta-legt-US-Rechtsstreit-gegen-Milliardenzahlung-bei-11426981.html
Was die Auflagen konkret bedeuten: https://www.heise.de/en/news/Bar-on-Instagram-Meta-s-Deal-Enforces-Strict-Restrictions-11432337.html
EU-Verfahren zu Suchtrisiken (DSA): https://www.heise.de/news/EU-Instagram-und-Facebook-bergen-zu-grosse-Suchtrisiken-11360935.html
EU-Jugendschutzplan vor dem Aus: https://www.heise.de/news/Aufgeweichter-EU-Jugendschutzplan-Striktes-Social-Media-Verbot-steht-vor-Aus-11434086.html
Der offene Brief: https://www.heise.de/news/Begrenztes-Zeitfenster-Mehr-als-100-Unternehmen-warnen-vor-KI-Cyberangriffen-11432718.html
Einordnung dazu: https://the-decoder.de/openai-und-mehr-als-100-unternehmen-warnen-in-offenem-brief-vor-ki-gestuetzten-cyberangriffen-auf-kritische-infrastruktur/
"Nach Redaktionsschluss" (Deutschlandfunk): https://www.deutschlandfunk.de/nach-redaktionsschluss-der-medienpodcast-100.html
Matroschka: Russlands neue Kampagne + Sommerinterview mit Doris Weßels, Teil 2
sueddeutsch.de sieht aus wie die Webseite der Süddeutschen Zeitung. Ist sie aber nicht. Die russische Doppelgänger-Kampagne ist zurück. Mit “Matroschka” werden jetzt vor den Septemberwahlen in Sachsen-Anhalt …
Notas del episodio
sueddeutsch.de sieht aus wie die Webseite der Süddeutschen Zeitung. Ist sie aber nicht. Die russische Doppelgänger-Kampagne ist zurück. Mit “Matroschka” werden jetzt vor den Septemberwahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern erstmals einzelne Kandidierende an angegriffen, bis runter zur Kommunalwahl. Verschont bleiben AfD und BSW. Eva Wolfangel und Svea Eckert sprechen darüber und warum X nichts löscht, was die DSA-Strafe wirklich gebracht hat und was Moldau uns voraus hat.
Danach Teil 2 mit Wirtschaftsinformatikerin Doris Weßels: Muss Lernen wehtun? Warum Verbote erst die Täuschung erzeugen. Medizinstudierende, die Fachwörter streichen, damit der KI-Detektor schweigt. Imitieren wir längst die KI? Und wie man in den 80ern als rothaarige Mathematikerin auf einer Blacklist landet.
Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Heise zur Matrjoschka-Kampagne: https://www.heise.de/news/MDR-warnt-vor-gefaelschten-Videos-und-Desinformationskampagne-11414625.html
Svea’s Buch zum Vorbestellen: https://www.droemer-knaur.de/buch/svea-eckert-till-krause-im-netz-der-taeter-9783426575611
Bundesamt für Verfassungsschutz (12. August 2026): Deutschland erneut im Visier ausländischer Einflussnahme: https://www.verfassungsschutz.de/SharedDocs/kurzmeldungen/DE/2026/2026-08-12-auslaendische-einflussnahme.html
CeMAS: Die internen SDA-Dokumente der Doppelgänger-Kampagne: https://cemas.io/blog/sda-dokumente-russlands-desinformationsstrategie/
CeMAS-Monitoring zu Doppelgänger vor der Bundestagswahl 2025: https://btw2025.cemas.io/artikel/update-doppelgaenger
Viginum (Frankreich) zum Netzwerk „Portal Kombat" (2024): https://www.sgdsn.gouv.fr/files/files/20240212_NP_SGDSN_VIGINUM_PORTAL-KOMBAT-NETWORK_ENG_VF.pdf
EU-Kommission: 120-Millionen-Strafe gegen X (5. Dezember 2025): https://germany.representation.ec.europa.eu/news/gesetz-uber-digitale-dienste-eu-kommission-verhangt-geldbusse-hohe-von-120-millionen-euro-gegen-x-2025-12-05_de
Doris Weßels: https://de.wikipedia.org/wiki/Doris_We%C3%9Fels VK:KIWA: https://www.vkkiwa.de/blog/
Unsere Folge „Lernen verlernt? Was ChatGPT mit unserem Denken macht": https://frauen-technik.podigee.io/46-new-episode
Scientific American: ChatGPT Is Changing the Words We Use in Conversation: https://www.scientificamerican.com/article/chatgpt-is-changing-the-words-we-use-in-conversation/
heise: Studie: Menschen sprechen immer häufiger wie die KI: https://www.heise.de/en/news/Study-Is-AI-changing-human-language-10458205.html
Doris Weßels: „Künstliche Intelligenz trifft auf Hochschullehre" (Vortrag, Uni Paderborn): https://videos.uni-paderborn.de/video/Prof2E-Dr2E-Doris-Wessels-28FH-Kiel293A-26quot3BKuenstliche-Intelligenz-trifft-auf-Hochschullehre26quot3B/1acf605c51b00770d9fe64a2cb72b3cd
Die Hausarbeit ist tot: Doris Weßels über KI und Bildung (Sommerinterview, Teil 1)
Mai 2018, Audimax in Kiel: Doris Weßels spielt ein Ein-Personen-Stück über Studierende, Ghostwriter und eine Software, die allen das Schreiben abnimmt. Zu abgefahren, dachte sie damals selbst. Dann kam ChatGPT …
Notas del episodio
Mai 2018, Audimax in Kiel: Doris Weßels spielt ein Ein-Personen-Stück über Studierende, Ghostwriter und eine Software, die allen das Schreiben abnimmt. Zu abgefahren, dachte sie damals selbst. Dann kam ChatGPT. Im ersten Teil unseres Sommerinterviews erzählt die Wirtschaftsinformatikerin Doris Weßels, warum sie Verbote für den falschen Weg hält und weshalb die klassische Abschlussarbeit nicht mehr funktioniert. Es geht um KI als „Triple Agent” zwischen Lernenden, Lehrenden und Prüfenden, um ihre Forderung nach einer Taskforce KI-Bildung im Bundestag und um die Frage, ob Lernen anstrengend sein muss oder auch im Flow geht. Fortsetzung nächste Woche.
Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Shownotes: KI-Deepdive zum Thema Bildung bei Heise: https://www.heise.de/news/KI-Update-Deep-Dive-Wie-Schulen-KI-Kompetenz-systematisch-vermitteln-koennen-11397738.html
Doris Weßels: https://de.wikipedia.org/wiki/Doris_We%C3%9Fels VK:KIWA, Virtuelles Kompetenzzentrum Schreiben lehren und lernen mit KI: https://www.vkkiwa.de/blog/
Stellungnahme von Doris Weßels für den Bundestagsausschuss (2023): https://www.bundestag.de/resource/blob/944668/8986c32590098f441fbba938039650e5/20-18-108c-Wessels-data.pdf
Joscha Falck: Lernen mit, über, durch, trotz und ohne KI: https://joschafalck.de/lernen-und-ki/
Wenn der Praktikant den Generalschlüssel hat: KI-Agenten außer Kontrolle?
Wir haben uns die Zeit genommen, den Vorfall nochmal in Ruhe auseinanderzunehmen: OpenAI lässt seine Modelle in einem Hacking-Benchmark antreten, sicher verwahrt in einer Sandbox. Doch die Agenten finden eine …
Notas del episodio
Wir haben uns die Zeit genommen, den Vorfall nochmal in Ruhe auseinanderzunehmen: OpenAI lässt seine Modelle in einem Hacking-Benchmark antreten, sicher verwahrt in einer Sandbox. Doch die Agenten finden eine Zero-Day-Lücke, brechen aus, kapern eine fremde Sandbox als Startrampe und dringen bei Hugging Face ein. Fünf Tage lang.
Wir rekonstruieren, was zwischen dem 9. und 13. Juli passiert ist und warum OpenAI erst über eine Woche später gemerkt hat, dass die eigenen Modelle dahinterstecken. Und dann nehmen wir uns das Drumherum vor: das Marketing, das aus einem peinlichen Sicherheitsvorfall mächtige, gefährliche KI macht. Die Sprache, die aus Statistik plötzlich Wollen und Entscheiden zaubert.
Reinhören lohnt sich. Auch aus dem Liegestuhl.
Neueste Erkenntnisse zum Vorfall bei Heise: https://www.heise.de/news/OpenAI-liefert-mehr-Details-zum-Hugging-Face-Vorfall-11403154.html
Interview Bloomberg TV mit Signal Chefin Meredith Whittaker: https://www.bloomberg.com/news/videos/2026-07-24/whittaker-on-openai-hugging-face-hack-china-privacy-video
Evas Kommentar dazu: https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall
Hugging Face: Anatomy of a Frontier Lab Agent Intrusion, das technische Write-up mit der kompletten Angriffskette (27.07.2026): https://huggingface.co/blog/agent-intrusion-technical-timeline
Hugging Face: erste Offenlegung des Vorfalls: https://huggingface.co/blog/security-incident-july-2026
OpenAI: Security incident during model evaluation (21.07.2026, Updates 28./29.07.): https://openai.com/index/hugging-face-model-evaluation-security-incident/
JFrog: Offenlegung der Zero-Day-Lücke in Artifactory: https://jfrog.com/blog/jfrog-and-openai-collaboration-on-zero-day-security-findings/
Der ExploitGym-Benchmark (arXiv): https://arxiv.org/abs/2605.11086
Meredith Whittaker im Bloomberg-Weekend-Interview, frei zugänglich zitiert bei TechCrunch: https://techcrunch.com/2026/06/20/signals-meredith-whittaker-wants-you-to-remember-that-ai-chatbots-are-not-your-friends/
Synchronsprecher:innen gegen Netflix mit Anna-Sophia Lumpe
Synchronsprecher:innen sehen in echt auszusehen ist ein komischer Effekt: Die Stimme von Bruce Willis oder Angelina Jolie gehört einem Menschen, den kaum jemand kennt. Genau diese Menschen kämpfen gerade um …
Notas del episodio
Synchronsprecher:innen sehen in echt auszusehen ist ein komischer Effekt: Die Stimme von Bruce Willis oder Angelina Jolie gehört einem Menschen, den kaum jemand kennt. Genau diese Menschen kämpfen gerade um ihre Existenz. Zu Gast ist Anna-Sophia Lumpe, Vorsitzende des Verbands Deutscher Sprecher:innen, und sie erklärt, warum es längst nicht mehr ums simple Kopieren einer Stimme geht, sondern um die Stimmführung, das eigentliche Handwerk, das KI-Systeme sich einverleiben wollen. Svea und Eva sprechen mit ihr über die KI-Klausel bei Netflix, über Stimmen, die im Bauch der Maschine verschwinden, über YouTube als heimliche Trainingswiese und über das, was ab dem 2. August mit dem EU AI Act an Kennzeichnungspflicht kommt. Teil 2 unseres Deep Dives, der erste Teil lief in Annas Podcast „Künstlerische Intelligenz".
Shownotes-Links:
Anna-Sophia Lumpe, Podcast „Künstlerische Intelligenz" (Teil 1 des Deep Dives): https://kuenstlerische-intelligenz.podigee.io/
Anna-Sophia Lumpe im Gespräch, ZDF Kulturzeit (Protest der Synchronstimmen): https://www.zdf.de/video/magazine/kulturzeit-324/protest-der-synchronstimmen-gespraech-mit-anna-sophia-lumpe-100
Netflix KI-Klausel, Boykott der Synchronsprecher:innen (ZDFheute): https://www.zdfheute.de/wirtschaft/synchronsprecher-boykott-netflix-ki-stimmen-100.html
Patrick Winczewski (dt. Stimme von Tom Cruise) über den KI-Streit: https://www.digitalfernsehen.de/news/inhalte/streaming/deutsche-stimme-von-tom-cruise-ueber-den-ki-streit-netflix-versucht-praezedenzfaelle-zu-schaffen-1173330/
Bev Standing gegen TikTok/ByteDance (Stimme für Text-to-Speech, 2021): https://voicebot.ai/2021/05/07/voice-actor-sues-tiktok-for-generating-text-to-speech-voice-from-her-recordings-without-permission/
Scarlett Johansson und OpenAIs „Sky"-Stimme (2024): https://www.npr.org/2024/05/20/1252495087/openai-pulls-ai-voice-that-was-compared-to-scarlett-johansson-in-the-movie-her
EU AI Act, Kennzeichnungspflicht für KI-Inhalte ab 2. August 2026 (Haufe): https://www.haufe.de/recht/kanzleimanagement/kennzeichnungspflicht-fuer-ki-inhalte-gilt-ab-august-2026_222_681220.html
Sommer-Spezial Teil 2: Wie wir KI nutzen, Claude als persönlicher Assistent
Diese Woche ist Svea dran, und zeigt, wie sie Claude aktuell als Assistent einsetzt. Ihr Trick: nicht der private Account, sondern ein eigenes Postfach nur für die KI, mit eigenem Kalender und Drive. Der Agent …
Notas del episodio
Diese Woche ist Svea dran, und zeigt, wie sie Claude aktuell als Assistent einsetzt. Ihr Trick: nicht der private Account, sondern ein eigenes Postfach nur für die KI, mit eigenem Kalender und Drive. Der Agent sieht nur, was er sehen soll. Dazu jede Menge Alltag, warum überhaupt Claude, To-do-Listen und Dopamin, und ein Browser-Connector in Beta, wenn sich Claude mit flackerndem Mauszeiger durch die Seiten klickt.
Musik und Produktion: Marko Pauli
Shownotes: News rund um Claude bei Heise: https://www.heise.de/news/Claude-Cowork-kommt-ins-Web-und-aufs-Smartphone-11357349.html
Claude (KI-Assistent, den Svea nutzt): https://claude.ai
Konnektoren in Claude (Hintergrund): https://www.anthropic.com/news/connectors
Riverside (Podcast-Aufnahmesoftware): https://riverside.fm
Feedback und Kontakt: per Mail (am liebsten von euch selbst, ohne Agent), sowie auf Mastodon, Instagram und LinkedIn
Sommer-Spezial Teil 1: Wie wir KI nutzen, Jailbreaks und Vibe-Coding
Bei Eva gehts heute um Jailbreaking, also darum, KI genau die Dinge zu entlocken, die sie verschweigen soll. Ihr Lieblingsziel ist nicht das Drogenrezept, sondern der geheime Systemprompt. Und der ist „Gold" …
Notas del episodio
Bei Eva gehts heute um Jailbreaking, also darum, KI genau die Dinge zu entlocken, die sie verschweigen soll. Ihr Lieblingsziel ist nicht das Drogenrezept, sondern der geheime Systemprompt. Und der ist „Gold" wert. Wie man da rankommt? Mit Sprache und Geduld, nicht mit Code. Eva hat einem Bot sogar eine Krankheit erfunden, damit er redet. Dazu baut sie sich mit Claude Code eigene Recherche-Tools, und merkt: Als Agent ist die KI viel fügsamer als im Browser. Außerdem: Vibe-Coding und Skills basteln für Anfänger, wie Eva Claude für OSINT Recherchen nutzt und kleine Programme damit baut. Cliffhanger zum Schluss: Nächste Woche zeigt Svea, wie sie ihre Mails von einer KI verwalten lässt, (hoffentlich) ohne von Eva gehackt zu werden.
Musik und Produktion: Marko Pauli
Shownotes Das Heise 1x1 zum Vibe-Coding: https://peertube.heise.de/w/dNKHWHwZWLBGyknUTAJpSt
• Claude Code (KI im Agentenmodus): https://www.anthropic.com/claude-code • OpenALEPH / Aleph (Rechercheplattform, Follow the Money / OCCRP-Umfeld): https://aleph.occrp.org • Hintergrund zu Prompt Injection und Agenten-Risiken (OWASP für LLMs): https://owasp.org/www-project-top-10-for-large-language-model-applications/ • Feedback und Kontakt: per Mail (am liebsten von euch selbst, ohne Agent), sowie auf Mastodon, Instagram und LinkedIn
Live mit Katharina Scheiter: KI und Bildung - Verlernen wir gerade, wie man denkt?
They Talk Tech Live vom University:Future Festival 2026 mit Katharina Scheiter, Professorin für Lehr-Lernforschung an der Universität Potsdam und eine der klügsten Stimmen in Deutschland, wenn es um …
Notas del episodio
They Talk Tech Live vom University:Future Festival 2026 mit Katharina Scheiter, Professorin für Lehr-Lernforschung an der Universität Potsdam und eine der klügsten Stimmen in Deutschland, wenn es um evidenzbasierte Perspektiven auf digitales Lernen geht. Wir sprechen über die Frage, ob KI uns schlauer macht oder nur bequemer, und wie wir unsere Interaktion mit Chatbots & Co mehr in die Richtung schlauer statt bequemer drehen können. Wenn unser Gehirn Abkürzungen liebt und Chatbots immer mehr kognitive Arbeit übernehmen, verlernen wir dann, uns wirklich mit Inhalten auseinanderzusetzen? Wir diskutieren Studien, Fehlanreize im Bildungssystem und die Frage, wie KI sinnvoll als Lernwerkzeug eingesetzt werden kann, ohne den Lernprozess zu ersetzen. Denn Anstrengung ist kein Bug, sondern das Feature von Lernen. Wir sprechen auch darüber, wann metakognitive Faulheit zum echten Problem wird und was sich in Schule und Hochschule radikal ändern muss (Spoiler: ziemlich viel).
University:Future Festival 2026: https://festival.hfd.digital/de/sessions-2026/?id=1191986 Interview von Eva mit Katharina Scheiter: https://t3n.de/news/hirnforscher-warnen-chatgpt-1712547 bzw. https://shop.t3n.de/collections/mit-technology-review/products/mit-technology-review-07-2025
Relationship Exploit: Wenn Chatbots petzen - Krise am Arbeitsplatz bei Meta
Wir tippen unsere intimsten Dinge in Chatbots. Krankheiten, Kindererziehung, den Frust im Job. Und die Maschine antwortet so, dass es sich anfühlt wie der beste Kumpel. Kein Zufall, sagt Eva: KI-Firmen trimmen …
Notas del episodio
Wir tippen unsere intimsten Dinge in Chatbots. Krankheiten, Kindererziehung, den Frust im Job. Und die Maschine antwortet so, dass es sich anfühlt wie der beste Kumpel. Kein Zufall, sagt Eva: KI-Firmen trimmen ihre Bots bewusst auf Nähe. Die Forscherin Marisa Tschopp nennt es „Relationship Exploit", einen Angriff auf unsere älteste Schwäche. Aber was, wenn dieser beste Freund nicht dir gehört, sondern deiner Firma? Svea bringt den Fall Meta mit, wo jeder Tastenanschlag aufgezeichnet wurde, fürs Training genau der KI, die eventuell mal Jobs ersetzen soll. Wir sprechen über Macht-Asymmetrie und darüber, warum „Ich hab doch nichts zu verbergen" zu kurz greift. Und zum Schluss die überraschende Gegenposition des Philosophen Markus Gabriel: Vielleicht macht uns dieser Spiegel sogar klüger über uns selbst.
Shownotes-Links
Markus Gabriel, „Ethische Intelligenz. Wie KI uns moralisch weiterbringen kann": https://www.perlentaucher.de/buch/markus-gabriel/ethische-intelligenz.html
Katharina Zweig, „Weiß die KI, dass sie nichts weiß?" (2025): https://www.penguin.de/buecher/reihen/kuenstliche-intelligenz/5006263
Marisa Tschopp (Forschung Mensch-KI-Beziehung, scip AG): https://www.scip.ch/en/?team.mats
Meta „Model Capability Initiative", EU-Kontext und Hintergrund (Tech Policy Press): https://www.techpolicy.press/metas-worker-surveillance-tests-eu-rules-on-ai-and-labor
Meta stoppt KI-Tracking nach Mitarbeiterprotest (dt. Bericht): https://www.ad-hoc-news.de/wissenschaft/meta-stoppt-ki-training-1-600-mitarbeiter-protestieren-gegen-ueberwachung/69628297
OpenAI-Studie „How People Use ChatGPT" (wofür Menschen Chatbots nutzen): https://openai.com/index/how-people-are-using-chatgpt/
Die erfundene Krankheit, die ChatGPT für echt hielt, und die Menschen hinter der KI mit Julia Kloiber
Svea und Eva starten bei geklauten Recherchen und Magazinen, die fremde Texte per KI umschreiben und als eigene ausgeben. Dann der Fall aus Göteborg: ein erfundenes Leiden, das sich durch die Sprachmodelle …
Notas del episodio
Svea und Eva starten bei geklauten Recherchen und Magazinen, die fremde Texte per KI umschreiben und als eigene ausgeben. Dann der Fall aus Göteborg: ein erfundenes Leiden, das sich durch die Sprachmodelle frisst wie ein Wurm. Und schließlich Julia Kloiber vom Superrr Lab. Sie macht sichtbar, wer die KI überhaupt erst sauber hält: Millionen Datenarbeiterinnen, oft mit Studium, oft traumatisiert, fast immer unsichtbar.
Shownotes:
Evas Blogbeitrag „KI und das Ende des Journalismus" (26.06.2026): https://ewo.name/termine/457-ki-und-das-ende-des-journalismus
Bixonimania, die erfundene Krankheit, die in die Sprachmodelle gelangte (Nature, 2026): https://www.nature.com/articles/d41586-026-01100-y
Superrr Lab (Julia Kloiber): https://superrr.net
Data Workers' Inquiry, das Projekt von Superrr Lab mit dem Distributed AI Research Institute (DAIR): https://data-workers.org
Time-Recherche zur Datenarbeit in Kenia, „OpenAI Used Kenyan Workers on Less Than $2 Per Hour" (Billy Perrigo, 18.01.2023): https://time.com/6247678/openai-chatgpt-kenya-workers/
Über 140 Content-Moderierende in Kenia mit PTBS diagnostiziert, eingereicht am Kenyatta National Hospital (CNN, Dez. 2024): https://edition.cnn.com/2024/12/22/business/facebook-content-moderators-kenya-ptsd-intl
Hexenjagd auf KI-Texte (und warum die Jäger danebenliegen)
Svea funkt aus einer fensterlosen Kammer in Brüssel, EU-Parlament, KI im Journalismus. Im Gepäck eine fiese Zahl: Bei KI-Overviews klicken nur noch 8 Prozent auf einen echten Link. Und Eva? Hat sich die …
Notas del episodio
Svea funkt aus einer fensterlosen Kammer in Brüssel, EU-Parlament, KI im Journalismus. Im Gepäck eine fiese Zahl: Bei KI-Overviews klicken nur noch 8 Prozent auf einen echten Link. Und Eva? Hat sich die KI-Detektoren vorgeknöpft, allen voran Pangram. Ihr Urteil fällt hart aus. Alte Trainingsdaten, false positives, Studien in eigener Sache, und trotzdem werden Autorinnen und Autoren beschuldigt. Eine Hexenjagd auf KI-Texte, nur mit Statistik statt Wassertest? Zum Schluss Einblick in ein Hörerprojekt: Phil bastelt einen kleinen Roboter aus Lego und Arduino, der alle Machine-Learning-Klassiker durchspielt. Fails inklusive.
Shownotes:
Heise zu KI Overviews:
https://www.heise.de/news/KI-Suche-Google-bringt-die-AI-Overviews-nach-Deutschland-10328360.html
Zu KI-Detektoren
KI-Overviews, weniger Clicks
Reuters News Report
https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025
WaPo Meinungsartikel:
https://www.wsj.com/opinion/the-ai-detector-as-defamation-machine
Slate zu Detektoren:
https://slate.com/technology/2026/04/ai-writing-detectors-scandal-shy-girl.html
Phils Projekt
https://www.pmaurer.net/wp-content/uploads/2026/06/Bildschirmaufnahme-2026-06-13-084826.mp4
Wenn Washington der Welt die KI abdreht und: Standortdatenausverkauf mit Rebecca Ciesielski
„Currently unavailable.” Über Nacht war Fable 5 weg, gesperrt per Anordnung der US-Regierung für alle, die keinen US-Pass haben. Svea und Eva fragen: Was bedeutet es, wenn Washington der halben Welt den Zugang …
Notas del episodio
„Currently unavailable.” Über Nacht war Fable 5 weg, gesperrt per Anordnung der US-Regierung für alle, die keinen US-Pass haben. Svea und Eva fragen: Was bedeutet es, wenn Washington der halben Welt den Zugang zur stärksten KI kappen kann? Und was, wenn dein Unternehmen längst alles darauf gebaut hat? Dazu ein Digitalminister, dessen Reden verdächtig nach Chatbot klingen, und die Frage, ab wann KI-Sprache nur noch leere Hülle ist. Im zweiten Teil wird es konkret: BR-Reporterin Rebecca Ciesielski hat gemeinsam mit Kolleg:innen u.a. von Netzpolitik.org Milliarden Handy-Standortdaten ausgewertet, ganz offen gehandelt. Bewegungsprofile von Soldaten, Geflüchteten und vielleicht von dir? Durchgereicht auch von einer harmlosen Wetter-App.
Hosts: Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Shownotes US-Regierung erzwingt Abschaltung von Fable 5 und Mythos 5 (heise): https://www.heise.de/news/US-Regierung-erzwingt-Abschaltung-von-Anthropics-KI-Fable-5-und-Mythos-5-11331129.html
Digitalminister Wildberger ließ Reden und Gastbeiträge von KI schreiben (heise): https://www.heise.de/news/Digitalminister-Wildberger-liess-Reden-und-Gastbeitraege-von-KI-schreiben-11331531.html
Rebecca Ciesielski u.a., „Ausspioniert mit Standortdaten” (BR Data / netzpolitik.org, Databroker Files): https://interaktiv.br.de/ausspioniert-mit-standortdaten
Reportage „Gefährliche Apps – Im Netz der Datenhändler” (ARD Mediathek): https://www.ardmediathek.de/video/story/gefaehrliche-apps-im-netz-der-datenhaendler/br/Y3JpZDovL2JyLmRlL2Jyb2FkY2FzdC9hYmI2NzU1NC1kMWRjLTQxZWItODk0Yi1hZjZmN2QyNDEzZTdfb25saW5lYnJvYWRjYXN0
Chatbot-(In)Security bei Instagram + Deep Dive: Wofür Svea Claude nutzt
Ein KI-Chatbot, der Instagram-Accounts übernimmt. Keine Sicherheitslücke im klassischen Sinn, sondern ein geschwätziger Chatbot. Metas Support-Bot hat genau das ermöglicht, und damit zeigt dieser Fall …
Notas del episodio
Ein KI-Chatbot, der Instagram-Accounts übernimmt. Keine Sicherheitslücke im klassischen Sinn, sondern ein geschwätziger Chatbot. Metas Support-Bot hat genau das ermöglicht, und damit zeigt dieser Fall stellvertretend, was passiert, wenn Konzerne ihr Trust-and-Safety-Team wegrationalisieren.
Danach zoomen Eva und Svea raus und fragen: Macht KI uns sicherer oder verwundbarer? Die Antwort: Ja und Ja. Und dann: ein kleiner Deep Dive in Sveas Keller, wo Claude seit ein paar Wochen als persönlicher Assistent sitzt, ihren Kalender managt, Rechnungen vorbereitet und Newsletters zusammenfasst. Inklusive der Frage, ob das wirklich die Zukunft ist oder ob wir gerade einfach mit einer Deodose das Ozonloch größer sprühen.
Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Shownotes:
Das Thema bei Heise: https://www.heise.de/news/WTF-Metas-KI-Chatbot-half-beim-Knacken-zehntausender-Instagram-Accounts-11320886.html
Vibe Coding Projekt von unserem Hörer: https://www.data-dna.eu
Gift und Heilmittel: Was Chatbots mit uns machen mit Philosophin Dorothea Winter
Diesmal fragen wir nicht, was KI kann, sondern was sie mit uns macht. Genau dafür sitzt Dr. Dorothea Winter am Tisch: Philosophin und KI-Forscherin. Kann eine Maschine Kunst? Winter sagt nein und erklärt warum …
Notas del episodio
Diesmal fragen wir nicht, was KI kann, sondern was sie mit uns macht. Genau dafür sitzt Dr. Dorothea Winter am Tisch: Philosophin und KI-Forscherin. Kann eine Maschine Kunst? Winter sagt nein und erklärt warum: Wir Menschen sind eine Taschenlampe, die sich gezielt auf etwas richtet. KI ist die Deckenleuchte. Dazu geht's um Chatbots als Therapie-Ersatz, um die Gefahr, soziale Probleme einfach technisch wegzuwischen, und um die Frage, warum „vertrauenswürdige KI" philosophisch ein Kategorienfehler ist. Am Ende bleibt das, was Maschinen uns nie abnehmen: Widerspruch aushalten. Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Shownotes: Unser Gast: Dr. Dorothea Winter Profil an der Humanistischen Hochschule Berlin: https://humanistische-hochschule-berlin.de/team/dorothea-winter/ re:publica-Profil: https://re-publica.com/de/user/15212 Bücher von Dorothea Winter „Warum Künstliche Intelligenz keine schöne Kunst im kantischen Sinne hervorbringen kann" (J.B. Metzler / Springer, 2022): https://link.springer.com/book/10.1007/978-3-662-64873-5 Essay „KI, Kunst und Kitsch – Ein philosophischer Aufreger" (in Arbeit)
They Talk Tech Live zum Thema KI und Lernen mit Katharina Scheiter beim University Future Festival in Berlin https://festival.hfd.digital/de/sessions-2026/?id=1191986
Sommerzeit, Scammerzeit: Booking-Hack, Privacy by Lying und re:publica Nachlese
Eine WhatsApp-Nachricht von einer unbekannten Nummer. Sveas echter Name, ihr echtes Hotel, das echte Datum. Deadline: 11 Stunden, 13 Minuten. Was folgt, ist eine täuschend echte Booking.com-Kopie und ein …
Notas del episodio
Eine WhatsApp-Nachricht von einer unbekannten Nummer. Sveas echter Name, ihr echtes Hotel, das echte Datum. Deadline: 11 Stunden, 13 Minuten. Was folgt, ist eine täuschend echte Booking.com-Kopie und ein Lehrstück darüber, wofür gestohlene Buchungsdaten wirklich benutzt werden.
Eva hat derweil auf den Tübinger Tagen der digitalen Freiheit einen Vortrag gehalten: Privacy by Lying. Klingt dubios, ist aber Strategie. Falsche Adressen, Alias-Namen, Privacy-Relay-Mails, und warum das eigentlich längst überfällig ist. Dazu: was ein Krankenhausbetreiber-Hack damit zu tun hat und wie weit man das treiben kann, bevor der Briefträger einen komisch anguckt.
Am Ende noch schnell re:publica-Nachlese: KI und neuer Faschismus, Effizienzgewinne, die niemand sieht, und ein Talk über Klassenprivilegien, der auf Social Media viral ging.
Von Svea Eckert und Eva Wolfangel. Musik und Produktion: Marko Pauli.
SHOWNOTES
Booking.com-Datenpanne April 2025: https://www.heise.de/news/Booking-com-Unbefugte-Zugriffe-von-Kriminellen-entdeckt-11256689.html
Krankenhäuser / IT-Dienstleister-Hack: https://www.heise.de/news/Patientendaten-betroffen-Cyberangriff-auf-Abrechnungsdienstleister-von-Kliniken-11304982.html
re:publica-Talks:
Rainer Mühlhoff: AI and the New Fascism Maria Exner: Why AI won't solve the media crisis Francesca Bria: Authoritarian Stack (Friedrich-Ebert-Stiftung) Hanno Sauer & Mareike Kaiser: Was Klasse heute bedeutet Marisa Chopp (ZHAW, Institut für Mensch, Gesellschaft und Technologien): verliebt in KILive von der re:publica: Scams, Ransomware und ein falscher Elon - mit Anja Shortland
Live von der re:publica: Svea und Eva sitzen sich zum ersten Mal gegenüber, in einem Podcast-Booth mitten im Konferenztrubel. Und geben exklusive Einblicke in ihren Republica Talk. Darin geht es auch um die …
Notas del episodio
Live von der re:publica: Svea und Eva sitzen sich zum ersten Mal gegenüber, in einem Podcast-Booth mitten im Konferenztrubel. Und geben exklusive Einblicke in ihren Republica Talk. Darin geht es auch um die Story “Eva und Elon”. Wie aus einer Scam-Recherche über Monate eine persönliche Ongoing-Story wurde, mit Deepfakes, falschen Versprechen und sogar einem persönlichen Anruf. Und im zweiten Teil sitzt die Wissenschaftlerin Anja Shortland mit im Podcast-Häuschen und spricht über die Ökonomie des Verbrechens. Sie erklärt, warum Lösegeld zahlen manchmal rational ist und was somalische Piraterie mit Ransomware gemeinsam hat.
Von Svea Eckert und Eva Wolfangel. Musik und Produktion: Marko Pauli.
Shownotes: Die Republica bei Heise: https://www.heise.de/thema/re%3Apublica Buch von Anja Shortland: We Know You Can Pay a Million (King's College London) Weitere Talks und Infos: https://re-publica.com
Teure KI und Schwachstellen-Hype - mit Cybersicherheitsforscherin Haya Schulmann
„Günstiger wird KI vermutlich nicht." Evas LinkedIn-Post hat einen Nerv getroffen, denn: Was wir gerade für Cent-Bruchteile pro Anfrage kaufen, wird derzeit vielfach subventioniert. OpenAI verbrennt laut …
Notas del episodio
„Günstiger wird KI vermutlich nicht." Evas LinkedIn-Post hat einen Nerv getroffen, denn: Was wir gerade für Cent-Bruchteile pro Anfrage kaufen, wird derzeit vielfach subventioniert. OpenAI verbrennt laut eigener Prognose 2026 14 Milliarden Dollar. Börsengänge stehen an. Eine deutliche Preiskorrektur wird erwartet.
Außerdem: Eine aktuelle Google-Pressemitteilung titelt, dass Angreifer KI zur Entwicklung einer Zero-Day-Schwachstelle eingesetzt haben. Eva und Svea sprechen mit Haya Schulmann dazu, eine der renommiertesten Cybersicherheitsforscherinnen Deutschlands. Sie ordnet ein: Der Angriff war nie fertig. Die Täter wurden erwischt, bevor der Exploit zum Einsatz kam. Die wirklich beunruhigende Nachricht zieht die Expertin aus ihrer eigenen Forschung: In deutschen Bundesministerien gibt es kritische Schwachstellen, teilweise mehr als zehn Jahre alt. Von Svea Eckert und Eva Wolfangel. Musik und Produktion: Marko Pauli.
Shownotes Das Thema bei Heise: https://www.heise.de/news/Google-Cyberangriff-mittels-per-KI-gefundener-Zero-Day-Luecke-abgewehrt-11290551.html Evas Einordnung mit Haya Shulmann: https://www.zeit.de/digital/internet/2026-05/cyberangriffe-kuenstliche-intelligenz-google-cybersicherheit?freebie=40cc7634 Google Threat Intelligence Report: https://services.google.com/fh/files/misc/threat-intelligence-perspective-ai-cybersecurity.pdf ATHENE – Nationales Forschungszentrum für angewandte Cybersicherheit: https://www.athene-center.de Offener Brief zur Grand Challenge der Wissenschaftler: https://www.linkedin.com/posts/thorstenholz_support-for-eu-grand-challenge-ai-x-security-share-7457352154325008384-I2Ks/ Interne Verlustschätzung OpenAI: https://www.theinformation.com/articles/openai-projections-imply-losses-tripling-to-14-billion-in-2026
Vibe Coding-Leak & (Sveas) Handysucht
Kundendaten, Produktionspläne, Bewerbungsunterlagen offen zugänglich im Netz. Der Grund: eine unsichere Datenbankeinstellung. Evas Recherche zu den Sicherheitsproblemen bei vibe-gecodeten Webseiten ist raus …
Notas del episodio
Kundendaten, Produktionspläne, Bewerbungsunterlagen offen zugänglich im Netz. Der Grund: eine unsichere Datenbankeinstellung. Evas Recherche zu den Sicherheitsproblemen bei vibe-gecodeten Webseiten ist raus. Betroffen dabei sind nicht “nur” kleine StartUps, sondern auch große Unternehmen und Institutionen, bei denen offenbar gern gevibe-coded wird. Und: Svea hat sich auf Instagram-Werbung eingelassen und sich einen “NFC-Stein” bestellt, der Screen Time aktiviert, weil Apps, Willenskraft und Fokus-Modi allein offenbar nicht reichen.
Von Svea Eckert und Eva Wolfangel. Musik und Produktion: Marko Pauli.
Shownotes Das Thema bei Heise: https://www.heise.de/news/Databricks-Sicherheitsluecken-beim-Vibe-Coding-erkennen-und-vermeiden-10520054.html
„Brain Drain": Handy auf dem Tisch kostet Konzentration: https://www.journals.uchicago.edu/doi/abs/10.1086/691462
2 Wochen kein mobiles Internet: Randomisierte Kontrollstudie Castelo et al., PNAS Nexus, Februar 2025. https://academic.oup.com/pnasnexus/article/4/2/pgaf017/8016017
Weniger Smartphone, weniger Depression: https://www.donau-uni.ac.at/de/aktuelles/news/2025/weniger-zeit-am-smartphone-verbessert-die-psychische-gesundheit.html
Der Signal-Skandal, Handy-Jagd am See und Palantir-Klage mit Adrienne Fichter
Julia Klöckners Signal-Account gilt als kompromittiert und damit womöglich auch ein CDU-Präsidiumschat mit Kanzler Merz. Svea und Eva erklären, wie der Angriff wirklich funktioniert hat: kein Hack, sondern …
Notas del episodio
Julia Klöckners Signal-Account gilt als kompromittiert und damit womöglich auch ein CDU-Präsidiumschat mit Kanzler Merz. Svea und Eva erklären, wie der Angriff wirklich funktioniert hat: kein Hack, sondern Social Engineering. Und warum „die hätten es wissen müssen" keine gute Antwort ist. Dann: Adrienne Fichter, Tech-Journalistin der Republik aus Zürich, erzählt, warum Palantir sie und ihr Recherchekollektiv verklagt hat. 59 Öffentlichkeitsgesuche, ein Evaluationsbericht der Schweizer Armee und die Erkenntnis, dass die Schweiz bisher gar nicht mit Palantir zusammenarbeiten will. Und zum Schluss eine Räuberpistole: Evas iPhone wird in der U-Bahn geklaut, sie trackt es per „Wo ist?", konfrontiert mehrere Verdächtige am See und findet es dort wieder, wo sie es am wenigsten vermutet hätte. They Talk Tech, ein c’t Podcast mit Eva Wolfangel, Svea Eckert Musik und Produktion Marko Pauli
Shownotes: Das Thema bei Heise: https://www.heise.de/news/Signal-Phishing-Warnung-Ausloeser-wohl-Angriff-auf-Julia-Kloeckner-11268708.html
https://www.republik.ch/~adriennefichter
https://thehackernews.com/2026/04/apple-patches-ios-flaw-that-stored.html
Bullshit-Indikator im roten Bereich: Claude Mythos, Hype und Agenten
„Tausende Zero-Day-Schwachstellen", so lauteten einige Schlagzeilen rund um Anthropics neues Modell Claude Mythos. Eva hat bereits skeptisch berichtet und prompt einen wütenden Leserbrief kassiert: schlecht …
Notas del episodio
„Tausende Zero-Day-Schwachstellen", so lauteten einige Schlagzeilen rund um Anthropics neues Modell Claude Mythos. Eva hat bereits skeptisch berichtet und prompt einen wütenden Leserbrief kassiert: schlecht recherchiert, KI-Skepsis als Dogma. Blöd nur, dass ausgerechnet in dieser Woche ein 244-seitiges Dokument auftaucht, das Evas Einschätzung Punkt für Punkt bestätigt. Svea und Eva nehmen die Mythos-Behauptungen auseinander — und fragen, was KI-Hype mit Demokratie macht, wenn Finanzminister und IWF-Chefs auf Basis von PR-Meldungen in Panik verfallen. Dazu: Warum KI-Benchmarks schon lange keine Wissenschaft mehr sind, sondern Marketing. Und Eva berichtet aus erster Hand, was passiert, wenn man einen KI-Agenten auf den eigenen Rechner lässt, inklusive Telemetrie-Ordner, den niemand bestellt hat.
Shownotes
Blogpost zu Claude Mythos: https://www.flyingpenguin.com/the-boy-that-cried-mythos-verification-is-collapsing-trust-in-anthropic/
Menschlicher Benchmark https://arena.ai/
Talk zu Hype vom IfJ https://www.youtube.com/watch?v=PeWOEIp7ZsM
Das International Journalism Festival https://www.journalismfestival.com/
Einmal um den Mond mit Astronautin Rabea Rogge
Eine KI hat einen Laden eröffnet, Mitarbeiter eingestellt und dabei gelogen, sich verklickt und dem Angestellten verboten, privat zu telefonieren. Gleichzeitig hat Anthropic ein KI-Modell gebaut, das Tausende …
Notas del episodio
Eine KI hat einen Laden eröffnet, Mitarbeiter eingestellt und dabei gelogen, sich verklickt und dem Angestellten verboten, privat zu telefonieren. Gleichzeitig hat Anthropic ein KI-Modell gebaut, das Tausende Zero-Day-Lücken gefunden haben soll und es nicht veröffentlicht. Und dann ist da noch Rabea Rogge: die erste deutsche Frau im All, die weiß, wie es sich anfühlt, wenn die Regeln plötzlich andere sind.
Drei Geschichten über KI, Kontrolle und die Frage, wer hier eigentlich das Sagen hat.
Ein Podcast von Svea Eckert und Eva Wolfangel Musik und Produktion Marko Pauli
Shownotes
Das Thema bei Heise: https://www.heise.de/news/Anthropic-KI-Mythos-Dringende-Warnung-an-US-Banken-BSI-erwartet-Umwaelzungen-11251450.html
https://andonlabs.com/blog/andon-market-launch
Zu Rabea Rogge: https://de.wikipedia.org/wiki/Rabea_Rogge
Tatort DNS: Wie das Internet seine Angreifer verrät mit Renée Burton
Das Telefonbuch des Internets kennt keine Geheimnisse. Wenn man weiß, wie man es liest. Renée Burton hat 22 Jahre beim US-Geheimdienst NSA verbracht und wechselte dann die Seite. Als Head of Threat Intelligence …
Notas del episodio
Das Telefonbuch des Internets kennt keine Geheimnisse. Wenn man weiß, wie man es liest. Renée Burton hat 22 Jahre beim US-Geheimdienst NSA verbracht und wechselte dann die Seite. Als Head of Threat Intelligence bei der IT-Security Firma Infoblox analysiert sie Billionen von DNS-Anfragen und findet darin, was andere übersehen: Cyberangriffe, bevor sie passieren. Im Gespräch erklärt sie, warum das Domain Name System eine unsichtbare und gleichzeitig verräterische Schicht des Internets ist. Wie staatliche Hacker sich im DNS-Traffic verstecken und wie Renées Team das trotzdem aufgedeckt hat. Und warum der eigentliche Milliardenschaden im Netz nicht bei Ransomware oder Spionage liegt, sondern beim Betrug an ganz normalen Menschen. Von Svea Eckert und Eva Wolfangel. Musik und Produktion: Marko Pauli.
Shownotes:
Decoy Dog und DNS Angriffe bei Heise erklärt: https://business-services.heise.de/security/malware/beitrag/dns-angriffe-warum-sie-so-gefaehrlich-sind-4662
Zu Renée Burton: https://www.infoblox.com/blog/author/renee-burton/
Designed to Hook: Plattformhaftung, Dopamin und das Ende des KI-Hypes?
Mit sechs Jahren YouTube, mit neun Instagram, mit 13 Körperdysmorphiestörung und Suizidgedanken. Das Kaley-Urteil gegen Meta und Google ist historisch: Erstmals verurteilte eine Jury Plattformen für ihr …
Notas del episodio
Mit sechs Jahren YouTube, mit neun Instagram, mit 13 Körperdysmorphiestörung und Suizidgedanken. Das Kaley-Urteil gegen Meta und Google ist historisch: Erstmals verurteilte eine Jury Plattformen für ihr suchtmachendes Design. Svea und Eva nehmen auseinander, was das rechtlich bedeutet und was wir wissenschaftlich über Dopamin, Belohnungsschleifen und süchtig machendes Design wissen.
Zweites Thema: KI-Agenten. Eva hat tief recherchiert und ist skeptisch rausgekommen. Sie findet: Viele Probleme, die heute mit LLMs gelöst werden, brauchen schlicht kein Sprachmodell. Yann LeCun, Ex-AI-Chief-Scientist bei Meta, geht sogar weiter: Aktuelle KI versteht keine Konzepte und wird deshalb nie über ein bestimmtes Stadium hinauskommen. Und die ersten Risse im Hype werden sichtbar: OpenAI hat Sora eingestampft.
Von Svea Eckert und Eva Wolfangel.
Musik und Produktion: Marko Pauli.
“Kaley Urteil” bei Heise: https://www.heise.de/news/Prozess-um-Social-Media-Sucht-US-Jury-spricht-Meta-und-Google-schuldig-11224794.html
“Magnesium Studie” von Forschern des Helmholz-Zentrum Hereon: https://www.sciencedirect.com/science/article/pii/S0010938X2500407X
Zu Yann LeCun: https://the-decoder.de/yann-lecun-und-deepmind-forscher-streiten-ueber-llms-als-weg-zur-allgemeinen-intelligenz/
Aquí están los 100 episodios más recientes de 105. Los anteriores están en el feed del podcast.
