Warum sie wirklich eine KI Bremse wollen
Notes de l’épisode
Hacks durch KI-Agenten, Biowaffen-Fälle im Threat-Report, dazu ein Gerücht über rekursive Selbstverbesserung bei Google: Plötzlich fordern Dario Amodei, Sam Altman und Elon Musk eine Verlangsamung der KI-Entwicklung. Im Weißen Haus stößt das auf taube Ohren, und die BRICS-Staaten geben erst recht Gas.
Jakob Steinschaden, Mitgründer von Trending Topics, und Clemens Wasner, Gründer von AI Austria und enliteAI, sortieren in dieser Folge eine Woche, in der sich die KI-Debatte komplett gedreht hat.
Die Themen der Folge:- Zwei Ausbrüche, ein Muster: Was der Hugging-Face-Hack mit 700 KI-Agenten und der Angriff auf ein österreichisches Entwickler:innen-Wiki über die Testverfahren von OpenAI verraten
- Biowaffen, Drohnen, Raketen: Was im Threat-Intelligence-Report von Anthropic steht, das fünf gestoppte Fälle biowaffennaher Forschung dokumentiert, und was daraus über die Auswertung von Prompts folgt
- Chain of Thought ade: Warum Modelle besser funktionieren, wenn niemand mehr mitlesen kann, und was das für Audits bedeutet, dazu das Gerücht, Google habe RSI geknackt
- Verkehrte Welt: Amodei, Altman und Musk plädieren für eine Pause, Donald Trump lehnt jede Regulierung ab und will lieber einen "High IQ President"
- Regulatory Capture: Die Sorge im Silicon Valley, dass die Frontier Labs ihre eigene Regulierung schreiben und Open Weights dabei unter die Räder kommen
- BRICS gegen Bremse: Chinas Open-Weight-Offensive für die BRICS-Staaten, Mistrals Spagat als Neocloud und warum Europa dasselbe Eigeninteresse hat
- IPO-Politik: OpenAI verschiebt den Börsengang auf 2027, Anthropic peilt zwei Billionen Dollar an, und die Frage, was an Liability-Risiken im Börsenprospekt stehen muss
- Die Flaschenhälse: Stripe kauft OpenRouter, Nvidia holt sich Hugging Face, und damit gehören beide Zugangspunkte zu Open Weights US-Konzernen