KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert
Shownotes
Als die KI-Entwickler Dario Amodei und Sam Altman vor wenigen Wochen noch einmal eindringlich vor den Gefahren der eigenen Technologie warnten, tauchte auch er Ausdruck Superintelligenz immer wieder auf. Altman sprach schon vor einem Jahr davon, dass bis zum Ende des Jahrzehnts KI in der Lage sein wird, Dinge zu tun und wissenschaftliche Entdeckungen zu machen, zu denen Menschen allein nicht in der Lage wären. Und dieser Zeithorizont schrumpft mit jedem neuen, mächtigeren KI-Modell weiter zusammen. Damit ist das erklärte Ziel längst nicht mehr „nur“ eine Allgemeine Künstliche Intelligenz, die AGI, die in etwa su intelligent ist, wie ein Durchschnittsmensch. Nein, eine KI soll in allen Bereichen besser sein als ein Mensch, eben superintelligent.
Nicht alle teilen Altmans Enthusiasmus. Dazu gehört auch Benjamin Balde. Der Tech-Unternehmer leitet die Aktivitäten der Organisation ControlAI in Deutschland. Die Nichtregierungsorganisation setzt sich bei Politikerinnen und Politikern in den USA, Kanada, Großbritannien und jetzt auch hier bei uns dafür ein, dass dieser Schritt über die Grenzen der menschlichen Intelligenz hinaus gesetzlich verboten wird, weil eine Technologie, die uns in allem übertrifft, von uns auch nicht mehr kontrolliert werden könne.
=== Anzeige / Sponsorenhinweis === Dieser Podcast wird von einem Sponsor unterstützt. Alle Infos zu unseren Werbepartnern findet ihr hier. https://wonderl.ink/%40heise-podcasts === Anzeige / Sponsorenhinweis Ende ===
Heise+ Abonnent werden: https://www.heiseplus.de/audio
Artikel zur Podcastfolge: https://heise.de/-11493868 https://controlai.org/ https://benjaminbalde.com/ https://www.bundestag.de/abgeordnete https://www.heise.de/thema/KI-Update https://pro.heise.de/ki/ https://www.heise.de/newsletter/anmeldung.html?id=ki-update https://www.heise.de/thema/Kuenstliche-Intelligenz https://the-decoder.de/ https://www.ct.de/ki