Skip to content

Die grosse Angst vor der KI

September 23, 2026 · 1 h 16 min

Show notes

Führende Köpfe der KI-Industrie warnen inzwischen selbst vor ihre Schöpfungen: Anthropic-Chef Dario Amodei wie auch Sam Altman und Elon Musk fordern eine Verlangsamung der KI-Entwicklung. Manuel und Stephan diskutieren in dieser Folge die aktuelle Gefahrenlage und fragen nach den menschlichen Handlungsspielräumen.

Was, wenn die Maschinen übernehmen? Die Angst vor künstlicher Intelligenz ist längst in der Mitte der Gesellschaft angekommen. Sie reicht von sehr konkreten Sorgen bis zu ziemlich grossen Untergangsszenarien: Desinformation und manipulierte Bilder, autonome Waffen, der Verlust von Arbeit und Kontrolle – und irgendwann vielleicht eine KI, die sich menschlicher Steuerung entzieht.

In dieser Folge schauen wir genauer hin. Wovor haben wir eigentlich Angst, wenn wir Angst vor KI haben? Und welche dieser Ängste helfen uns, reale Gefahren zu erkennen – welche machen aus einer gestaltbaren Technologie ein Schicksal?

Denn KI fällt nicht vom Himmel. Menschen entwickeln sie, Unternehmen investieren Milliarden, Staaten setzen Regeln oder verzichten darauf. Hinter dem scheinbar unaufhaltsamen technischen Fortschritt stehen Entscheidungen über Eigentum, Macht, Transparenz und Kontrolle.

Darum sprechen wir am Ende über Hoffnung. Nicht über die beruhigende Hoffnung, dass schon alles gut kommen wird. Sondern über eine unbequemere: Es ist noch nicht entschieden, wie KI unsere Gesellschaft verändern wird.

Hinweis: Mit dieser Folge gehen wir in eine kurze Herbstpause – ihr hört uns am 15. Oktober wieder… und ja, das ist ein Donnertag: Ausgeglaubt wechselt nach über 250 Folgen seinen Veröffentlichungstag vom Mittwoch auf den Donnerstag. Also bis dann wieder!

Noch mehr KI? Unbedingt.

Wer diese Fragen nicht nur im Podcast weiterdenken, sondern mit Fachleuten aus KI-Forschung, Digitalethik und Theologie vertiefen möchte: Kommt am 20. Oktober zur KI-Fachtagung «Ghost in the Machine» in die Paulus Akademie Zürich. Einen ganzen Tag lang geht es um Verantwortung, Menschenwürde, Wahrheit, Macht – und darum, wie wir KI verantwortlich gestalten können.

Hier gehts zur Fachtagung und Anmeldung!

Weiterführende Beiträge

  • «Wir haben euch doch gewarnt» (Blogbeitrag von Stephan Jütte): Stephan nimmt die aktuellen Warnungen aus der KI-Branche zum Ausgangspunkt und fragt, was aus ihnen eigentlich folgt: Wer Gefahren erkennt und benennt, hat damit seine Verantwortung noch nicht erfüllt.
  • «FOBO – oder: Muss ich nützlich sein?»: Was geschieht, wenn KI Dinge besser kann als wir und menschliche Arbeit tatsächlich überflüssig werden könnte? Manuel und Stephan sprechen über die Angst vor Bedeutungslosigkeit – und darüber, ob der Wert eines Menschen wirklich an seiner Nützlichkeit hängt.
  • «Peter Thiel: Die Apokalypse aus dem Silicon Valley»: Eine «Ausgeglaubt»-Folge über Tech-Apokalyptik, Katastrophenangst und die Versuchung, auf drohende Krisen mit immer mehr Kontrolle und Macht zu reagieren.
  • «Papst Leo, die KI und wir»: Manuel und Stephan diskutieren die kirchliche Kritik an technokratischer Macht und fragen nach Menschenwürde, Verantwortung und den Grenzen der Delegation moralischer Entscheidungen an Maschinen.
  • «Die Maschine, der wir zu viel glauben»: Deep-Learning-Forscher Simon Baur räumt mit Mythen über KI auf. Seine zentrale Pointe passt unmittelbar zu dieser Folge: Gefährlich wird KI nicht erst, wenn sie allmächtig wird, sondern wenn Menschen ihr Macht und Entscheidungen übertragen.

All episodes of Ausgeglaubt: ein RefLab-Podcast

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.