Führende Köpfe der KI-Industrie warnen inzwischen selbst vor ihre Schöpfungen: Anthropic-Chef Dario Amodei wie auch Sam Altman und Elon Musk fordern eine Verlangsamung der KI-Entwicklung. Manuel und Stephan diskutieren in dieser Folge die aktuelle Gefahrenlage und fragen nach den menschlichen Handlungsspielräumen.

Was, wenn die Maschinen übernehmen? Die Angst vor künstlicher Intelligenz ist längst in der Mitte der Gesellschaft angekommen. Sie reicht von sehr konkreten Sorgen bis zu ziemlich grossen Untergangsszenarien: Desinformation und manipulierte Bilder, autonome Waffen, der Verlust von Arbeit und Kontrolle – und irgendwann vielleicht eine KI, die sich menschlicher Steuerung entzieht.

In dieser Folge schauen wir genauer hin. Wovor haben wir eigentlich Angst, wenn wir Angst vor KI haben? Und welche dieser Ängste helfen uns, reale Gefahren zu erkennen – welche machen aus einer gestaltbaren Technologie ein Schicksal?

Denn KI fällt nicht vom Himmel. Menschen entwickeln sie, Unternehmen investieren Milliarden, Staaten setzen Regeln oder verzichten darauf. Hinter dem scheinbar unaufhaltsamen technischen Fortschritt stehen Entscheidungen über Eigentum, Macht, Transparenz und Kontrolle.

Darum sprechen wir am Ende über Hoffnung. Nicht über die beruhigende Hoffnung, dass schon alles gut kommen wird. Sondern über eine unbequemere: Es ist noch nicht entschieden, wie KI unsere Gesellschaft verändern wird.

Hinweis: Mit dieser Folge gehen wir in eine kurze Herbstpause – ihr hört uns am 15. Oktober wieder… und ja, das ist ein Donnertag: Ausgeglaubt wechselt nach über 250 Folgen seinen Veröffentlichungstag vom Mittwoch auf den Donnerstag. Also bis dann wieder!

Noch mehr KI? Unbedingt.

Wer diese Fragen nicht nur im Podcast weiterdenken, sondern mit Fachleuten aus KI-Forschung, Digitalethik und Theologie vertiefen möchte: Kommt am 20. Oktober zur KI-Fachtagung «Ghost in the Machine» in die Paulus Akademie Zürich. Einen ganzen Tag lang geht es um Verantwortung, Menschenwürde, Wahrheit, Macht – und darum, wie wir KI verantwortlich gestalten können.

Hier gehts zur Fachtagung und Anmeldung!

Weiterführende Beiträge

• «Wir haben euch doch gewarnt» (Blogbeitrag von Stephan Jütte): Stephan nimmt die aktuellen Warnungen aus der KI-Branche zum Ausgangspunkt und fragt, was aus ihnen eigentlich folgt: Wer Gefahren erkennt und benennt, hat damit seine Verantwortung noch nicht erfüllt.
• «FOBO – oder: Muss ich nützlich sein?»: Was geschieht, wenn KI Dinge besser kann als wir und menschliche Arbeit tatsächlich überflüssig werden könnte? Manuel und Stephan sprechen über die Angst vor Bedeutungslosigkeit – und darüber, ob der Wert eines Menschen wirklich an seiner Nützlichkeit hängt.
• «Peter Thiel: Die Apokalypse aus dem Silicon Valley»: Eine «Ausgeglaubt»-Folge über Tech-Apokalyptik, Katastrophenangst und die Versuchung, auf drohende Krisen mit immer mehr Kontrolle und Macht zu reagieren.
• «Papst Leo, die KI und wir»: Manuel und Stephan diskutieren die kirchliche Kritik an technokratischer Macht und fragen nach Menschenwürde, Verantwortung und den Grenzen der Delegation moralischer Entscheidungen an Maschinen.
• «Die Maschine, der wir zu viel glauben»: Deep-Learning-Forscher Simon Baur räumt mit Mythen über KI auf. Seine zentrale Pointe passt unmittelbar zu dieser Folge: Gefährlich wird KI nicht erst, wenn sie allmächtig wird, sondern wenn Menschen ihr Macht und Entscheidungen übertragen.