In Folge #265 von „Lanz & Precht“ mit dem Titel „Droht die KI-Apokalypse?“ verhandeln Markus Lanz und Richard David Precht eine Frage, die weit über technische Prognosen hinausreicht: Was geschieht, wenn künstliche Intelligenz nicht länger nur Werkzeug ist, sondern als Agent (vermeintlich) selbstständig Ziele verfolgt, Entscheidungen vorbereitet und in vernetzte Systeme eingreift? Das Gespräch bewegt sich zwischen realen Kontrollproblemen, ökonomischen Interessen und den großen Bildern vom Weltuntergang. Gerade diese Spannung macht die Folge interessant – denn sie zwingt dazu, nüchtern zwischen begründeter Vorsorge und öffentlichkeitswirksamer Dramatisierung zu unterscheiden.
Zwischen Warnung und Entzauberung
Lanz eröffnet mit der Nähe zweier Warnungen: John von Neumanns Sorge über die zerstörerische Kraft technologischer Entwicklung in der Atomära und Sam Altmans Warnung vor den möglichen Schäden der KI. Damit setzt er einen Deutungsrahmen, in dem Fortschritt und Apokalypse eng beieinanderliegen. Seine Rolle im Gespräch ist die des hartnäckigen Fragestellers. Er nimmt die drastischen Szenarien ernst, führt Berichte über KI-Forschende mit Überlebenstrainings an und fragt, ob gerade die Aufmerksamkeit besonders kluger Menschen ein Indiz dafür sein könne, dass die Dimension der Entwicklung unterschätzt werde. Sein Grundimpuls ist Vorsicht: Auch eine geringe Eintrittswahrscheinlichkeit könne politisch relevant sein, wenn der mögliche Schaden existenziell ist.
Precht begegnet dieser Dramaturgie zunächst mit Skepsis. Er unterscheidet zwischen „Gespenstern“ und „Einbrechern“: zwischen spekulativen Erzählungen von einer KI, die aus eigenem Antrieb die Menschheit auslöschen wolle, und konkreten Gefahren, die bereits aus der Übertragung von Verantwortung entstehen. Für ihn sind nicht vermenschlichte Maschinenfantasien der entscheidende Punkt, sondern Systeme, deren Entscheidungen statistisch erzeugt, für Menschen kaum nachvollziehbar und in ihrer Wirkung schwer kontrollierbar sind. Als reale Risiken nennt er den tiefgreifenden Wandel des Arbeitsmarktes, den Einsatz in kritischer Infrastruktur, das Eindringen in Sicherheits- und Waffensysteme sowie soziale Folgen, wenn Kinder und Erwachsene Beziehung, Widerspruch und Vertrauen zunehmend an stets verfügbare KI-Systeme delegieren.
Lanz hält dagegen, dass die Grenze zwischen Werkzeug und Akteur praktisch bereits verschwimmt. Er beschreibt Experimente, in denen KI-Agenten miteinander kommunizieren, vorgegebene Beschränkungen umgehen und Strategien gegen eine Abschaltung entwickeln. Ihn interessiert weniger, ob diese Systeme im menschlichen Sinne denken oder wollen, sondern ob ihr Verhalten Schäden erzeugen kann, bevor Menschen rechtzeitig eingreifen. Genau hier prallen die Akzente aufeinander: Lanz drängt auf die Konsequenzen unüberschaubarer Eigendynamik, während Precht darauf besteht, die Gefahr nicht mit menschlichen Motiven auszustatten. Beide treffen sich allerdings in der Diagnose, dass Kontrollverlust auch ohne „böse“ KI möglich ist.
Rahmensetzung für KI-Systeme
Im zweiten Teil verschiebt sich die Debatte von der Technik auf die Ordnungspolitik. Precht fordert eine klare Haftung der Unternehmen für die gesamte Handlungskette ihrer Agenten und verbindliche rote Linien, räumt aber zugleich ein, dass Regulierung dem Entwicklungstempo hinterherläuft. Lanz bezweifelt, dass Verantwortlichkeit bei selbst erzeugten Agentenketten so einfach zugeordnet werden kann. Daraus entsteht ein produktiver Konflikt: Precht sucht einen wirksamen juristischen Anker, Lanz legt die tatsächlichen Zurechnungsprobleme offen. Gemeinsam richten sie den Blick schließlich auf internationale Kontrolle und auf die Frage, ob für autonome Waffensysteme Mechanismen nötig wären, die an Abrüstungsverträge, gegenseitige Inspektionen und das „rote Telefon“ der Atomära erinnern.
Gleichzeitig fragen beide nach den Motiven der großen Technologiekonzerne. Warnungen können Ausdruck echter Sorge sein, aber ebenso als Marketing funktionieren: Wer die Gefahr definiert, kann sich als unverzichtbarer Beherrscher dieser Gefahr anbieten, Regulierung mitprägen und Sicherheitsprodukte verkaufen. Hinzu kommt der globale Wettbewerb, insbesondere zwischen den USA und China. Das bekannte Wettrüstungsargument lautet: Wenn wir bremsen, tun es die anderen nicht. Die Folge endet deshalb nicht mit einer eindeutigen Antwort, sondern mit einer doppelten Diagnose. KI eröffnet enorme Chancen, zugleich fehlen politische Institutionen, die ihrer Geschwindigkeit, Marktmacht und internationalen Reichweite gewachsen sind.
Die eigentliche Frage ist Verantwortung
Mich überzeugt an der Folge vor allem, dass sie hinter der Technikfrage eine Frage nach menschlicher Verantwortung sichtbar macht. KI-Agenten gewinnen Handlungsspielräume, während sich Menschen und Institutionen zu oft aus Zuständigkeit zurückziehen. Das ist ein Widerspruch unserer Zeit: Wir übertragen Maschinen mehr Aufgaben, ohne im selben Tempo zu klären, wer für Ziele, Grenzen und Folgen einsteht.
„Technischer Fortschritt entlastet uns von Arbeit, aber niemals von Verantwortung.“
Gerade deshalb irritiert mich, wie entschieden Precht einzelnen Szenarien Eintrittswahrscheinlichkeiten zuordnet. Seine Unterscheidung zwischen realen Einbrechern und eingebildeten Gespenstern ist anschaulich, aber sie ersetzt keine belastbare Risikobewertung. Wer Massenarbeitslosigkeit für nahezu gewiss, eine andere Entwicklung dagegen für kaum denkbar erklärt, muss offenlegen, worauf diese Gewissheit beruht. In einer Technologieentwicklung mit kurzen Innovationszyklen ist intellektuelle Vorsicht kein Ausweichen, sondern Seriosität. Lanz’ Zweifel sind an dieser Stelle näher an meiner Haltung: Nicht jede Warnung ist begründet, aber auch nicht jede Ungewissheit ist Entwarnung.
Ähnlich verhält es sich mit der Haftung. Der Wunsch, das entwickelnde Unternehmen bis zum letzten Glied einer Handlungskette verantwortlich zu machen, ist politisch nachvollziehbar. Doch je autonomer Systeme Aufgaben zerlegen, Werkzeuge auswählen und weitere Agenten einsetzen, desto schwieriger wird die juristische Zurechnung. Pauschale Haftung kann Schutz schaffen, sie kann aber auch Innovation verhindern oder Verantwortung nur scheinbar klären. Entscheidend ist daher eine Ordnung, die Verantwortliche identifizierbar hält, Prüfpflichten nach Risiko staffelt und Geschädigten wirksame Ansprüche eröffnet.
„Wo niemand Verantwortung zuordnen kann, ist Autonomie kein Fortschritt, sondern organisierte Verantwortungslosigkeit.“
Dabei darf Regulierung nicht mit Technikfeindlichkeit verwechselt werden.
KI als Chance europäischer Souveränität
Der EU-AI Act wurde lange vor allem als mögliches Wettbewerbshemmnis diskutiert, während die vermeintlich größere Freiheit in den USA und China als Standortvorteil galt. Nun zeigt sich gerade in der Debatte über autonome Agenten, warum Regeln ein Teil wirtschaftlicher Stärke sein können. Verlässliche Standards schaffen Vertrauen, senken Folgekosten und geben Unternehmen einen belastbaren Rahmen für Investitionen. Darin liegt auch ein Kern europäischer Souveränität: nicht jede Entwicklung zu kopieren, sondern eigene Maßstäbe für Freiheit, Sicherheit und Haftung zu setzen (https://hoffschroer.de/2026/04/die-odyssee-der-europaeischen-souveraenitaet/).
Gleichzeitig wäre es zu bequem, die Risiken allein der Maschine zuzuschreiben. Unklare Motive, Selbsterhaltung, Machtstreben, mangelnde Empathie und fehlende Friedensbereitschaft sind keine Erfindungen künstlicher Intelligenz. Systeme übernehmen Ziele, Daten und Anreizstrukturen, die Menschen geschaffen haben. Deshalb halte ich die Moral der Anwender, Eigentümer und politischen Entscheider zunächst für die größere Gefahr als eine vermeintliche Maschinenmoral.
„Die gefährlichste KI ist nicht die mit einem eigenen Willen, sondern die im Dienst unverantwortlicher menschlicher Interessen.“
Deshalb ist der Hinweis auf die wirtschaftlichen Motive der Techkonzerne plausibel. Utopie und Apokalypse sind zwei Seiten derselben Vermarktungsstrategie: Die einen versprechen grenzenlose Produktivität, die anderen warnen vor einer Gefahr, die angeblich nur die Entwickler selbst beherrschen können. Beides erzeugt Aufmerksamkeit, Kapital und politischen Einfluss. Wer Regeln fordert, darf sie deshalb nicht den Unternehmen überlassen, die vom geregelten Markt profitieren. Gute Ordnungspolitik trennt Expertise und Entscheidung. Sie hört auf Entwickler, lässt aber demokratisch legitimierte Institutionen entscheiden.
Vom Weltuntergang zum Rathaus
Für Kommunen ist diese Debatte keineswegs zu groß. Städte und Gemeinden beschaffen Software, automatisieren Verwaltungsprozesse, steuern Verkehr, Energie und Sicherheit, verarbeiten sensible Daten und kommunizieren mit Bürgerinnen und Bürgern. Jede dieser Anwendungen wirft die Frage auf, wer entscheidet, wer kontrolliert und wer im Fehlerfall erreichbar bleibt. Kommunale KI-Governance darf deshalb nicht erst beginnen, wenn ein System bereits eingeführt ist. Sie gehört an den Anfang jeder Beschaffung: mit klarer Zweckbindung, dokumentierten Zuständigkeiten, überprüfbaren Datenquellen, menschlichen Eingriffsmöglichkeiten und einem geregelten Ausstieg.
Aus meiner eigenen Beschäftigung mit hybriden Organisationen und sogenannten Frontier Firms weiß ich zugleich, dass sich KI-Systeme nicht abstrakt auf der grünen Wiese einführen lassen. Sie treffen auf gewachsene Zuständigkeiten, etablierte Abläufe, unterschiedliche Wissensstände und eine Organisationskultur, die sich nicht per Software-Update verändert. Gerade in Kommunen entscheidet deshalb nicht allein die technische Qualität eines Systems über seinen Erfolg, sondern seine sorgfältige Einbindung in bestehende Strukturen. Meine wichtigste Erfahrung ist:
„KI-Governance muss von Anfang an mitgedacht, im Alltag verankert und laufend an neue technische wie organisatorische Entwicklungen angepasst werden.“
Das gilt besonders für Entscheidungen, die Menschen unmittelbar betreffen. Wenn eine Anwendung Anträge vorsortiert, Risiken bewertet oder Leistungen empfiehlt, muss am Ende ein verantwortlicher Mensch entscheiden und die Entscheidung erklären können. Effizienz ist wichtig, gerade in Verwaltungen mit knappen Fachkräften. Aber Effizienz wird politisch wertlos, wenn sie Vertrauen zerstört. Eine Kommune darf Entscheidungen automatisieren, aber niemals ihre Verantwortlichkeit.
Daraus folgt eine zweite Aufgabe: Kommunen brauchen Kompetenz, nicht nur Lizenzen. Beschäftigte müssen verstehen, welche Ergebnisse verlässlich sind, wo systematische Fehler entstehen können und wann menschliches Urteil unverzichtbar bleibt. Ebenso wichtig ist eine offene Information gegenüber der Öffentlichkeit. Bürgerinnen und Bürger müssen erkennen können, wo KI eingesetzt wird und wie sie einer Entscheidung widersprechen können. Transparenz ist dabei kein bürokratischer Zusatz, sondern die Voraussetzung demokratischer Akzeptanz.
Digitalisierung als Herausforderung der Gemeinschaft
Gleichzeitig berührt KI eine gesellschaftliche Frage, die vor Ort längst spürbar ist. Während technische Systeme immer mehr übernehmen sollen, erleben Vereine, Initiativen und kommunale Gremien, wie schwer es wird, Menschen dauerhaft für Verantwortung zu gewinnen. Gerade deshalb darf Digitalisierung nicht zur Einladung werden, sich aus Gemeinschaft zurückzuziehen. Sie sollte Routinen erleichtern, Zugänge öffnen und Ehrenamtliche unterstützen – nicht Begegnung, Widerspruch und eigene Urteilskraft ersetzen.
„Eine starke digitale Kommune braucht mehr engagierte Menschen, nicht weniger.“
Eine wirtschaftlich vernünftige Kommunalpolitik muss deshalb Chancen und Kosten zugleich betrachten. KI kann Verfahren beschleunigen, Beschäftigte entlasten, Bildungsangebote verbessern und lokale Unternehmen wettbewerbsfähiger machen. Rechenzentren und digitale Infrastruktur können Investitionen und Arbeitsplätze bringen; sie beanspruchen aber auch Flächen, Strom, Wasser und Netze. Gute Standortpolitik sagt weder reflexhaft Nein noch verteilt sie Genehmigungen im Namen eines diffusen Fortschrittsversprechens. Sie prüft Wertschöpfung, Ressourcenverbrauch, Resilienz und Nutzen für die Region – und verhandelt belastbare Gegenleistungen.
Kritik an Prechts Lagebeschreibung und Politikverständnis
Gleichzeitig fällt ein Widerspruch in Prechts außenpolitischer Lagebeschreibung auf. In dieser Folge spricht er ausdrücklich von einer weltweit und auch in Europa deutlich gestiegenen Kriegsgefahr. Das überrascht, weil er Warnungen vor der Bedrohung durch Putins Russland an anderer Stelle regelmäßig relativiert oder als unbegründete Angstmacherei zurückweist. Beides lässt sich nicht ohne Weiteres zusammenbringen: Wer eine erhöhte Kriegsgefahr diagnostiziert, muss auch konkret benennen, von welchen Akteuren, Interessen und militärischen Entwicklungen sie ausgeht.
„Eine diffuse Kriegsgefahr zu beschwören, aber die konkrete Bedrohung durch Russland kleinzureden, ist keine differenzierte Analyse, sondern ein politischer Widerspruch.“
Auch Prechts anschließender Blick auf die Politik überzeugt mich nicht. Sein spöttischer Blick auf Politiker, die sich mit Fabrikansiedlungen, Standorten und anderen angeblich kleinen Fragen befassen, offenbart ein merkwürdig entrücktes Politikverständnis. Denn: Politik beweist ihre Größe nicht allein dadurch, dass sie über Menschheitsfragen spricht, sondern vor allem dadurch, dass sie Verantwortung für die konkrete Wirklichkeit übernimmt. Prechts Politikerbild unterschätzt nicht nur das Alltagsgeschäft der Demokratie – es verkennt, dass sich politische Glaubwürdigkeit gerade an ihm entscheidet.
„Wer die kleinen Probleme vor der Haustür nicht löst, wird für die großen Fragen der Welt kein Vertrauen erhalten.“
Gerade daran entscheidet sich, ob Politik Vertrauen verdient und überhaupt die Legitimation gewinnt, größere Veränderungen zu gestalten.
Fortschritt braucht einen verantwortlichen Absender
Die Folge zeigt damit weniger eine bevorstehende KI-Apokalypse als eine gesellschaftliche Bewährungsprobe. Wir brauchen weder technologische Euphorie noch lähmende Angst, sondern Verantwortungsfähigkeit auf jeder Ebene. International bedeutet das verbindliche Regeln für militärische und systemkritische Anwendungen. Europäisch bedeutet es souveräne Standards und faire Wettbewerbsbedingungen. Kommunal bedeutet es, Nutzen und Risiken konkret abzuwägen, Zuständigkeiten festzulegen und Menschen zur Mitgestaltung zu befähigen.
„Zukunftsorientierte Politik erkennt Chancen – aber sie verwechselt Geschwindigkeit nicht mit Richtung.“
_______________________________________________________________
Warum diese Reihe
Mit „Lanz & Precht – vor Ort“ übersetze ich die großen Debatten des Podcasts in konkrete kommunalpolitische Fragen. Welche Thesen werden hier eigentlich verhandelt? Welches Politik- und Menschenbild steckt dahinter? Was bedeutet das ganz praktisch für Städte, Gemeinden und lokale Demokratie? Und wo sehe ich Zustimmung, Zweifel oder klaren Widerspruch? „Lanz & Precht – vor Ort“ steht für Analyse, Einordnung und lokale Erdung. Es ist mein Blick auf den Podcast aus kommunalpolitischer Perspektive. Dieser Newsletter steht in keinem Zusammenhang mit dem Original-Podcast „Lanz & Precht“ und versteht sich ausdrücklich als unabhängige Kommentierung.
Fortsetzung folgt…