Warum die KI-Weltuntergangsrhetorik gerade endetund was wirklich dahintersteckt

In den letzten Monaten haben die mächtigsten KI-Unternehmer der Welt die öffentliche Debatte mit Weltuntergangsszenarien dominiert. Dann, innerhalb weniger Wochen, haben dieselben Personen ihre Tonlage komplett gedreht. Was steckt dahinter? Und was bedeutet das für Sie?

In letzter Zeit schicken mir Mandanten und Kunden immer häufiger Artikel mit der Bitte um eine Einschätzung. Zuletzt diese drei (alle sinngemäß aus dem Englischen übersetzt):

Was die KI-Chefs zuletzt behauptet haben

Das sind keine Randmeinungen. Das sind die CEOs der drei einflussreichsten KI-Unternehmen der Welt. Und sie haben diese Aussagen öffentlich, in großen Medien, vor Millionen von Menschen gemacht.

Wie Sie aus unserer Ausbildung zum AI-Officer wissen, halte ich diese Ansicht für stark übertrieben. Ich habe das von Anfang an so gesagt.

Und jetzt passiert etwas Seltsames.

Die Kehrtwende: Was dieselben Personen heute sagen

Plötzlich rudern dieselben CEOs zurück. Innerhalb weniger Wochen. Lesen Sie selbst (alle sinngemäß übersetzt):

Man könnte sagen: Sie schließen sich damit der Einschätzung an, die ich in unserer AI-Officer Ausbildung von Anfang an vertreten habe. Etwas spät, aber immerhin.

Warum das gerade passiert, ist vielschichtig. Bevorstehende Börsengänge spielen eine Rolle. Eine kippende öffentliche Meinung. Extreme Prognosen, die sich schlicht nicht bewahrheitet haben. Und eine kulturelle Verschiebung innerhalb des Silicon Valley selbst, die tiefer geht, als die meisten ahnen.

Denn um zu verstehen, was hier passiert, muss man einen Vergleich heranziehen, den Cal Newport (Professor für Informatik an der Georgetown University und Bestsellerautor) in seiner Analyse brillant auf den Punkt bringt:

Vier Gründe für die Kehrtwende

Schauen wir uns die vier wesentlichen Faktoren im Detail an:

Der kulturelle Hintergrund: Die X-Risk-Blase

Um den vierten Grund wirklich zu verstehen, muss man einen Blick in die Kulturgeschichte des Silicon Valley werfen. Denn was dort in den letzten zwei Jahrzehnten passiert ist, erklärt die Weltuntergangsrhetorik besser als jede strategische Analyse.

Die "Rationalisten": Was das für Leute waren

Die führenden KI-Unternehmer entstammen vorwiegend der kalifornischen "Rationalisten"-Bewegung der frühen 2000er Jahre. Das war eine Online-Community, die sich hauptsächlich auf Blogs und Foren wie "LessWrong" und "Overcoming Bias" organisierte. Die Mitglieder waren überwiegend junge Männer mit Hintergrund in Informatik, Mathematik oder Philosophie, viele davon an der US-Westküste.

Ihr Grundgedanke: Der Mensch denkt irrational. Wir fallen auf kognitive Verzerrungen herein, lassen uns von Emotionen leiten und treffen systematisch schlechte Entscheidungen. Die Lösung? Formale Logik, Wahrscheinlichkeitstheorie und das sogenannte Bayes'sche Denken auf jede einzelne Alltagsentscheidung anwenden.

Und damit meinten sie wirklich jede Entscheidung. Hier einige Beispiele dafür, was in dieser Szene als völlig normal galt:

• Bevor man ein Restaurant auswählt, erstellt man eine formale Wahrscheinlichkeitsschätzung, welches Restaurant den höchsten "erwarteten Nutzen" liefert. Man gewichtet dabei Faktoren wie Entfernung, Bewertungen, Kaloriengehalt und Zeitaufwand gegeneinander.
• Beziehungsentscheidungen (ob man jemanden datet, ob man zusammenzieht) werden mit "expected value calculations" modelliert. Es gab ernsthaft Blog-Posts darüber, wie man die optimale Partnerwahl als mathematisches Optimierungsproblem formuliert.
• Man führt "Prediction Markets" über das eigene Leben: Wetten mit sich selbst oder anderen darüber, wie wahrscheinlich es ist, dass man in fünf Jahren noch denselben Job hat, in derselben Stadt lebt oder dieselbe politische Meinung vertritt.
• Selbstoptimierung durch Nootropika ("Smart Drugs"), penible Schlafprotokolle, quantifizierte Produktivitätsmessung und das Dokumentieren jeder Stunde des Tages in Spreadsheets.
• Spenden nicht an die Hilfsorganisation, die einen emotional anspricht, sondern ausschließlich an diejenige, die pro investiertem Euro die meisten "Quality-Adjusted Life Years" (QALYs) produziert. Daraus entstand die Bewegung "Effective Altruism".

Das klingt für Außenstehende skurril bis obsessiv. Und genau das war es auch. Aber innerhalb der Szene war es Identität. Man war stolz darauf, "rationaler" zu sein als der Rest der Menschheit. Man hatte eigene Fachbegriffe, eigene Witze, eigene Statussymbole. Wer die meisten kognitiven Verzerrungen benennen konnte, hatte den höchsten sozialen Status. Es war, kurz gesagt, eine Nerd-Subkultur mit dem Selbstverständnis einer intellektuellen Elite.

Wie daraus die "Wir retten die Menschheit"-Fraktion wurde

Innerhalb dieser Bewegung bildete sich ab etwa 2005 eine Untergruppe, die sich vollständig auf sogenannte existenzielle Risiken ("X-Risk") fokussierte. Die Logik dahinter war eine direkte Anwendung des Rationalisten-Denkens auf die ganz großen Fragen:

Die zentrale Argumentation funktionierte über mathematische Erwartungswertberechnungen. Man multipliziert zwei Faktoren miteinander. Erstens die Eintrittswahrscheinlichkeit eines Ereignisses. Zweitens die Schwere der Konsequenzen, falls es eintritt. Wenn der zweite Faktor extrem hoch ist (z.B. Auslöschung der gesamten Menschheit), dann ergibt selbst eine winzige Eintrittswahrscheinlichkeit einen hohen Erwartungswert. Daraus leitete die Gruppe ab: Selbst wenn ein Risiko extrem unwahrscheinlich ist, muss man ihm höchste Priorität einräumen, solange die möglichen Folgen katastrophal genug sind.

Das ist dieselbe Denkweise, die man auf die Restaurantwahl anwendet, nur eben auf die Zukunft der Menschheit hochskaliert. Und genau das taten sie. Auf dieser Grundlage identifizierte die Bewegung verschiedene "existenzielle Risiken": Asteroideneinschläge, tödliche Pandemien, eine superintelligente KI, die menschliche Werte ignoriert. Alle wurden nach derselben Formel bewertet, alle erhielten dieselbe Dringlichkeit.

Besonders die KI-Gefahr wurde zum zentralen Thema. Eliezer Yudkowsky, der Gründer von LessWrong und inoffizielle Anführer der Bewegung, schrieb bereits Anfang der 2000er Jahre Tausende von Seiten darüber, warum eine superintelligente KI die Menschheit mit hoher Wahrscheinlichkeit auslöschen werde. In der Szene wurde das nicht als Spinnerei betrachtet, sondern als die wichtigste Erkenntnis der Menschheitsgeschichte. Wer daran arbeitete, dieses Risiko zu verhindern, war in den Augen der Community buchstäblich ein Held, der die Welt rettete.

Warum ist das relevant? Weil die größten KI-Firmen der Welt tief in genau diesem Milieu verwurzelt sind. OpenAI wurde 2015 explizit als Non-Profit gegründet, um "sichere KI" zu erforschen. Anthropic entstand 2021 als Abspaltung von OpenAI mit dem erklärten Ziel, KI-Sicherheitsforschung zu betreiben. Beide Unternehmen begannen also nicht als Technologiekonzerne, sondern als Projekte aus der X-Risk-Gemeinschaft.

Als dann mit ChatGPT Ende 2022 ein greifbares Massenprodukt auf den Markt kam, schienen die jahrelangen abstrakten Theorien dieser kleinen Gemeinschaft plötzlich real zu werden. Das löste in der Szene einen regelrechten Heldenkomplex aus: Wenn KI tatsächlich so mächtig ist, wie sie immer behauptet hatten, dann waren sie diejenigen, die die Menschheit davor bewahrten. Es war eine berauschende Vorstellung, sich als Retter der Menschheit zu fühlen.

Entscheidend ist: Die CEOs spielten dabei kein manipulierendes, strategisches Schachspiel mit der Öffentlichkeit. Sie kommunizierten anfangs schlichtweg in dem exzentrischen, fast kultartigen Jargon, den absolut jeder in ihrem Umfeld in San Francisco benutzte. In dieser Blase war es völlig normal, über die "Auslöschung der Menschheit" zu sprechen, wie andere über das Wetter reden. Erst als die Unternehmen zu gewaltigen Konzernen mit Millionen von Nutzern heranwuchsen und mit der normalen Welt in Berührung kamen, fiel den Führungskräften auf, dass Menschen außerhalb ihrer kleinen Blase diese apokalyptische Sprache nicht aufregend, sondern zutiefst furchteinflößend finden.

Kurz gesagt: Die Weltuntergangsrhetorik war kein Kalkül. Sie war Subkultur. Und Subkulturen skalieren nicht. Was in einem Forum mit 5.000 Mitgliedern funktioniert, funktioniert nicht als Kommunikationsstrategie für ein Unternehmen mit einer Bewertung von 150 Milliarden Dollar.

Was das für die Praxis bedeutet: Drei nüchterne Einschätzungen

Ich sage das als jemand, der täglich mit Unternehmen arbeitet, die KI einführen, und der die rechtlichen Konsequenzen dieser Einführung begleitet. Drei Dinge sind mir dabei wichtig:

1. Die Panik war übertrieben. Die Herausforderung ist es nicht.

Nein, KI wird Ihren Beruf nicht von heute auf morgen überflüssig machen. Die Prognosen, die 50 Prozent aller Jobs innerhalb von fünf Jahren verschwinden sehen, sind nicht seriös. Das räumen jetzt sogar die ein, die sie mitbefeuert haben.

Aber das Thema einfach zu ignorieren wäre der falsche Schluss daraus. KI verändert Berufsbilder. Nicht durch Auslöschung, sondern durch Verschiebung. Wer heute als Datenschutzbeauftragter oder Berater arbeitet, wird in drei Jahren andere Fragen beantworten müssen als heute.

Das gilt ganz besonders für Datenschutzbeauftragte. Denn jedes KI-System, das personenbezogene Daten verarbeitet, ist automatisch auch ein Datenschutzthema. Ihre Mandanten und Auftraggeber erwarten von Ihnen, dass Sie nicht nur die DSGVO kennen, sondern auch einordnen können, was die KI-Verordnung für den Datenschutz bedeutet. Wo überschneiden sich die beiden Regelwerke? Wann braucht man eine Datenschutz-Folgenabschätzung für ein KI-System? Was bedeutet automatisierte Entscheidungsfindung nach Art. 22 DSGVO im Kontext moderner KI? Diese Fragen landen auf Ihrem Schreibtisch, ob Sie wollen oder nicht.

2. Die KI-Verordnung ist real. Und sie schafft echten Beratungsbedarf.

Während die CEOs über Weltuntergang und Jobwunder diskutierten, hat die Europäische Union still und leise die KI-Verordnung verabschiedet. Sie gilt. Sie hat Fristen. Und die meisten Unternehmen sind noch nicht vorbereitet.

Das bedeutet konkreten Beratungsbedarf. Unternehmen müssen wissen: Welche KI-Systeme fallen unter welche Risikoklasse? Was müssen sie dokumentieren? Wer ist intern verantwortlich? Was passiert bei Verstößen? Diese Fragen werden in den nächsten Monaten auf jeden Datenschutzbeauftragten und jeden Berater zukommen. Die Frage ist nur, ob Sie dann eine fundierte Antwort haben oder passen müssen.

Für Datenschutzbeauftragte ist das besonders relevant: Die KI-Verordnung und die DSGVO greifen an vielen Stellen ineinander. Wenn ein Unternehmen ein KI-System einsetzt, das personenbezogene Daten verarbeitet (und das tun fast alle), dann müssen Datenschutzbeauftragte beurteilen können, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich ist, ob die Transparenzpflichten der KI-Verordnung mit den Informationspflichten der DSGVO zusammenpassen, und ob die Rechtsgrundlage für das Training und den Einsatz des KI-Systems tragfähig ist. Wer hier nur die DSGVO kennt, aber die KI-Verordnung nicht versteht, kann seinen Job nicht mehr vollständig ausüben. So einfach ist das.

3. Der KI-Markt ist noch in den Kinderschuhen. Die Chancen sind riesig.

Das ist der Punkt, den ich am wichtigsten finde. Wir sind noch früh. Der gesamte KI-Markt steckt noch in den Kinderschuhen. Die meisten Unternehmen haben noch keinen internen KI-Beauftragten. Die meisten Datenschutzbeauftragten haben noch keine strukturierte KI-Ausbildung. Die meisten Berater können die Fragen ihrer Mandanten zu KI noch nicht vollständig beantworten.

Und es geht längst nicht nur darum, im Goldrausch der KI-Beratung Geld zu verdienen. Es geht darum, dass viele Berufsfelder in naher Zukunft gar nicht mehr ohne KI-Compliance-Wissen vollständig ausgeübt werden können. Datenschutzbeauftragte, IT-Sicherheitsbeauftragte, Compliance-Manager, Personalverantwortliche: Überall dort, wo KI-Systeme eingesetzt werden, entstehen Schnittstellen zum KI-Recht. Und diese Schnittstellen werden mehr, nicht weniger.

Wer dieses Wissen jetzt hat, ist vorne mit dabei. Wer in zwei Jahren anfängt, ist nicht früh dran. Er ist spät. Und "spät" bedeutet hier: abgehängt.

---

Was konkret auf Sie zukommt

Damit das nicht abstrakt bleibt, hier die Fragen, die mir Mandanten und Kunden gerade am häufigsten stellen:

• Unser Unternehmen möchte ChatGPT oder ein ähnliches Tool einführen. Was müssen wir datenschutzrechtlich beachten?
• Wir nutzen KI in der Personalentscheidung. Fällt das unter Hochrisiko nach der KI-Verordnung?
• Wer ist bei uns intern für KI-Compliance verantwortlich? Brauchen wir einen KI-Beauftragten?
• Wie dokumentieren wir den KI-Einsatz so, dass wir bei einer Prüfung sauber dastehen?
• Was passiert, wenn ein KI-System eine fehlerhafte Entscheidung trifft? Wer haftet?
• Welche Verträge brauchen wir mit KI-Anbietern? Was muss drin stehen?
• Brauchen wir für unser neues KI-Tool eine Datenschutz-Folgenabschätzung? Und wenn ja: Wie berücksichtigen wir die KI-Verordnung dabei?
• Dürfen wir Kundendaten zum Training eines KI-Modells verwenden? Was sagt die DSGVO dazu?
• Unser Dienstleister setzt KI ein. Was muss in den Auftragsverarbeitungsvertrag rein, was bisher nicht drinstand?

Das sind keine theoretischen Fragen. Das sind die Fragen, die Ihre Auftraggeber Ihnen in den nächsten Monaten stellen werden. Die Frage ist nur, ob Sie dann eine Antwort haben.

Mein Fazit

Die KI-Weltuntergangsrhetorik endet gerade, weil sie nie der Realität entsprach. Sie war das Produkt einer kleinen, einflussreichen Subkultur, die plötzlich mit der echten Welt konfrontiert wurde.

Das ist die gute Nachricht: Kein Weltuntergang. Keine Massenarbeitslosigkeit über Nacht. Keine KI, die morgen Ihren Job übernimmt.

Aber hier ist die schlechte Nachricht: Wer jetzt denkt, das Thema habe sich damit erledigt, macht den größten Fehler, den man gerade machen kann. Denn während die Weltuntergangs-Debatte abklingt, läuft die eigentliche Entwicklung im Hintergrund mit voller Geschwindigkeit weiter. KI verändert Berufsbilder. KI schafft neue Haftungsfragen. KI bringt eine Regulierung mit sich, die echte Konsequenzen hat. Und wer das ignoriert, weil die Panikmacher jetzt zurückrudern, wird in zwei Jahren zurückblicken und sagen: "Hätte ich mal vor zwei Jahren angefangen."

Lassen Sie mich das deutlich sagen: Wer sich heute nicht mit KI-Recht, KI-Governance und KI-Kompetenz beschäftigt, ist in zwei Jahren so aufgestellt wie jemand, der im Jahr 2000 noch auf der Schreibmaschine getippt hat. Technisch funktional, aber komplett abgehängt. Nicht wettbewerbsfähig. Nicht beratungsfähig. Nicht relevant.

Die Mandanten werden fragen. Die Auftraggeber werden erwarten. Die Regulierung wird fordern. Und wer dann keine Antworten hat, verliert nicht nur Aufträge, sondern Vertrauen.

Gerade als Datenschutzbeauftragter stehen Sie hier in einer besonderen Verantwortung. Ihre Auftraggeber gehen davon aus, dass Sie die Schnittstelle zwischen Datenschutz und KI beherrschen. Dass Sie einordnen können, wann ein KI-Einsatz datenschutzrechtlich unbedenklich ist und wann nicht. Dass Sie wissen, welche Pflichten aus der KI-Verordnung auf den Datenschutz durchschlagen. Wenn Sie diese Fragen nicht beantworten können, wird Ihr Auftraggeber jemanden finden, der es kann. Und dann stehen Sie nicht mehr als erster Ansprechpartner da, sondern als jemand, der bei den wichtigsten Zukunftsfragen passen muss.

Aber: Wir sind noch früh. Das ist der entscheidende Punkt. Der gesamte KI-Markt formiert sich gerade erst. Sie können jetzt noch mit dabei sein. Sie können sich positionieren, während andere noch zögern. Sie können sich das Wissen jetzt abholen, das in 12 Monaten jeder braucht, aber kaum jemand hat. Das Zeitfenster ist offen. Aber es schließt sich.

Handeln Sie jetzt. Nicht morgen. Nicht nächstes Quartal. Jetzt.