Die großen KI-Konzerne haben ein neues Produkt entdeckt: Angst.

Am Wochenende warnten gleich mehrere Tech-Bosse davor, künstliche Intelligenz könnte sich irgendwann verselbstständigen, außer Kontrolle geraten oder im schlimmsten Fall sogar die Menschheit auslöschen.

Und wenn die Herren, die diese Systeme gerade mit Milliardeninvestitionen immer leistungsfähiger machen, plötzlich sagen, man müsse dringend auf die Bremse treten, dann darf man zumindest einmal nachfragen:

Warum drücken sie eigentlich gleichzeitig weiter aufs Gaspedal?

Anthropic-Chef Dario Amodei fordert, das Tempo bei der Entwicklung neuer KI-Modelle zu reduzieren. Unterstützung bekommt er unter anderem von OpenAI-Chef Sam Altman, Elon Musk, Microsoft-Chef Satya Nadella und DeepMind-Chef Demis Hassabis.

Das klingt zunächst beeindruckend.

Fast so, als würden die Hersteller von Sportwagen gemeinsam erklären, dass Tempo 300 vielleicht doch keine gute Idee sei – während in der Fabrik bereits das nächste Modell mit 350 km/h vom Band läuft.

Besonders eindrucksvoll wird die Debatte, wenn bei Anthropic über Wahrscheinlichkeiten gesprochen wird.

Der für Sicherheit zuständige Forscher Evan Hubinger erklärte, er schätze das Risiko, dass KI innerhalb des kommenden Jahrzehnts „alle Menschen tötet“, auf mehr als zehn Prozent.

Mehr als zehn Prozent.

Bei solchen Zahlen würde normalerweise kein Mensch mehr in ein Flugzeug steigen.

Bei künstlicher Intelligenz lautet die Reaktion offenbar:

Dann investieren wir lieber noch ein paar Milliarden.

Die KI könnte uns alle töten – aber bitte nicht China gewinnen lassen

Auch Wissenschaftler zeichnen düstere Szenarien.

Der Informatikprofessor Stuart Russell warnt vor einer zukünftigen KI, die zu dem Schluss kommen könnte, dass Menschen ihren Zielen im Weg stehen.

Dann könnten autonome Systeme möglicherweise kritische Infrastruktur angreifen, Waffensysteme manipulieren oder sogar biologische Gefahren erzeugen.

Andere Experten warnen vor Angriffen auf Stromnetze, Banken und globale Finanzsysteme.

Kurz gesagt:

Alles könnte kaputtgehen.

Nur eines offenbar nicht:

das Geschäftsmodell.

Denn sobald die Frage aufkommt, ob man die Entwicklung vielleicht tatsächlich verlangsamen sollte, erscheint sofort das große Schreckgespenst:

China.

Wenn die USA langsamer machen, könnte China gewinnen.

Damit ist die Diskussion dann meistens beendet.

Willkommen beim digitalen Kalten Krieg

Die Logik erinnert tatsächlich verblüffend an den Kalten Krieg.

Damals hieß es:

Wir brauchen mehr Atomwaffen, weil die anderen Atomwaffen haben.

Heute heißt es:

Wir brauchen leistungsfähigere KI, weil die anderen leistungsfähigere KI entwickeln.

Und morgen möglicherweise:

Wir brauchen eine KI, die unsere KI kontrolliert, weil wir unserer ersten KI nicht mehr trauen.

Ein erstaunlich elegantes System.

Jede neue Gefahr rechtfertigt gleichzeitig die nächste Investitionsrunde.

Trump hat die Lösung bereits gefunden

US-Präsident Donald Trump hält von der ganzen Bremserei wenig.

Nach seiner Darstellung läuft eine „kranke Verschwörung“ gegen künstliche Intelligenz.

Und natürlich profitiert davon vor allem:

China.

Trump erklärte sinngemäß, die entscheidende Leitplanke für KI sei ein intelligenter Präsident.

Das Problem der globalen KI-Sicherheit wäre damit überraschend einfach gelöst.

Keine Kontrollbehörden.

Keine internationale Regulierung.

Keine komplexen technischen Standards.

Ein kluger Präsident reicht.

Silicon Valley dürfte erleichtert sein.

Europa sucht noch den Einschaltknopf

Während die USA und China darüber diskutieren, wer als Erster die mächtigste KI der Welt baut, steht Europa daneben und stellt fest:

Wir müssten vielleicht auch einmal etwas machen.

Eine Expertengruppe präsentierte mehr als 40 Vorschläge, damit Europa technologisch nicht vollständig abhängig wird.

Die frühere EU-Wettbewerbskommissarin Margrethe Vestager warnt davor, Europa zum Spielfeld ausländischer Mächte werden zu lassen.

Der französische Nobelpreisträger Philippe Aghion fordert sogar, die europäischen Anstrengungen bei KI zu verzehnfachen.

Das klingt ambitioniert.

Europa dürfte daher demnächst zunächst eine Arbeitsgruppe gründen, die prüft, wie man eine Arbeitsgruppe zur Verzehnfachung der KI-Anstrengungen organisieren könnte.

Ergebnisbericht:

voraussichtlich 2031.

Oder ist die Weltuntergangswarnung einfach ziemlich gute Werbung?

Doch inzwischen fragen einige Branchenvertreter etwas ganz anderes:

Wie ernst sind diese Warnungen wirklich?

Denn wer öffentlich erklärt, seine Technologie könne möglicherweise die Menschheit vernichten, sendet gleichzeitig eine andere Botschaft:

Unsere Technologie ist unglaublich mächtig.

Für Unternehmen, deren Bewertungen teilweise astronomische Höhen erreicht haben, ist das keine völlig unpraktische Botschaft.

Der KI-Unternehmer Brian Roemmele vermutet beispielsweise, dass die Sicherheitswarnungen von Anthropic auch PR-Zwecken dienen könnten.

Gerade vor einem möglichen Börsengang wirkt die Botschaft „Unser Produkt könnte theoretisch die Zivilisation beenden“ vielleicht etwas ungewöhnlich.

Aber im Silicon Valley gelten schließlich andere Marketingregeln.

Früher sagte man:

Unser Produkt ist besser.

Heute offenbar:

Unser Produkt könnte die Menschheit vernichten.

Kaufen Sie Aktien.

Und plötzlich wollen ausgerechnet die Marktführer Regulierung

Auch der Chef des kanadischen KI-Unternehmens Cohere, Aidan Gomez, sieht wirtschaftliche Interessen.

Sein Verdacht:

Die großen Anbieter könnten versuchen, Sicherheitsstandards so zu gestalten, dass kleinere Konkurrenten kaum noch mithalten können.

Das wäre praktisch.

Man fordert strenge Regeln.

Man hilft beim Schreiben dieser Regeln.

Und weil nur die größten Unternehmen genug Geld haben, sie einzuhalten, bleibt am Ende genau jene Handvoll Konzerne übrig, die die Regeln vorgeschlagen hat.

Sicherheit durch Marktbereinigung.

Auch eine Idee.

Nvidia wiederum findet die Angst verdächtig

Nvidia-Chef Jensen Huang sieht ebenfalls kommerzielle Interessen.

Er vermutet, dass manche KI-Unternehmen besonders laut vor Cybergefahren warnen könnten, weil sie selbst Sicherheitsprodukte verkaufen wollen.

Seine sinngemäße Frage:

Wie erzeugt man Nachfrage nach einer Lösung?

Man erklärt zuerst, wie groß das Problem ist.

Allerdings hat auch Nvidia selbstverständlich ein gewisses wirtschaftliches Interesse daran, dass die KI-Entwicklung möglichst schnell weitergeht.

Denn je mehr KI gebaut wird, desto mehr Hochleistungsprozessoren werden benötigt.

Und zufällig verkauft Nvidia genau diese.

Damit ist die Debatte wunderbar komplett.

Die Firmen, die bremsen wollen, könnten Geld mit der Bremse verdienen.

Die Firmen, die beschleunigen wollen, verdienen Geld mit dem Gaspedal.

Und der Rest der Menschheit sitzt auf dem Rücksitz.

Apokalypse oder Fortschritt? Hauptsache Milliarden

Vielleicht hatte der italienische Philosoph Umberto Eco schon 1964 recht.

Er unterschied bei neuen Technologien zwischen den „Apokalyptikern“, die überall den Untergang sehen, und den „Integrierten“, die begeistert an den Fortschritt glauben.

Bei künstlicher Intelligenz haben wir inzwischen allerdings eine neue Kategorie:

den kommerziellen Apokalyptiker.

Er warnt vor dem Ende der Menschheit.

Er fordert Regulierung.

Er baut gleichzeitig ein noch leistungsfähigeres Modell.

Und anschließend sammelt er die nächste Finanzierungsrunde ein.

Vielleicht wird KI tatsächlich eine der größten technologischen Revolutionen der Menschheitsgeschichte.

Vielleicht entstehen auch reale und schwer kontrollierbare Gefahren.

Gerade deshalb sollte man die Warnungen ernst nehmen.

Man sollte allerdings ebenso ernst nehmen, wer warnt, wann gewarnt wird und wer wirtschaftlich davon profitieren könnte.

Denn derzeit wirkt die Diskussion manchmal wie ein außergewöhnliches Geschäftsmodell:

Erst baut man die möglicherweise gefährlichste Technologie der Welt.

Dann warnt man vor ihr.

Dann fordert man Regeln für alle anderen.

Und anschließend erklärt man den Investoren, warum das eigene Unternehmen deshalb noch wertvoller geworden ist.

Willkommen im KI-Zeitalter.

Die Zukunft ist ungewiss – die nächste Milliardenrunde dagegen ziemlich sicher.