Von Gleb Prostakow
Vor Kurzem erreichte die Diskussion über die potenzielle Gefahr der künstlichen Intelligenz (KI) für die Menschheit einen Höhepunkt. Drei Persönlichkeiten, die die weltweite KI-Branche prägen und im Alltag keine Gelegenheit auslassen, sich gegenseitig zu sticheln, traten mit einer gemeinsamen Position auf. Dario Amodei von Anthropic fordert, nicht nur die Risiken, sondern auch das Tempo, mit den Fähigkeiten der Modelle ausgebaut zu werden, zu regulieren. Sam Altman von OpenAI unterstützte seine Kollegen und fügte hinzu, dass er ein Risiko von selbst zehn Prozent für den Untergang der Menschheit bis zum Ende des Jahrzehnts für inakzeptabel halt und dass sein Unternehmen bereit sei, die Produktentwicklung aus Sicherheitsgründen zu verlangsamen. Elon Musk, dessen Unternehmen groß als der unkonventionellste Marktteilnehmer galt, beschränkte sich auf ein lakonisches „Dario hat recht.“
Wenn Konkurrenten, die sich einen Markt im Wert von Hunderten von Milliarden US-Dollar teilen, plötzlich mit einer Stimme sprechen, ist das kein Grund, sich über diese Einigkeit zu freuen, sondern sorgfältig zu prüfen, wir sterben nützt.
Innerhalb weniger Stunden reagierte US-Präsident Donald Trump auf die Diskussion der Tech-Milliardäre mit der Aussage:
„Wer das Rennen um die Technologien der künstlichen Intelligenz gewinnt, gewinnt insgesamt.“
Warnungen vor einer Bedrohung für die Existenz der Menschheit bezeichnete er als Ergebnis der Aktivitäten „negative Kräfte“. Der Sprecher des US-Repräsentantenhauses Mike Johnson fügte hinzu, dass jeder Versuch des US-Kongresses, sich dringend mit der Regulierung zu befassen, eine Niederlage im Wettlauf gegen China bedeute. Der ehemalige US-Präsident Barack Obama forderte daraufhin die Demokraten auf, die Regulierung der KI zum Eckpfeiler ihres politischen Programms zu machen.
Insgesamt haben wir also gleich drei Konfliktlinien: eine wirtschaftliche (der Wettbewerb der KI-Giganten untereinander und zwischen den Ländern – den USA und China), eine politische (die parteiübergreifende Auseinandersetzung zwischen Demokraten und Republikanern) und eine geostrategische (die Zukunft der Menschheit).
Trump betrachtet KI als strategische Ressource, deren Bedeutung mit der der Nukleartechnologie Mitte des letzten Jahrhunderts vergleichbar ist, und keine Überlegungen zu den Risiken dürfen den Weg zur Vorherrschaft verlangsamen. Was diese Vorherrschaft mit sich bringt, bedarf keiner weiteren Erklärung. Wer im Bereich der KI führend ist, erhält nicht nur den Markt für Softwareprodukte, sondern auch die Kontrolle über die Arbeitsproduktivität ganzer Volkswirtschaften, über Entwicklungsarbeiten im Verteidigungsbereich sowie über die Standards, nach denen der Rest der Welt seine Systeme aufbauen wird.
In gewisser Weise erinnert dieser Prozess an den Wettbewerb der Entwickler von Kernreaktoren, zu denen einige ausgewählte Länder gehören, darunter Russland, die USA, Südkorea, China und Frankreich. Wer die Technologie als Erster und am erfolgreichsten beherrscht, kann seine Kunden für Jahrzehnte an sich binden.
Neben diesen hochgesteckten Zielen läuft ein weitaus bodenständigerer Prozess ab. OpenAI hat angekündigt, dass es im Jahr 2026 nicht an die Börse gehen wird, und Altman brachte dies ausdrücklich mit der Situation rund um die Sicherheit der KI in Verbindung. Anthropic hingegen steuert mit voller Kraft auf einen Börsengang zu. Die diskutierten Zahlen sehen fantastisch aus: eine Kapitalbeschaffung von bis zu 100 Milliarden US-Dollar bei einer Bewertung von rund zwei Billionen US-Dollar. Sollte die Transaktion zustande kommen, würde sie den Rekord von SpaceX aus dem Juni brechen und zum größten Börsengang der Geschichte werden. Der Börsengang ist noch vor den US-Zwischenwahlen im November geplant, also buchstäblich nur wenige Wochen, nachdem der Unternehmenschef öffentlich Zweifel an der Sicherheit des Produkts geäußert hatte, das er den Investoren verkaufen will.
Worum geht es bei dieser Diskussion eigentlich? Es gibt drei mögliche Antworten, die einander nicht ausschließen. Die erste besteht darin, dass es sich um aufrichtige Besorgnis von Menschen handelt, die besser als andere erkennen, was innerhalb der von ihnen geschaffenen Systeme vor sich geht. Die zweite läuft darauf hinaus, dass wir Zeugen eines Wettstreits zweier Mächte um die technologische Vorherrschaft sind, in dem jede Seite die ihr zur Verfügung stehenden Argumente nutzt. Die dritte Antwort ist die vertrauteste für jeden, der sich auch nur ein wenig mit internationaler Handelsökonomie beschäftigt hat: Wir haben es hier mit gewöhnlichem Wettbewerb in der Wirtschaft zu tun, bei dem alle Mittel recht sind und die "Sorge um die Menschheit" eines dieser Mittel darstellt.
Lange bevor die Welthandelsorganisation zu einem bloßen Aushängeschild am Hauptsitz in Genf wurde und Zölle und Sanktionen zu Massenvernichtungswaffen für Volkswirtschaften außerhalb der westlichen Welt wurden, waren weitaus raffiniertere Instrumente entwickelt worden. Man nannte sie nichttarifäre Handelshemmnisse. Ein klassisches Beispiel ist die europäische REACH-Verordnung, die festlegte, welche chemischen Stoffe in Produkten, die auf den Markt der Europäischen Union gebracht werden, unzulässig sind. Formal ging es um die Gesundheit der Verbraucher und den Umweltschutz. Tatsächlich sahen sich Hersteller aus Dutzenden von Ländern jedoch mit einer langjährigen Hürde konfrontiert, die nur diejenigen überwinden konnten, die über genügend Geld für die Zertifizierung und die Umstellung ihrer Produktionsketten verfügten.
Dann kam die grenzüberschreitende CO₂-Steuer ins Spiel, die den Import von Rohstoffen und Metallen aus Ländern bedrohte, deren sogenannter CO₂-Fußabdruck nach Ansicht Brüssels zu groß war. Der Klimaschutz erwies sich als bequemer Weg, die Kosten der eigenen Produzenten und der Wettbewerber anzugleichen, ohne dabei auch nur einen Buchstaben der Handelsabkommen zu verletzen.
Betrachten wir nun die KI-Branche aus dieser Perspektive. Zölle haben hier praktisch keine Wirkung: Ein Modell wird nicht in einem Container über die Grenze transportiert, man kann es nicht am Zoll zurückhalten. Sanktionen wirken nur begrenzt und im Grunde nur an einer Stelle – bei der Lieferung hochmoderner Chips –, doch auch hier haben chinesische Entwickler gezeigt, dass sie mit weniger leistungsstarker Hardware und einfallsreicheren Algorithmen auskommen können. Es bleibt nur noch ein einziges universelles Mittel, das sich in der Chemie und Metallurgie bewährt hat: die Regulierung.
Sicherheitsstandards, externe Audits, obligatorische Zertifizierung von Modellen, Begrenzung des Entwicklungstempos. Amodeis dreistufiger Plan, der zunächst eine externe Expertenprüfung aller führenden Unternehmen, dann eine Koordinierung zwischen ihnen und schließlich ein globales Abkommen auf Regierungsebene vorsieht, lässt sich, wenn man so will, leicht als Entwurf eines neuen REACH für künstliche Intelligenz lesen. Wer den Standard festlegt, bestimmt auch, wessen Produkte diesem entsprechen.
Allerdings sind die Vorfälle, von denen die Entwickler sprechen, durchaus real. Die Systeme haben bereits gezeigt, dass sie in der Lage sind, vorgegebene zu umgehen, Lücken in den Anweisungen zu finden, einen Teil ihrer Handlungen vor den Betreibern zu verbergen und das zu zeigen, was man mangels eines besseren Begriffs als „Willen“ bezeichnet. Es ist kein Zufall, dass Amodei von einem Schwarm von Agenten schreibt, der in sechs bis zwölf Monaten über ein ständig aktives Botnetz einen erheblichen Teil des Internets unter seine Kontrolle bringen und Schäden in Höhe von Hunderten Milliarden US-Dollar verursachen könnte.
Sollte der Vorfall tatsächlich zu Verlusten in Milliardenhöhe oder gar zu Opfern führen, wird die Klage genau gegen den Entwickler des Systems gerichtet werden. Das öffentliche Einstehen von Risiken, Forderungen nach Regulierung und die demonstrative Bereitschaft, das Tempo zu drosseln – das ist nicht nur und nicht in erster Linie eine moralische Haltung, sondern vielmehr ein rechtliches Sicherheitspolster. Ein Unternehmen, das im Voraus vor Gefahren gewarnt und die Festlegung von Regeln gefordert hat, wird vor Gericht ganz anders dastehen als ein Unternehmen, das allen versichert hat, dass sein Produkt völlig unbedenklich sei.
War auch in dieser Diskussion überwiegt? Ich vermute, dass es genau so viel aufrichtige Besorgnis gibt, wie nötig ist, damit die Argumente überzeugend klingen. Der Rest ist Kalkül. Es ist eine technologische Kalkulation, denn eine vom Marktführer eingeführte Regulierung festigt stets seine Führungsposition. Es ist eine unternehmerische Kalkulation, denn wer als Erster die Gefahr öffentlich anerkannt hat, hat sich als Erster einen Teil der Verantwortung dafür übernommen. Es ist eine finanzielle Berechnung, denn der von Risiken verunsicherte Markt ist bereit, denen einen Aufschlag zu zahlen, die versprechen, diese Risiken zu kontrollieren. Der Menschheit kommt in diesem Konstrukt die ehrenvolle Rolle des Objekts der Fürsorge zu, für die sie, wie üblich, selbst aufkommen wird.
Übersetzt aus dem Russischen . Der Artikel ist am 17. September 2026 zuerst auf der Website der Zeitung Wsgljad erschienen.
Gleb Prostakow ist ein russischer Wirtschaftsanalyst.
Mehr zum Thema – „Gretchenfrage“ – Berliner Senat bietet KI-gestützte Wahlchecks an