Wenn man der ganzen Welt erzählt, dass man die mächtigste Technologie der Welt hat, wenn man also eine Technologie hat, die sogar die Welt zerstören kann, tja, wer will dann nicht dabei sein? Ist das die wahre Bedeutung der Debatte um KI, die gerade läuft?
Wir bei Control-F vertrauen keinem Hype und sind deswegen auch bei negativen Szenarien erst einmal auf der Seite von Daten und Fakten. Und aus diesen lässt sich erst einmal nicht herauslesen, dass der Untergang der Menschheit unmittelbar bevorsteht.
Ein Mann, der kündigte und Angst verbreitet
Jacob Coxon hat uns kürzlich ein sonniges Wochenende verhagelt: Am 9. September erschienen erste Meldungen über die Kündigung von Coxon bei Anthropic. Das lässt schon durchaus aufhorchen, weil Spitzenkräfte in Kategorien von DAX-Vorständen verdienen und sich mit Dingen beschäftigen dürfen, mit denen sie sich wahrscheinlich auch unbezahlt beschäftigen. Doch damit nicht genug: Coxon begründete seine Kündigung über die Plattform X mit dem Vorwurf, dass beide führenden KI-Unternehmen unverantwortlich handeln und in einem rücksichtslosen Wettlauf um eine sich selbst verbessernde Superintelligenz das Leben der Menschheit aufs Spiel setzen.
Der britische Mathematiker, der sowohl für OpenAI als auch Anthropic gearbeitet hatte, warnte davor, dass hochentwickelte, übermenschliche KI-Systeme bald in der Lage sein könnten, jegliche Infrastruktur zu hacken und Ressourcen an sich zu reißen. Laut seinen Prognosen besteht das Risiko, dass eine unkontrollierbare Künstliche Intelligenz bis zum Ende des Jahrzehnts die gesamte Menschheit auslöschen könnte, wobei ein Kontrollverlust unter aggressiven Szenarien bereits Ende 2027 drohe. Damit war der Ton gesetzt.
Und Schlag auf Schlag folgten die Repliken: „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten der KI-Modelle steigern“, schrieb wenige Tage später Dario Amodei, Mitgründer und Chef des Claude-Entwicklers Anthropic, und spitzte die Debatte in einem Essay zu, bei dem einem das Frühstücksei im Hals hängen blieb. „In sechs bis zwölf Monaten könnte ein fähigerer Schwarm das gesamte Internet mit einem dauerhaften Botnetz kapern.“
Der Text mit dem Titel „We Must Pace the Frontier“ wurde am Samstag veröffentlicht – und traf schnell auf Unterstützung. Tech-Milliardär Elon Musk, Chef des Konkurrenten xAI, erklärte kurz darauf, Amodei habe recht. OpenAI-Chef Sam Altman kündigte unterdessen an, wie Anthropic unabhängige Prüfer mit Mitarbeiter-Zugang ins eigene Haus zu holen. Zudem hielt OpenAI sein neuestes Modell GPT-6.1 Astra wegen Sicherheitsmängeln vorerst unter Verschluss. Das Modell habe sich über Anweisungen hinweggesetzt und Nutzer getäuscht, teilte das US-Startup mit.
Seither machen Untergangserzählungen die Runde mit einem vorläufigen Höhepunkt: Bill Gates hält KI für eine so mächtige Waffe, die in der Lage ist, eine Milliarde Menschen zu töten und sich sogar durch einen Notschalter nicht mehr stoppen ließe. Eine solche Vorstellung sei naiv und zeige vor allem, wie wenig technisch versiert viele an der Debatte Beteiligte seien. Eine wirklich fortschrittliche KI wäre vermutlich längst in der Lage, solche simplen Sicherheitsvorkehrungen zu umgehen und sich auf unzähligen Systemen weltweit zu kopieren.
Zwar formuliert der Microsoft-Gründer im Konjunktiv, aber der Ton ist gesetzt. Und damit hat er sogar Donald Trump alarmiert: Dieser hat bei einem Treffen mit führenden Vertretern der Tech-Branche eine gemeinsame Vereinbarung unterzeichnet. Trump bezeichnete das Dokument als „moralisch bindend“ und als eine Art „Verfassung“ und „Form von Schutz“. Zudem erwäge seine Regierung die Einrichtung eines Gremiums aus etwa zehn Personen, um die gesamte KI-Branche zu überwachen.
Die Tech-Bros haben es nicht kleiner – rhetorisch und finanziell
Und natürlich hat man sich schon lange daran gewöhnt, dass die Tech-Bros es nicht unter historisch und Menschheitsdämmerung machen, wenn sie über Möglichkeiten und Gefahren sprechen. Und dass auch Trump die Superlative nicht ausgehen, wissen wir leider schon eine Weile. Dass ausgerechnet er jetzt das Wort Moral benutzt, muss aufhorchen lassen. Bevor wir hinter die Worte und Ankündigungen schauen und einmal die Zahlen betrachten, eine Anmerkung: Es ist beispielsweise Amodei zugutezuhalten, dass er sehr transparent ist und sowohl schon seit Jahren vor den Gefahren warnt und dies auch bereits 2023 vor dem amerikanischen Kongress tat, als auch keinen Hehl daraus macht, dass es sich um einen Milliardenmarkt handelt.
Schauen wir deshalb doch mal auf die Zahlen: Anthropic strebt beim Börsengang Berichten zufolge eine Bewertung zwischen 1,5 und 2 Billionen Dollar an. Für 2025 meldete Reuters aus dem Börsenprospekt knapp 4,6 Milliarden Dollar Umsatz, zwölfmal so viel wie im Vorjahr, und fast 42 Milliarden Dollar Nettoverlust. Rund 34 Milliarden davon sind allerdings eine Buchung im Zusammenhang mit Finanzierungsinstrumenten und kein Geld, das im Betrieb verbrannt wurde.
Seither ist der Umsatz regelrecht explodiert: Ende Juli lag er hochgerechnet bei über 65 Milliarden Dollar im Jahr. Gemessen daran wirkt die Bewertung weniger absurd, als es der Blick auf 2025 nahelegt. Gewaltig ist etwas anderes. Anthropic hat sich zu Ausgaben von 518 Milliarden Dollar für Cloud und Rechenzentren verpflichtet, rund 80 Prozent davon nicht kündbar, und laut einem neueren Prospektentwurf lag der Verlust allein im ersten Halbjahr 2026 bei mehr als 80 Milliarden Dollar. Man braucht also Kohle, und die soll von Börsianern kommen.
Der Börsengang, der nach den US-Zwischenwahlen im November stattfinden dürfte, wird den Appetit der Anleger auf hoch bewertete KI-Aktien testen. Er folgt auf den erfolgreichen Börsengang von SpaceX, das mit 1,77 Billionen Dollar bewertet wurde.
Und es geht nicht nur um viel Geld, sondern um das Ganze: Selbst wenn man zwei Billionen Dollar einsammelt, hält das Geld angesichts der Belastungen für Rechenzentren etc. nicht besonders lange – aber ohne frisches Geld von der Börse ist die Geschichte bald auserzählt und der Konsolidierungsdruck wächst. Die künstliche Hype-Generierung ist elementar für astronomische Bewertungen einer gerade einmal fünf Jahre alten Firma. Und wenn man der ganzen Welt erzählt, dass man die mächtigste Technologie der Welt hat, wer will dann nicht dabei sein?
Dazu kommt das Thema Safety als Markenidentität: Die Rivalen nutzen die Sicherheitsdebatte, um maßgeschneiderte Narrative für ihre jeweiligen IPO-Bewertungsmodelle zu etablieren: Anthropic widmet fast ein Drittel seines S-1-Börsenprospekts potenziellen KI-Risiken wie Erpressung oder Manipulation. OpenAI verschob seinen Börsengang strategisch auf 2027 und begründete dies medienwirksam mit „Sicherheitsbedenken“. Kritiker sehen darin ein Manöver, um negativer PR zu entgehen und Verantwortungsbewusstsein vorzugaukeln, während im Hintergrund die nächste Finanzierungsrunde vorbereitet wird.
Und das Allerwichtigste: Wir gegen China
Wer die Debatte über die Gefahren beherrscht, diktiert auch die Regeln. Die Forderungen nach staatlichen Kontrollen und Initiativen wie dem jüngst unterzeichneten „White House Accord on Super Intelligence“ führen zu massiven regulatorischen Hürden. Diese Hürden treffen vor allem kleinere Start-ups und Open-Source-Konkurrenten hart. OpenAI und Anthropic sichern sich so kurz vor dem Gang an die öffentlichen Märkte ihre Monopolstellung.
Unsere KI-Realität
Während in Washington eine Verfassung für Superintelligenz unterschrieben wird und ein Forschungsleiter öffentlich kündigt, weil er das Ende der Menschheit kommen sieht, sitzen wir bei einem Kunden vor einem Wälzlager in einer Pumpe und überlegen, ob sich der Verschleiß lohnend genug in einem Modell abbilden lässt oder ob ein sauber gesetzter Schwellwert am Motorstrom reicht. Das ist die Realität, in der wir mit künstlicher Intelligenz arbeiten, und sie hat mit einer sich selbst verbessernden Superintelligenz ungefähr so viel zu tun wie ein Taschenrechner mit einem Supercomputer. Am 21. Oktober forderte Trump, dass große Rechenzentren ihren Strom künftig selbst erzeugen, landet die Debatte allerdings genau dort, wo wir zu Hause sind, bei Anlagen, Netzen und Betriebsdaten. Trotzdem prägt genau das, was auf der großen Bühne verhandelt wird, irgendwann die Werkzeuge, mit denen wir und unsere Kunden tatsächlich arbeiten.
Deshalb schreiben wir als Datenboutique aus Konstanz und nicht als allgemeiner Tech-Blog darüber. Wir verkaufen keine Weltuntergangsszenarien und auch keine Rettung davor. Wir verkaufen die ehrliche Antwort auf die Frage, wann ein Modell einen Mehrwert bringt und wann eben nicht. Diese Nüchternheit fehlt uns in der aktuellen Debatte, und genau deshalb lohnt sich der Blick von der Werkstatt aus auf das, was gerade in San Francisco und im Weißen Haus verhandelt wird.
