Die Heilsversprechen der KI sind inzwischen Legion: Vom Bewerbungsschreiben bis zur Wettervorhersage, von der ärztlichen Diagnostik zum Börsenhandel, von der baulichen Gestaltung zur landwirtschaftlichen Planung, von der Bild- und Filmerstellung zur Literaturrecherche und -generation: in immer mehr Bereichen treffen wir auf freundliche und bequeme KI-Assistenten, die uns die Arbeit abnehmen sollen.
Die Ergebnisse reichen dabei von erstaunlich brauchbar bis zu völlig sinnleeren digitalen Artefakten und hängen in erster Linie von der Kompetenz des Anwenders ab. Nur wer ein (zumindest) prinzipielles Verständnis der Funktionsweise eines KI-Tools hat kann es sinnvoll anwenden; bemüht man sich nicht, sie zu verstehen, ist man der KI hilflos ausgeliefert wie einem Orakel, dass man für sich arbeiten läßt, ohne zu wissen, nach welchen Regeln, Prinzipien und Prämissen es funktioniert.
Die aufgezählten KI-Beispiele sind aber nur die öffentliche Oberfläche der KI-Entwicklung, also diejenigen KI-Anwendungen, auf die man mehr oder weniger freiwillig zugreifen kann. Man kann z.B. ein Gedicht für die Angebetete von Grok, der KI von X, schreiben lassen, weiß aber dabei, dass das nicht dasselbe ist, als selbst damit zu ringen, die richtigen Worte für seine Gefühle zu finden und niederzuschreiben. Hier haben wir es mit der Situation zu tun, in der ein Konsument die Wahl hat das eine KI-Tool zu nutzen oder das andere, oder gar keines. Das ist das konsumorientierte, freundliche Weltverbesserungs-Antlitz der KI.
Aber das ist nur die eine Seite der KI-Entwicklung. Die andere ist die Seite, wo der Mensch keine Wahl mehr hat und zum Objekt der KI wird. Dies ist insbesondere da der Fall, wo die öffentliche Hand KI benutzt, um ihre Ziele durchzusetzen, wie man zum Beispiel am sich immer weiter beschleunigenden Ausbau von Massenüberwachung, social scoring, digitaler Kriegsführung, predictive policing und Automatisierung von Zensur sieht.
KI wird hier zu einem Instrument der Macht, sowohl bei der Anwendung materieller Gewalt wie auch bei der Überwachung und Steuerung denkerischer Aktivität. Die Übergänge sind dabei fließend: wo der mit Hilfe von KI generierte und individualisierte nudge nicht wirkt, da steht als nächstes in den frühen Morgenstunden ein SEK der Polizei vor der Tür, um ein von der KI prognostiziertes Verbrechen zu verhindern, bevor es geschieht, und sei es auch ein Klima-Verbrechen, oder was sonst gerade wieder als demokratiegefährdend geframt wird.
Jüngst ist wieder die auf die Analyse von großen und heterogenen Datenmengen spezialisierte Firma Palantir in die Schlagzeilen geraten. Die Firma wurde 2003 unter anderem von Peter Thiel und Alex Karp gegründet und arbeitete lange und bis heute im Dunstkreis der US-Geheimdienstgemeinschaft. In die Schlagzeilen geriet Palantir anlässlich zweier Ereignisse. Zum Einen hat hat US-Präsident Donald Trump soeben die Zusammenarbeit mit Palantir vertieft, wie @wikileaks am 6. Juni auf X tweetete. Palantir soll die Daten, die die US-Behörden auf unterschiedlichen Ebenen über ihre Bürger erstellen, KI-gestützt zusammenführen und integrieren. Hierzu habe Palantir bereits Verträge mit mehreren Bundesbehörden abgeschlossen, und US-Präsident Trump bereits im März 2025 eine Durchführungsverordnung unterzeichnet, die Bundesbehörden dazu verpflichte, alle Hindernisse zum Austausch von nicht-klassifizierten Daten zwischen den Behörden zu beseitigen, wie die New York Times am 30. Mai 2025 berichtete.
Ziel des Vorstoßes sei der Aufbau einer zentralen Datenstruktur, in der potentiell alle verfügbaren Daten über ein Individuum zusammengeführt und verarbeitet werden können. Dies, so die NYT weiter, würde der Trump-Administration beispiellose Überwachungsmöglichkeiten an die Hand geben, die sei politisch missbrauchen könnte, beispielsweise bei der Überwachung von Migranten. Ob es nun um Migration oder etwas anderes geht, ob es die aktuelle oder eine andere US-Administration nutzt ist aber unerheblich dafür, was Palantir aufbauen und implementieren soll: eine universelle Maschine zur KI-basierten sozialen Kontrolle.
Zum zweiten ist Palantir in die Schlagzeilen geraten wegen der Rolle, die es im Gazakrieg spielt. 2024 schlossen Israel und Palantir ein Abkommen, um die Analysetechniken von Palantir für die israelische Armee zu nutzen. Die israelische Armee nutzt z.B. die Software Lavender für ihre Zielauswahl. Diese Software ordnet Palestinensern einen Wert von 1 bis 100 zu, der ausdrückt, wie wahrscheinlich er sich feindlich gegenüber Israel verhalten wird. Der Wert wird durch die Kombination von Socialmedia-Aktivität, Bewegungsmustern, Telekommunikationsdaten und anderen Daten generiert, seine Fehlerquote wird dabei mit 10% angegeben.
Für die Auswahl geografischer Ziele wird die Software Habsora genutzt, die mit Hilfe von KI Orte für kinetische Angriffe bestimmt. Auf den Einwurf aus dem Publikum einer halböffentlichen Veranstaltung des diesjährigen Treffen in Davos, dass die KI von Palantir Menschen im Gazastreifen töten würde, antwortete der CEO von Palantir, Alex Karpf, bestätigend: „Hauptsächlich Terroristen“. In diesem – wie in allen anderen kommenden Kriegen – wird KI zur Kriegswaffe, die ihre technische Raffinesse zur Berechnung der effizientesten Vernichtung des Gegners einsetzt.
Schon etwas zurück liegt die Ankündigung des Projekts Stargate, das die Trump-Regierung finanziell und regulatorisch unterstützen will. Das Projekt, an dem sich Unternehmen wie Oracle, OpenAI, Softbank und MGX beteiligen, zielt darauf, durch die Kombination von massenhafter genetischer Sequenzierung und KI in kürzester Zeit individualisierte Therapien (genannt ‘Impfungen’) gegen Krebs bereitzustellen. Die mRNA-Technologie, die sich im Corona-Betrug als unsicher und unwirksam herausgestellt hat, soll auf das Territorium zurück geführt werden, in dem sie ursprünglich entstanden ist: der Krebstherapie. KI, so wird verlautbart, soll es der pharmazeutischen Forschung ermöglichen, universale Wirkstoffe durch maßgeschneiderte Medikamente zu ersetzen. Nicht mehr ein Medikament für alle, sondern jedem sein Medikament, lautet hier die Devise.
Was verführerisch klingt, könnte leicht das Ende der medizinischen Ethik sein, so wie wir sie – wenigstens vor Corona – im Ansatz kannten: Wenn jedes Medikament nur einen Adressaten hat, dann kann es keine vorgängigen Sicherheits- und Wirksamkeitsüberprüfungen mehr geben. Ob die jeweilige Anwendung gesundheitlich zu- oder abträglich ist, zeigt sich dann immer nach Medikamentengabe im Einzelfall. KI wird hier zu einem medizinisch-kombinatorischen Instrument, das sich aufgrund Komplexität der Wirkmechanismen zwischen menschlichem Körper und Medikation nicht kritisch mit seinen Resultaten rückkoppeln lässt.
Wenn man hinter die funkelnde Oberfläche der KI-Assistenten, -Apps und Innovationshubs blickt, zeigen sich Abgründe, die uns alle auf die ein oder andere Weise direkt angehen. Die drei Beispiele – und es lassen sich leicht viele weitere finden und aufzeigen – zeigen, wie KI durch soziale Kontrolle und Zensur zur politischen Waffe wird , durch Verwendung im militärischen Bereich zur Kriegswaffe und im Gesundheitsbereich zum intransparenten und nicht rechenschaftsfähigen medizinischen Orakel.
Zum Weiterlesen: