Stellen wir uns einen Morgen im Jahr 2032 vor. In einem Lagezentrum prüfen Fachleute eine Anomalie, die mehrere Betreiber kritischer Infrastruktur gemeldet haben. Ihre KI-Systeme treffen Entscheidungen, die einzeln plausibel erscheinen, in ihrer Wechselwirkung jedoch einen gefährlichen Zustand erzeugen. Noch versteht niemand, wie weit das Problem reicht. Eine Verantwortliche schlägt vor, die betroffenen Systeme vorübergehend abzuschalten. Die Techniker könnten das tun. Doch bevor jemand die Anweisung gibt, müssen die Betreiber erklären, was anschließend weiterläuft.
Ein Logistikunternehmen müsste seine Disposition umstellen, während ein Energieversorger einen Teil seiner Prognosen verlieren könnte. Banken müssten bestimmte Prozesse einschränken. Die Cyberabwehr würde ausgerechnet in diesem Moment auf Werkzeuge verzichten, mit denen sie ihre Infrastruktur schützt. Während die Fachleute diese Abhängigkeiten durchgehen, verändert sich die Besprechung. Sie diskutieren inzwischen, welche Folgen schwerer wiegen: die unbekannten Risiken des Weiterbetriebs oder die absehbaren Schäden einer Abschaltung. Der Ausschalter funktioniert. Aber die Verantwortlichen finden keinen Weg, ihn zu benutzen, ohne eine zweite Krise auszulösen.
Diese Szene ist erfunden. Das Jahr 2032 ist ein Szenario, keine Vorhersage. Die Frage, die darin steckt, betrifft allerdings Entscheidungen, die wir heute treffen. Ich nenne den beschriebenen Zustand The Dependency Horizon: den Punkt, an dem eine Gesellschaft KI technisch noch abschalten könnte, die wirtschaftlichen, gesellschaftlichen oder sicherheitspolitischen Folgen jedoch so schwer wären, dass eine Abschaltung faktisch keine realistische Option mehr darstellt. Wir haben den Stecker noch. Aber wir verlieren die Freiheit, ihn zu ziehen.
Wie wir Alternativen verlieren
Wer einen Chatbot schließt, kann anschließend weiterarbeiten. Vielleicht langsamer und mit mehr Aufwand, aber die Aufgabe bleibt beherrschbar. Ein Unternehmen, das seine Abläufe über Jahre um KI herum organisiert hat, steht vor einer anderen Entscheidung. Zunächst unterstützt die Software einzelne Beschäftigte. Weil dieselben Menschen mit ihrer Hilfe mehr Arbeit erledigen können, verändert die Geschäftsführung anschließend die Prozesse. Sie verkürzt Bearbeitungszeiten und passt Personalplanung und Preise an. Kunden gewöhnen sich an das neue Tempo. Irgendwann kalkuliert das Unternehmen mit einer Leistungsfähigkeit, die seine Mitarbeiter ohne diese Systeme nicht mehr erreichen.
Jeder dieser Schritte kann vernünftig sein. Eine Geschäftsführerin, die auf Automatisierung verzichtet, muss erklären, wie ihr Unternehmen die zusätzlichen Kosten trägt und warum Kunden längere Lieferzeiten akzeptieren sollen. Nutzen Wettbewerber KI erfolgreich, schrumpft der Spielraum für einen Verzicht. Dafür braucht es weder eine politische Vorgabe noch einen Anbieter, der Unternehmen zur Nutzung zwingt. Die Abhängigkeit entsteht durch Entscheidungen, die unter den jeweiligen wirtschaftlichen Bedingungen sinnvoll erscheinen. Erst in ihrer Summe verändern sie die Voraussetzungen, unter denen ein Unternehmen existiert.
Wir kennen solche Entwicklungen von früheren Technologien. Kaum ein international tätiger Betrieb könnte heute dauerhaft ohne digitale Kommunikation arbeiten. Abhängigkeit allein ist deshalb noch kein Argument gegen Fortschritt. Entscheidend ist, ob die Verantwortlichen Fehler begrenzen und Ausfälle auffangen können. Bei KI verdient diese Frage besondere Aufmerksamkeit, weil wir ihr zunehmend Aufgaben übertragen, für die Menschen bislang Erfahrung und Urteilskraft brauchten. Gleichzeitig können wir Abläufe schaffen, deren Umfang und Geschwindigkeit eine manuelle Übernahme ausschließen.
Die Leistungsfähigkeit eines Modells sagt deshalb wenig darüber aus, welche Folgen sein Ausfall hätte. Ein sehr leistungsfähiges Modell kann für einen Betrieb verzichtbar bleiben. Ein begrenztes System kann unverzichtbar werden, wenn die Verantwortlichen einen kritischen Prozess darauf aufbauen und keinen Ersatz vorhalten. Wer ein KI-Projekt beurteilt, muss also auch die Organisation betrachten, die nach seiner Einführung entsteht. Welche Fähigkeiten erhält sie? Welche baut sie ab? Und wie lange könnte sie ihre wesentlichen Aufgaben erfüllen, wenn das System ausfällt?
Gerade die letzte Frage lässt sich leicht mit einem beruhigenden Satz beantworten: Im Notfall übernehmen unsere Mitarbeiter. Doch dieser Satz verwechselt Zuständigkeit mit Fähigkeit. Ein Team mag zehn schwierige Fälle am Tag zuverlässig bearbeiten. Daraus folgt nicht, dass es die zehntausend Vorgänge übernehmen könnte, die ein automatisiertes System verarbeitet. Wenn die Geschäftsführung ihre Kapazitäten auf den Normalbetrieb zuschneidet, muss sie zugleich entscheiden, welchen eingeschränkten Betrieb sie im Ausnahmezustand noch ermöglichen will. Andernfalls bleibt die Rückfallebene eine Behauptung im Notfallplan.
Das Risiko zwischen den Systemen
Die Abhängigkeit eines einzelnen Unternehmens beschreibt nur einen Teil des Problems. Ein Betrieb kann seine eigene Technik beherrschen und trotzdem durch Entscheidungen anderer Unternehmen in Schwierigkeiten geraten. Denken wir an ein Logistiksystem, das Transporte nach erwarteten Energiepreisen plant. Ein Produktionsbetrieb verändert daraufhin seine Auslastung. Eine Bank bewertet die neuen Auftragsdaten und passt Kreditlinien an. Die Unternehmen reagieren auf diese Finanzierung, woraufhin die Logistik erneut disponiert. In diesem gedanklichen Beispiel könnte jeder Betreiber erklären, warum sein System handelt, wie es handelt. Die Wirkung aller Entscheidungen zusammen wäre wesentlich schwerer vorherzusehen.
Solche Wechselwirkungen verlangen Aufmerksamkeit, weil ein korrekt ausgeführtes Optimierungsziel außerhalb seines vorgesehenen Bereichs Schäden verursachen kann. Wer Transportkosten minimiert, berücksichtigt Versorgungssicherheit nur dann angemessen, wenn die Verantwortlichen sie in den Zielen und Grenzen des Systems verankert haben. Wer Risiken im eigenen Kreditportfolio senkt, kann durch gleichzeitige Kreditbeschränkungen mit anderen Instituten die Lage seiner Kunden verschärfen. Die lokale Entscheidung bleibt nachvollziehbar, während sich die Bedingungen für das gesamte System verschlechtern.
Das Financial Stability Board benannte in seinem KI-Bericht von November 2024 unter anderem die Konzentration auf Dienstleister und mögliche stärkere Korrelationen an den Märkten als Risiken für die Finanzstabilität. Diese Einschätzung belegt keinen bevorstehenden Zusammenbruch. Sie zeigt, weshalb Aufseher über die Qualität einzelner Modelle hinausblicken müssen. Verwenden verschiedene Institute dieselben Dienste, Modelle oder Datenquellen, können sie gemeinsamen Schwächen ausgesetzt sein und ähnlich auf Veränderungen reagieren. Ihre rechtliche und organisatorische Eigenständigkeit garantiert keine technische Unabhängigkeit.
Für diese Gefahr braucht eine KI keinen eigenen Willen. Menschen können Systeme entwickeln, die ihre vorgesehenen Aufgaben erfüllen und dennoch in der Wechselwirkung Schäden verursachen. Damit erweitert sich die Frage nach Kontrolle: Wir müssen auch verstehen, wie sich ein System verhält, wenn andere Systeme auf seine Entscheidungen reagieren. Je dichter diese Verbindungen werden, desto schwieriger kann es sein, einen gefährlichen Ablauf zu unterbrechen, ohne zugleich Funktionen zu beeinträchtigen, auf die andere Betreiber angewiesen sind.
Aus dieser Überlegung lässt sich kein Extinktionsrisiko ableiten. Zwischen einer Betriebsstörung, dem Ausfall kritischer Versorgung und dem Aussterben der Menschheit liegen enorme Unterschiede. Schon die begrenztere Möglichkeit ist ernst genug: Wir könnten eine Infrastruktur aufbauen, deren Verhalten wir nur teilweise überblicken und deren Betrieb wir trotzdem aufrechterhalten müssen. In einem solchen Zustand würde die Abhängigkeit unsere Reaktion auf Fehler bestimmen. Selbst ein erkanntes Risiko ließe sich dann womöglich nur unter Inkaufnahme erheblicher Folgeschäden beseitigen.
Sicherheit macht den Ausstieg schwieriger
Bei der Cyberabwehr verschärft der Zeitdruck diese Lage. Das britische National Cyber Security Centre erwartet in seiner Einschätzung bis 2027, dass KI Teile von Cyberangriffen effizienter macht und die Zeit zwischen der Bekanntgabe einer Schwachstelle und ihrer Ausnutzung weiter verkürzt. Zugleich hielt die Behörde vollständig automatisierte, anspruchsvolle Angriffe über die gesamte Angriffskette bis 2027 für unwahrscheinlich. Beides gehört zur Einschätzung: wachsende Fähigkeiten und weiterhin bestehende Grenzen. Für Verteidiger entsteht dennoch ein Anreiz, KI stärker einzusetzen, um ihre Infrastruktur in ausreichendem Umfang und mit ausreichender Geschwindigkeit schützen zu können.
Aus diesem Nutzen kann eine Abhängigkeit entstehen, sobald die Organisation ohne solche Unterstützung nicht mehr angemessen reagieren kann. Bei Vorgängen, die Reaktionen in Millisekunden verlangen, lässt sich keine menschliche Einzelfreigabe organisieren. Andere Entscheidungen erlauben mehr Zeit und benötigen ein sorgfältiges Urteil. Verantwortliche müssen diese Bereiche unterscheiden und Grenzen setzen, bevor ein Vorfall eintritt. Dabei hilft die verbreitete Forderung nach einem Menschen „in der Schleife“ nur, wenn dessen Rolle konkret bleibt. Jemand, der jede Entscheidung freigibt, hat andere Möglichkeiten als jemand, der automatisierte Abläufe überwacht. Und eine Überwachung ist nur wirksam, wenn der Mensch Fehlentwicklungen erkennen und rechtzeitig eingreifen kann.
Mehr Geschwindigkeit löst das Sicherheitsproblem deshalb nicht vollständig. Eine automatisierte Abwehr kann beispielsweise verdächtige Verbindungen blockieren oder Zugänge sperren und dadurch einen Angriff begrenzen. Sie kann dabei aber auch den eigenen Betrieb beschädigen. Das NCSC weist darauf hin, dass fehlerhafte oder zu aggressive automatisierte Reaktionen Dienste unterbrechen und Betriebsfehler auslösen können. In manchen Fällen könnten ihre Folgen schwerer wiegen als der ursprüngliche Angriff. Die Verantwortlichen müssen also schnelle Schutzsysteme einsetzen und zugleich verhindern, dass deren Eingriffe neue Schäden verursachen.
In der militärischen Nutzung könnte dieser Druck noch stärker werden. Wenn ein Staat erwartet, dass ein Gegner durch automatisierte Aufklärung oder Abwehr schneller handeln kann, entsteht ein Anreiz, vergleichbare Fähigkeiten aufzubauen. Verantwortliche könnten KI mehr Befugnisse übertragen, obwohl sie deren Zuverlässigkeit weiterhin bezweifeln. Ein späterer Verzicht müsste dann auch berücksichtigen, ob andere Staaten dieselben Fähigkeiten weiter einsetzen. Der Dependency Horizon hätte damit eine geopolitische Dimension: Ein technisch möglicher Ausstieg könnte sicherheitspolitisch zu teuer erscheinen.
Das ist keine zwangsläufige Entwicklung. Staaten können Grenzen vereinbaren und bestimmte Entscheidungen beim Menschen belassen. Unternehmen können ihre Systeme so gestalten, dass sie einzelne Funktionen isolieren und im Fehlerfall begrenzen können. Solche Entscheidungen brauchen allerdings eine Vorstellung davon, welche Handlungsfreiheit erhalten bleiben soll. Wer ausschließlich für den normalen Betrieb optimiert, kann ausgerechnet jene Reserven beseitigen, die in einer Krise eine verantwortbare Wahl ermöglichen würden.
Den Schmerz simulieren
Zu diesen Reserven gehören auch menschliche Fähigkeiten. KI kann Fachleute stärken und ihnen helfen, mehr zu lernen. Sie kann aber ebenso dazu beitragen, dass Menschen bestimmte Aufgaben kaum noch selbst ausführen. Wer regelmäßig eine Diagnose erarbeitet und KI zur Gegenprüfung verwendet, übt sein Urteil. Wer über Jahre lediglich Vorschläge bestätigt, sammelt andere Erfahrungen. In der Softwareentwicklung macht es einen Unterschied, ob Entwickler erzeugten Code verstehen und prüfen oder nur beurteilen, ob eine Anwendung im Moment funktioniert. Die Folgen hängen davon ab, wie Unternehmen Arbeit, Ausbildung und Verantwortung organisieren.
Wenn Menschen ihre Fähigkeiten für den Ausnahmezustand nicht mehr üben, verändert sich die Bedeutung einer Abschaltung. Die Software lässt sich weiterhin deaktivieren, doch die Organisation kann ihre Aufgaben anschließend nicht mehr ausreichend erfüllen. An dieser Stelle wird der Dependency Horizon greifbar. Er beschreibt den Verlust einer Ersatzfähigkeit, die wir in unseren Plänen womöglich weiterhin voraussetzen. Diese Grenze muss nicht überall gleichzeitig erreicht werden. Ein Unternehmen kann sie bei einem einzigen kritischen Prozess überschreiten, während andere Abläufe noch ohne KI funktionieren. Ebenso können verschiedene gesellschaftliche Bereiche zu unterschiedlichen Zeiten in eine solche Abhängigkeit geraten.
Deshalb lässt sich aus den beschriebenen Mechanismen kein belastbares Jahr errechnen. 2032 hilft als Szenario, die Folgen heutiger Entscheidungen über einen längeren Zeitraum zu betrachten. Wie nah ein Betrieb seiner Grenze kommt, hängt auch von den Alternativen ab, die seine Verantwortlichen erhalten. Ein autonomes System mit engen Befugnissen und einer geprüften Ersatzlösung kann weniger riskant sein als ein beaufsichtigtes System, dessen Empfehlungen niemand mehr beurteilen kann. Die bloße Anwesenheit eines Menschen sagt wenig darüber aus, ob dieser Mensch tatsächlich übernehmen könnte.
Unternehmen und Institutionen sollten diese Fähigkeit prüfen, bevor eine Krise sie dazu zwingt. Ein Ausfall von 24 Stunden legt andere Schwächen offen als eine Unterbrechung von einer Woche. Anfangs können Beschäftigte Arbeit verschieben und Aufträge priorisieren. Später fehlen Entscheidungen, Rückstände wachsen und Kunden oder Lieferanten müssen reagieren. Solche Szenarien lassen sich in Übungen und geschützten Testumgebungen untersuchen. Niemand muss dafür kritische Infrastruktur ungesichert abschalten. Aber die Verantwortlichen müssen realistisch feststellen, welche Daten verfügbar bleiben, welche Aufgaben Menschen übernehmen können und wie lange ein eingeschränkter Betrieb durchzuhalten wäre.
Dabei werden sie auch erkennen, wie weit ihre Abhängigkeit über den eigenen Betrieb hinausreicht. Eine Ersatzlösung hilft wenig, wenn sie denselben ausgefallenen Dienst benötigt. Und ein Unternehmen, das seine Aufgaben weiterhin erfüllen kann, bleibt womöglich trotzdem stehen, weil ein zentraler Lieferant dazu nicht mehr in der Lage ist. Wir müssen den Schmerz simulieren, solange er noch eine Simulation ist. Erst dann wird aus einem abstrakten Risiko eine konkrete Entscheidung darüber, welche Fähigkeiten, Verfahren und Kapazitäten wir erhalten wollen.
Diese Vorsorge kostet Geld. Beschäftigte üben Aufgaben, die sie im Alltag kaum noch selbst erledigen müssen. Unternehmen halten einfachere Verfahren bereit, obwohl leistungsfähigere verfügbar sind. In einer normalen Betriebsrechnung können solche Reserven unproduktiv aussehen. Sie kaufen jedoch Handlungsspielraum. Wer eine tragbare Alternative besitzt, kann ein gefährliches System begrenzen, austauschen oder abschalten. Wer sie aufgegeben hat, muss womöglich weiterlaufen lassen und hoffen, dass der nächste Fehler beherrschbar bleibt.
Im gedachten Lagezentrum des Jahres 2032 entscheidet deshalb die Arbeit der Jahre davor. Haben die Betreiber einen eingeschränkten Betrieb geübt? Können sie einzelne Systeme isolieren? Gibt es Menschen, die auch ohne KI urteilen und handeln können? Wenn diese Fähigkeiten existieren, kann die Verantwortliche eine Abschaltung anordnen und ihre Folgen tragen. Fehlen sie, besitzt sie zwar die Befugnis dazu, aber kaum noch eine vertretbare Wahl.
Eine Technologie muss sich unserer Kontrolle nicht entziehen, damit wir Handlungsmacht verlieren. Es genügt, dass wir sie unverzichtbar machen und unsere Alternativen aufgeben. Der gefährlichste Moment könnte deshalb der sein, in dem wir selbst nicht mehr Nein zu ihr sagen können. Das ist der Dependency Horizon.
Nicht jeder KI-Dienstleister ist ein Umsetzungspartner.
Genau deshalb bauen wir im Bundesverband für KI-Transformation e.V. das Venture AI Execution Partner Programm auf.
Wir suchen Unternehmen, Beratungen, Technologieanbieter und Umsetzungspartner, die KI nicht nur erklären, sondern tatsächlich in Organisationen bringen.
Mit belastbaren Lösungen. Mit nachweisbarer Kompetenz. Mit dem Anspruch, KI-Transformation messbar voranzubringen.
Das Venture AI Execution Partner Programm soll Unternehmen Orientierung geben und gleichzeitig den besten Umsetzungspartnern im Markt mehr Sichtbarkeit, Zugang und Geschäftsmöglichkeiten eröffnen.
Als Venture AI Execution Partner profitierst du unter anderem von:
Positionierung als qualifizierter Umsetzungspartner im Netzwerk des Bundesverbandes
Zugang zu Unternehmen mit konkretem Transformationsbedarf
Einbindung in Projekte, Execution Teams und Initiativen
Sichtbarkeit über unsere Plattformen, Veranstaltungen und Formate
Vernetzung mit Entscheidern, Experten, Startups und Technologiepartnern
einem Qualitätsrahmen, der Kompetenz von bloßem KI-Marketing unterscheidet
Wichtig:
Venture AI Execution Partner kann nicht einfach jeder werden.
Voraussetzung ist die Mitgliedschaft im Bundesverband für KI-Transformation e.V. sowie die entsprechende Qualifizierung über unseren Venture AI Excellence Award.
Wir wollen kein möglichst großes Partnerverzeichnis.
Wir wollen ein Netzwerk derjenigen aufbauen, die KI-Transformation in Deutschland wirklich umsetzen können.
Dein Unternehmen gehört dazu?
Dann findest du auf unser Website weitere Informationen, wie du in das Partnerprogramm aufgenommen werden kannst.
