KI, AWS & vernetzte Waffensysteme
Künstliche Intelligenz
Künstliche Intelligenz (KI) verändert das sicherheitspolitische Umfeld. Die Entwicklung hochleistungsfähiger Modelle, die in Richtung Allgemeiner Künstlicher Intelligenz (AGI) weist, verschärft globale Risiken. In den USA wird intensiv darüber debattiert, welche Kontrollmechanismen nötig sind, um Fehlentscheidungen, Machtkonzentration und unvorhersehbare emergente Fähigkeiten einzudämmen. Führende Wissenschaftler und Nobelpreisträger - darunter Geoffrey Hinton sowie Demis Hassabis - warnen vor Szenarien, in denen unkontrollierte KI-Systeme menschliche Sicherheitsarchitekturen überfordern und internationale Regeln unterlaufen könnten.
Besonders kritisch bleibt der Bereich der autonomen Waffensysteme (AWS), die militärisch relevante Ziele - etwa Infrastruktur, Kommunikationsknoten oder Satelliten - selbstständig auswählen und bekämpfen können. Innerhalb dieser Kategorie bilden LAWS („Lethal Autonomous Weapon Systems") jene Systeme, die gezielt tödliche Wirkung entfalten oder diese zumindest in Kauf nehmen. Die Verbindung solcher Systeme mit KI-gestützten Sensoren, vernetzten Gefechtsinformationsplattformen und hohen Automatisierungsgraden verändert das militärische Eskalationsverhalten grundlegend. Parallel wächst die Zahl der Staaten, die sich ein explizites Erstschlagsrecht - nuklear oder konventionell - vorbehalten. Dadurch steigen die Risiken schneller und kaum reversibler Eskalationsketten. LAWS stehen deshalb im Zentrum internationaler sicherheitspolitischer Debatten und werfen Fragen nach Kontrolle, Verantwortlichkeit und globaler Stabilität auf.
Künstliche Intelligenz und Wir
Eine Buchempfehlung
Das Thema Künstliche Intelligenz (KI) ist allgegenwärtig. Wir begegnen ihr in der Presse, im Arbeitsleben und im privaten Umfeld. Ein kritischer Blick ist notwendig, doch wir sollten uns bewusst sein, dass KI bleibt. Sie wird der Menschheit nutzen und schaden können. Das gilt auch für Frieden und Sicherheit.
Dieses Open-Access-Buch bietet einen umfassenden Überblick über den aktuellen Stand der Technikentwicklung und die zukünftigen Möglichkeiten der KI. Expertinnen und Experten aus verschiedenen Disziplinen beleuchten die vielfältigen Aspekte der KI – von technischen Grundlagen über ethische Fragestellungen bis hin zu gesellschaftlichen und wirtschaftlichen Auswirkungen. Das Buch richtet sich an Lehrende und Lernende an deutschsprachigen Hochschulen und kann als Lehrwerk außerhalb der Informatik eingesetzt werden.
Wir empfehlen dieses Buch ausdrücklich. Es steht als kostenlose digitale PDF-Version zur Verfügung. Für Liebhaber des Hardcovers besteht selbstverständlich die Möglichkeit, das Papierformat zu erwerben.
Podcasts zum Buch
In den Podcasts stellen die Autoren ihre Themen vor: Vertrauenswürdige KI, digitale Souveränität, Ökonomie und KI sowie die geopolitischen Dimensionen von KI.
Sie finden diese in der entsprechenden YouTube-Playlist (Link).
Militärische Vertrauensbildung im KI-Zeitalter
Oberst a. D. Richter
Berlin, 14. November 2025
Künstliche Intelligenz und Sicherheit
Im Rahmen der Jahrestagung der Vereinigung Deutscher Wissenschaftler (VDW) 2025 leitete Oberst a. D. Wolfgang Richter einen Workshop zur „Militärischen Vertrauensbildung“ im Zeitalter Künstlicher Intelligenz. Sein Beitrag markiert einen wichtigen Orientierungsrahmen für alle, die sich mit der Frage beschäftigen, wie KI militärisch genutzt werden kann, ohne Sicherheit und Stabilität zu unterminieren.
Richter macht deutlich: KI kann Streitkräfte entlasten – etwa bei der Auswertung großer Datenmengen, in der Aufklärung oder bei komplexen Operationsplanungen. Sie beschleunigt Prozesse und schafft neue Möglichkeiten in Nachrichtengewinnung, Zielaufklärung und Gefechtsfeldmanagement. Doch genau diese Beschleunigung birgt Risiken: Wenn Entscheidungen nicht mehr nachvollziehbar sind und menschliche Kontrolle schwindet, wächst die Gefahr von Fehleinschätzungen, Eskalation und völkerrechtswidrigem Handeln.
Im Zentrum des Workshops steht daher ein klares Leitmotiv: Je gravierender die möglichen Folgen, desto stärker muss der Mensch in der Verantwortung bleiben. Für den Nuklearbereich bedeutet das: keine KI-gesteuerten Startentscheidungen, keine automatische Reaktion auf Frühwarnsignale. Für konventionelle Operationen heißt es: keine autonome Zielauswahl und keine delegierte Letztverantwortung an Algorithmen. Hinzu kommt die Forderung, auch im Cyberraum auf automatisierte Gegenangriffe zu verzichten und Kritische Infrastrukturen, Kommunikations- und Frühwarnsysteme grundsätzlich zu schützen.
Richter plädiert dafür, bestehende Rüstungskontroll- und Vertrauensbildungsinstrumente – von OSZE-Maßnahmen bis hin zu völkerrechtlichen Normen des humanitären Völkerrechts – weiterzuentwickeln und ausdrücklich auf KI-gestützte Systeme zu beziehen.
Den vollständigen Vortragstext von Oberst a. D. Richter stellen wir im Anschluss an diesen Beitrag als PDF zum Download zur Verfügung. Er bietet eine vertiefte Analyse für alle, die sich intensiver mit der Schnittstelle von KI, Militärpolitik und Friedenssicherung auseinandersetzen möchten.
KI und Globale Risiken
Gespräche mit Karl Hans Bläsius
KI verändert Arbeit, Medizin und Mobilität grundlegend und schafft zugleich erhebliche Risiken. Neben Chancen wie sichereren Arbeitsabläufen, präziser Diagnostik und mehr Selbstständigkeit im Alter rücken drei Gefahrenzonen in den Fokus: Klimaauswirkungen, militärische Nutzung und schwere Schäden durch Fehlfunktionen oder Missbrauch.
Hinzu kommen neue Bedrohungen durch generative KI: Desinformation, Deepfakes, gezielte Manipulation, skalierbare Cyberangriffe und mögliche Eskalationen autonomer Systeme. Auch ohne Superintelligenz entstehen Risiken durch Automatisierung, Fehlanwendungen und Machtkonzentration.
In den Beiträgen wird zudem erläutert, was unter AGI und Superintelligenz zu verstehen ist: Systeme, die über spezialisierte Aufgaben hinaus allgemeine Problemlösungsfähigkeit entwickeln und menschliche Leistungsfähigkeit in weiten Bereichen übertreffen könnten. Wie Yoshua Bengio im Interview (Die Zeit) hervorhebt, reichen die damit verbundenen sicherheitspolitischen und gesellschaftlichen Implikationen von neuartigen Missbrauchsszenarien bis hin zu potenziell existenziellen Risiken für die Menschheit.
Über Prof. Dr. Karl Hans Bläsius:
KI-Pionier, spezialisiert auf wissensbasierte Systeme, Dokumentanalyse sowie Frühwarn- und Entscheidungssysteme. Er forscht seit vielen Jahren zu gesellschaftlichen Risiken der KI und sicherheitspolitischen Fragestellungen.
Im ersten Quartal 2026 erscheint das neue Buch von Karls Hans Bläsius:
Wie beeinflusst KI die großen globalen Risiken — und welche Schlussfolgerungen müssen Politik, Wissenschaft und Gesellschaft daraus ziehen? In Kooperation mit der Studiengruppe „Technikfolgen — Abschätzung der Digitalisierung“ (VDW) und dem EEK diskutieren wir Chancen, Gefahren und Wechselwirkungen. (Link)
Teil 2 skizziert das Gesamtbild der miteinander verflochtenen technologischen und geopolitischen Risiken und zeigt, wie sie sich gegenseitig verstärken. (Link)
Im dritten Teil der Reihe zu KI und globalen Risiken geht es um die wachsende Bedrohung durch autonome Systeme, Superintelligenz und die Gefahr eines Atomkriegs aus Versehen. Das Gespräch beleuchtet zentrale Warnungen führender KI-Forscher, die rasante Entwicklung hin zu AGI und Superintelligenz sowie die Folgen eines internationalen Wettrennens der Tech-Konzerne und Staaten. (Link)
Bernie Sanders
Bernies Warnung
In den USA steht eine zentrale Erkenntnis im Zentrum der KI-Debatte: Künstliche Intelligenz ist kein mächtiges Werkzeug – sie ist eine Macht. Ein Werkzeug liegt in der Hand dessen, der es führt; eine Macht hingegen entfaltet eigene Wirkungen und verschiebt Machtstrukturen grundlegend. US-Senator Bernie Sanders warnt eindringlich davor, dass diese Macht zusammen mit den Tech-Konzernen zu einer direkten Gefahr für die Demokratie wird.
Bernie Sanders & Geoffrey Hinton über KI (19.11.2025)
Es lohnt sich sehr, dieses Gespräch zwischen US-Senator Bernie Sanders und dem Nobelpreisträger der Physik Geoffrey Hinton anzuhören. Auf YouTube kann man jetzt jedes Video mit deutschem Untertitel verfolgen. Dazu muss man das kleine Zahnrad rechts unten bedienen.
In den USA werden KI-Risiken anders diskutiert als in Deutschland, wie man anhand folgender Webseiten erkennen kann:
Bernie Sanders warnt vor der realen Gefahr (03.12.2025)
US-Senator Bernie Sanders präzisiert die realen Gefahren einer unkontrollierten KI. Dazu zählen der Verlust von Arbeitsplätzen, umfassende Überwachung durch Konzerne, die Aushöhlung der Privatsphäre, ökologische Zerstörung sowie der Einsatz autonomer Waffensysteme.
Bernie Sanders fordert Moratorium (16.12.2025)
US-Senator Bernie Sanders fordert einen Baustopp für Rechenzentren, die den ungezügelten Wettlauf um die Entwicklung und den Einsatz von KI antreiben. Mit diesem Stillstand soll die Demokratie Zeit bekommen aufzuholen und sichergestellt werden, dass die Vorteile dieser Technologie allen Menschen zugutekommen – nicht nur den reichsten ein Prozent der Gesellschaft.