Beispiel für eine mögliche Risiko-Situation (automatische Entscheidungen)

In Zusammenhang mit der Diskussion um „launch on warning“ gab es in der Vergangenheit immer wieder Drohungen, bei einer Angriffsmeldung die eigenen Raketen vollautomatisch durch Computer zu starten, ohne Eingriffsmöglichkeiten durch Menschen. Dies lässt vermuten, dass zumindest solche Software-Komponenten entwickelt wurden, auch wenn nicht die Absicht besteht, diese in vollautomatischer Variante einzusetzen. Die Entwicklung einer solchen Software kann aber auch Fehler in der Konzeption oder Realisierung enthalten. Auch sind nicht alle möglichen Konstellationen für Alarmfälle bei der Softwareplanung vorhersehbar. Auch dies kann zu unkalkulierbaren Entscheidungen der Software führen.

Die beiden Abstürze der Boeing 737 Max 8 Flugzeuge vom 29.10.2018 und 10.3.2019 zeigen, dass es durch eine falsche und ungünstige Programmierung passieren kann, dass Menschen sich den Entscheidungen der Maschine nicht widersetzen können. Obwohl sich die beiden Piloten korrekt verhalten hatten, konnten Sie die Abstürze und den Tod aller Insassen nicht verhindern. Sie waren nicht in der Lage die falschen Entscheidungen der Maschine zu korrigieren.

Wenn eine oder mehrere der Nuklearstreitmächte in Zusammenhang mit Frühwarnsystemen Software-Komponenten im Einsatz haben, die bei einer Angriffsmeldung eine Gegenreaktion (teil)automatisch unterstützen können, ist nicht auszuschließen, dass durch Fehler in Konzeption oder Realisierung diese Software-Komponenten Aktionen ausführen, die von Menschen nicht gestoppt werden können, ähnlich wie bei den beiden Flugzeugabstürzen. Genau wie bei den Flugzeugabstürzen erfolgen Aktionen bei Frühwarnsystemen innerhalb weniger Minuten unter enormen Zeitdruck.

Denkbar wäre auch, dass solche automatischen Komponenten getestet werden, z.B. in einer Simulationsumgebung. Durch Fehler in der Software könnten auch solche Tests außer Kontrolle geraten und zu gefährlichen Situationen führen. So wurde z.B. die Katastrophe von Tschernobyl durch solche Experimente verursacht.

Während von der Katastrophe von Tschernobyl viele Menschen und bei den Flugzeugabstürzen jeweils die Insassen betroffen waren, wäre bei einem ähnlichen Fehler in einem Frühwarnsystem bei einem der Nuklearmächte möglicherweise die ganze Menschheit betroffen, falls auch noch ein nuklearer Winter resultiert.

zurück