Ende Mai haben führende KI-Wissenschaftler und Verantwortliche von KI-Unternehmen eindringlich vor Risiken durch KI gewarnt. Diese Warnungen wurden in den Medien kaum beachtet, sollten aber sehr ernst genommen werden. Die Warnungen können auch das Atomkriegsrisiko betreffen.
Artikel zu diesen Warnungen: https://fwes.info/Warnungen-KI-2023-2.pdf
Eine Variante dieses Artikels ist in der Zeitschrift in „Wissenschaft und Frieden“ 3/2023 erschienen (Seite 28 – 29). Eine weitere Variante wird in „FIfF-Kommunikation“ erscheinen.
Bei der Warnung vom 30.5. hatten die Unterzeichner auch eine mögliche Superintelligenz im Sinn. Diese Warnungen sind hochspekulativ. Solche Risiken können aber auch nicht ausgeschlossen werden. Irgendwelche Vorhersagen sind in diesem Zusammenhang kaum möglich. Das Thema Superintelligenz wird auch seit einigen Jahren im Rahmen einer Lehrveranstaltung „Informatik und Gesellschaft“ eines Fern-Studiengang des Fachbereichs Informatik der Hochschule Trier behandelt. Dieses Lehrmaterial ist jetzt erweitert und allgemein freigegeben: https://fwes.info/Superintelligenz-2023-2.pdf . In diesem Beitrag wird auch auf Bücher von Forschenden in diesem Bereich eingegangen. Ein Anhang enthält genauere Hinweise auf diese Literatur.
In einem weiteren Beitrag wird etwas stärker betont, welche Maßnahmen in Hinblick auf die Risiken jetzt erforderlich wären: https://fwes.info/KI-Atomkriegsrisiko-2023-1.pdf
Die Warnungen büglich KI betreffen nicht nur das Risiko eines Atomkriegs aus Versehen. Deshalb wurden diese neuen Seiten eingerichtet:
Risiken der KI werden auch behandelt auf: