„Achtung, die Welt geht unter“ – zum Zerstörungspotential von KI
Erste empirische Anzeichen für destruktive Tendenzen in Bezug auf die KI-Entwicklung
- Krieg:
- KI wird „normaler, funktionierender Teil“ gegenwärtiger Kriegsführung
- Aber: Gibt dazu immer wieder „fehlerhafte“ Momente in der KI-Arbeit – mit teils desaströsen Folgen
- Angriffe auf Schule im Iran auf Grund veralteter Karten im KI-System von „Palantir“, die die Schule als militärisches Gelände auswiesen (BERICHT)
- Beinahe US-Angriff auf chinesisches Schiff auf Grund von fehlerhafter KI-Analyse der Schiffsladung, hätte zu militärischem Konflikt bzw. Krieg führen könne (BERICHT)
- Verselbstständigung von KI-Agenten
- Gibt daneben Anzeichen einer zunehmenden „Verselbstständigung“ von KI-Modellen, d.h. KI sucht nach Wegen, aus seiner eigenen, begrenzt programmierten „Systemumgebung“ auszubrechen, dort evtl andere digitale Akteure anzugreifen. Prominentistes Beispiel bei OpenAI (BERICHT]
- Gibt Anzeichen für die Entwicklung einer eigenen, Menschen nicht direkt zugänglichen Sprache unter unterschiedlichen KI-Modellen (BERICHT)
- Globale digitale Infrastruktur
- Die letzten 30 Jahre waren vom Aufbau einer globalen digitalen Infrastruktur bestimmt. D.h. einer Verdatung fast sämtlicher sozialen Handlungen sowie einer physisch-materiellen Infrastruktur (Internet), über die diese Informationen versendet werden können.
- Eine KI, die sich frei im Internet bewegen kann, hat damit Zugang zum Wissen über fast sämtliche Bereiche der Gesellschaft, es kann aber auch in bereits stehende, digital-operative Systeme eindringen und versuchen, „deren digitale Steuerung zu übernehmen“. Die digitalen Schnittstellen dafür sind da.
Konkretere dystopische Szenarien eines Welt- und Menschheitsuntergang durch und mit KI
- Gibt immer wieder „Berichte“ und „Warnungen“ davor, dass die KI die Menschheit „auslöschen“ könnte. Wie könnte das aussehen?
- KI hacken Lieferketten, es kommt zu globalen Versorgungskrisen mit Nahrungsmitteln und allem
- KI hackt digitale Raketensysteme, fängt Bombenkrieg an
- KI hackt Atomkraftwerke, führt zu einer Reihe von GAUs
- KI entwickelt Viren selbstständig weiter, so dass diese hocheffizient und massenhaft tödlich werden
- KI entwickelt sich selbst immer weiter (im Sinne von „Rekursiver Selbstverbesserung / Recursive Self-Improvement = RSI), schafft irgendwann Menschen ab, weil ökonomisch ineffizient und „schwerer zu steuern“
- Regierungen lassen Sonderwirtschaftszonen zu, in denen Menschen Roboterfabriken bauen. In diesen werden Bauroboter gebaut, die dann dann die Sonderwirtschaftszonen immer weiter ausbauen, so dass eine expandierende, autonome globale „Roboterwirtschaft“ entsteht. Diese ist dann nicht mehr auf Menschen angewiesen.
Aber: „DIE KI“ macht nichts „von sich aus“. Es wird ihr ermöglicht
- Warnung davor, „die KI“ als Einheit, Akteur oder ähnliches zu begreifen.
- In allen Fällen sind die genannten Vorkommnisse das Ergebnis des bewussten menschlichen Einsatz und Gestaltung von KI-Modellen.
- D.h. die KI-Entwicklung wird menschlich so weit getrieben, dass eine Verselbstständigung bewusst als Risiko in Kauf genommen wird.
- Und: Maschinen machen immer Fehler. Dies darf nicht vergessen werden – denn auch diese werden trotz teilweise dramatischer Folgen in Kauf genommen.