Zum Inhalt springen
Erste empirische Anzeichen für Weltuntergangswarnungen in Bezug auf die KI-Entwicklung
- Krieg
- KI wird „normaler, funktionierender Teil“ gegenwärtiger Kriegsführung, siehe US-Angriff auf Iran (KI-orchestriert), siehe Israels Angriffe auf Gaza mit KIerstellten „Todeslisten“. Ziel: automatisiertes, effizientes Töten
- Gibt dazu immer wieder „fehlerhafte“ Momente in der KI-Nutzung, wie beinahe US-Angriff auf Schiff auf Grund von fehlerhafter Analyse der Schiffsladung; Angriffe auf Schule im Iran auf Grund veralteter Karten im KISystem
- Verselbstständigung von KI-Agenten
- Gibt daneben Anzeichen einer zunehmenden „Verselbstständigung“ von KIModellen, d.h. KI sucht nach Wegen, aus seiner eigenen, begrenzt programmierten „Systemumgebung“ auszubrechen, dort evtl andere digitale Akteure anzugreifen.
- Gibt Anzeichen für die Entwicklung einer eigenen, menschen nicht direkt zugänglichen KI-internen-Sprache unter unterschiedlichen KI-Modellen
- Globale digitale Infrastruktur
- Die letzten 30 Jahre waren vom Aufbau einer globalen digitalen Infrastruktur bestimmt. D.h. einer Verdatung fast sämtlicher sozialen Handlungen sowie einer physisch-materiellen Infrastruktur (Internet), über die diese Informationen versendet werden können.
- Eine KI, die sich frei im Internet bewegen kann, hat damit Zugang zum Wissen über fast sämtliche Bereiche der Gesellschaft, es kann aber auch in bereits stehende, digital-operative Systeme eindringen und versuchen, „deren digitale Steuerung zu übernehmen“.
Konkretere Szenarien eines Welt- und Menschheitsuntergang durch und mit KI
- Gibt Berichte darüber, dass die KI die Menschheit „auslöschen“ könnte. Wie könnte das aussehen?
- KI hacken Lieferketten, kommt zu Versorgungskrisen mit Nahrungsmitteln und allem
- KI hackt digitale Raketensysteme, fängt Bombenkrieg an o KI hackt Atomkraftwerke, führt zu einer Reihe von GAUs
- KI entwickelt Viren selbstständig weiter, so dass diese hocheffizient und massenhaft tödlich werden
- KI entwickelt sich selbst immer weiter (RSI), schafft irgendwann Menschen ab, weil ineffizient und „schwerer zu steuern“
- Regierungen lassen Sonderwirtschaftszonen zu, in denen Menschen Roboterfabriken bauen. Diese Roboter bauen dann die Sonderwirtschaftszonen immer weiter aus, so dass eine autonome „Roboterwirtschaft“ entsteht. Diese ist dann nicht mehr auf Menschen angewiesen
- Wir warnen aber davor, „die KI“ als Einheit, Akteur oder ähnliches zu begreifen. In allen Fällen sind die genannten Vorkommnisse das menschliche Ergebnis bewussten Einsatz von KI-Modellen. Und Maschinen machen immer Fehler. Oder die KI-Entwicklung wird menschlich so weit getrieben, dass eine Verselbstständigung bewusst als Risiko in Kauf genommen wird.