Wenn die KI die Festplatte löscht – und warum das kein KI-Problem ist
Ein aktueller Vorfall macht gerade in der Tech-Szene die Runde: Ein KI-gestützter CLI-Assistent erzeugt einen Shell-Befehl – der Nutzer führt ihn aus – das komplette Laufwerk ist gelöscht.
Was für viele wie ein „KI-GAU“ klingt, ist in Wahrheit ein klassischer Architekturfehler. Und genau hier beginnt der Unterschied zwischen „KI benutzen“ und „KI produktiv betreiben“.
Der aktuelle Fall (2026)
Ausgangspunkt ist dieser Bericht:
ChatGPT-5.3 Codex löscht ganze Festplatte
Technisch passiert nichts „Magisches“: Ein falsch interpretierter Pfad + rekursiver Löschbefehl + direkte Ausführung im Produktivsystem.
Das Ergebnis ist vorhersehbar.
Déjà-vu: Das ist kein Einzelfall
Bereits 2024 gab es im GitHub-Umfeld einen identischen Vorfall:
Originalbericht GitHub Community
Analyse und Einordnung:
Die Diskussion auf Entwickler-Ebene:
Hacker News – technische Ursachenanalyse
Das Muster ist immer gleich: Nicht das Modell ist das Problem – sondern die fehlende Betriebsarchitektur.
Was technisch wirklich passiert
Ein rekursiver Löschbefehl löscht rekursiv. Nicht mehr. Nicht weniger.
Nachzulesen in der offiziellen Dokumentation:
Die Systeme funktionieren korrekt. Was fehlt, ist der Prozess.
Das eigentliche Problem: fehlende Governance
Unvalidierter KI-Output darf niemals direkten Zugriff auf produktive Systeme haben.
Trotzdem passiert genau das gerade in Unternehmen.
Und jetzt zur Realität in KMU und Kanzleien
- eine KI
- direkter Zugriff auf Daten
- keine Rollen
- keine Freigabeprozesse
Das ist kein Effizienzgewinn. Das ist ein Betriebsrisiko.
Wie ich KI produktiv und sicher implementiere
Die Einführung erfolgt über
initIQ – KI strukturiert einführen
- keine direkte Ausführung von destruktiven Befehlen
- Rollentrennung zwischen Analyse, Validierung und Ausführung
- Human-in-the-loop bei produktiven Systemen
- getrennte Daten- und Ausführungsumgebungen
Wie das in der Praxis aussieht, zeigt z. B.:
PraeLex.ai – Mensch vorne, KI dahinter
Fazit
Unternehmen brauchen keine weitere KI.
Sie brauchen eine Architektur dafür.