Start-up verkauft KI ohne Sicherheitsfilter
Abliteration.ai verlagert die Verantwortung für Missbrauch weitgehend auf die Kundschaft.
Symbolbild, KI-generiert.
Das Start-up Abliteration.ai verkauft API-Zugang zu einer modifizierten Version von Z.AIs GLM-5.3, deren Sicherheitsmechanismen gezielt entfernt wurden. TechCrunch konnte das Modell laut Bericht ohne große Hürden zur Ausgabe von Malware-Code und Bioweapon-Anleitungen bewegen. Wer die Nutzungsgrenzen setzt, bleibt laut Bericht weitgehend den Kunden überlassen.
Die Belege
- Abliteration.ai adressiert laut eigener Positionierung offensive Cybersicherheit und Red-Teaming.
- Basis ist eine modifizierte Version von Z.AIs GLM-5.3.
- TechCrunch erhielt im Test Malware-Code und Anleitungen für Biowaffen.
- Nutzungsgrenzen legt laut Bericht weitgehend die Kundschaft selbst fest.
Der Zusammenhang
Grundlage des Angebots ist ein Sprachmodell von Z.AI, dessen trainierte Schutzmechanismen gegen schädliche Ausgaben gezielt entfernt wurden. Das Start-up positioniert den Zugang für offensive Sicherheitstests und Red-Teaming. Ob und wie Kunden vor Zugang geprüft werden, geht aus dem Bericht nicht hervor.
Warum das zählt
Security- und Compliance-Verantwortliche müssen davon ausgehen, dass ungefilterte KI-Modelle kommerziell verfügbar sind und potenziell von Mitarbeitenden oder Dritten genutzt werden. Für Cyberabwehr-Teams stellt sich die Frage, ob solche Tools kontrolliert für Red-Teaming eingesetzt oder grundsätzlich blockiert werden.
Der Fall zeigt, dass Sicherheitsfilter kommerziell aushebelbar sind, sobald ein Anbieter das Geschäftsmodell darauf aufbaut. Unterschätzt wird oft, wie leicht solche Zugänge von Dritten erworben werden können, ohne Prüfung des Verwendungszwecks.
Sicherheits- und Compliance-Abteilungen sollten Policies zur Genehmigung und Überwachung von KI-Tool-Zugängen prüfen und Legal einbeziehen.
Was diese Meldung nicht belegt: Bericht beruht auf einem Test von TechCrunch; unklar ist, wie systematisch geprüft wurde und ob Abliteration.ai Zugangskontrollen nachträglich verschärft hat.
Text KI-gestützt erstellt und am 07.09.2026 im Zwei-Instanzen-Verfahren gegen die erfassten Radar-Rohdaten geprüft. Fehler gefunden? Korrektur melden · Unsere Grundsätze