Tencent filtert Hacking-Wissen aus Trainingsdaten
Statt nachträglicher Sperren setzt Tencent beim offenen Modell Hy4 auf gefilterte Trainingsdaten.
Gegenprüfung dieser Ausgabe: 1 Karte vor der Veröffentlichung korrigiert. Wie die Gegenprüfung arbeitet
Symbolbild, KI-generiert.
Tencents KI-Chef Yao Shunyu warnt vor KI-entwickelten Biowaffen und plädiert für einen Mittelweg zwischen offenen und geschlossenen Modellen. Für das kommende Open-Weight-Modell Hy4 filtert Tencent gefährliches Hacking-Wissen direkt aus den Trainingsdaten, weil sich Sicherheitsfilter bei offenen Modellen per Abliteration leicht entfernen lassen.
Die Belege
- Tencents KI-Chef Yao Shunyu warnt vor KI-entwickelten Biowaffen
- Sicherheitsfilter bei Open-Source-Modellen lassen sich laut Tencent per Abliteration leicht entfernen
- Geschlossene Modelle wie Claude blockieren laut Tencent oft zu streng
- Hy4 filtert gefährliches Hacking-Wissen direkt aus den Trainingsdaten
Der Zusammenhang
Die Aussage betrifft das kommende Open-Weight-Modell Hy4 von Tencent und richtet sich gegen den Ansatz, Sicherheit allein über nachträgliche Filter bei bereits trainierten offenen Modellen herzustellen.
Warum das zählt
Für Unternehmen, die offene Modelle einsetzen oder evaluieren, verschiebt sich die Sicherheitsfrage von der Moderation nach dem Training auf die Herkunft und Filterung der Trainingsdaten. Security- und Compliance-Teams sollten diesen Unterschied bei der Modellauswahl berücksichtigen.
Der Zielkonflikt zwischen Offenheit und Missbrauchssicherheit bei KI-Modellen wird mit der Aussage eines großen Anbieters konkreter benannt, bleibt aber eine Selbstauskunft Tencents zu einem noch nicht veröffentlichten Modell. Ob die Filterung robuster ist als nachträgliche Sperren, zeigt sich erst nach Veröffentlichung von Hy4.
Bei der Evaluierung offener Modelle gezielt nach der Methode der Sicherheitsfilterung fragen, nicht nur nach dem Vorhandensein von Filtern.
Was diese Meldung nicht belegt: Die Einschätzung stammt von Tencents KI-Chef selbst, eine unabhängige Prüfung der Filtermethode für Hy4 liegt nicht vor.
Text KI-erstellt und am 10.11.2026 automatisch von einer zweiten KI-Instanz gegen den erfassten Quelltext geprüft, ohne Einzelfreigabe durch einen Menschen. Redaktionell verantwortlich: Ali Reza Karwandian. Fehler gefunden? Korrektur melden · Unsere Grundsätze