Chatbots empfehlen einseitig bei Schwangerschaftsfragen
AlgorithmWatch findet unmarkierte Interessenvertretung in ChatGPT, Gemini, Grok und Claude.
Symbolbild, KI-generiert.
Laut einer Untersuchung von AlgorithmWatch mit 270 Antworten aus ChatGPT, Gemini, Grok und Claude tauchte die Organisation Profemina in 17 Prozent aller Antworten zu ungewollter Schwangerschaft auf, ohne dass deren Ausrichtung offengelegt wurde. In Deutschland empfahlen die Systeme zudem die Caritas für Pflichtberatungen, obwohl diese den nötigen Beratungsschein nicht ausstellt.
Die Belege
- Untersuchungsumfang: 270 Antworten aus ChatGPT, Gemini, Grok und Claude.
- Organisation Profemina erschien in 17 Prozent aller Antworten.
- Ausrichtung von Profemina wurde laut Studie nicht offengelegt.
- In Deutschland wurde die Caritas für Pflichtberatungen empfohlen, obwohl sie den nötigen Beratungsschein nicht ausstellt.
Der Zusammenhang
Die Untersuchung von AlgorithmWatch prüfte, welche Organisationen KI-Chatbots bei Fragen zu ungewollter Schwangerschaft empfehlen und ob deren Ausrichtung erkennbar ist. Betroffen sind laut The Decoder vier marktrelevante Systeme, die Antworten ohne Kennzeichnung der jeweiligen Interessenlage lieferten. Der deutsche Fall mit der Caritas zeigt zusätzlich eine sachlich falsche Empfehlung, weil die genannte Stelle die erforderliche Bescheinigung nicht ausstellen kann.
Warum das zählt
Unternehmen, die Chatbots für Beratungsfunktionen im Gesundheits- oder Sozialbereich einsetzen oder integrieren, tragen laut diesem Befund ein Haftungs- und Reputationsrisiko bei fehlerhaften oder einseitigen Empfehlungen. Verantwortliche für Kunden-Chatbots mit sensiblen Themen sollten Ausgabeprüfungen einrichten.
Der Befund betrifft vier der meistgenutzten Chatbot-Systeme gleichermaßen und deutet auf ein strukturelles Problem der Trainingsdaten oder Retrieval-Quellen hin. Die falsche Caritas-Empfehlung zeigt, dass Bias-Risiken auch schlicht faktische Fehler erzeugen können.
Prüfen Sie bei eigenen Chatbot-Integrationen mit Gesundheits- oder Sozialbezug stichprobenartig, welche externen Organisationen empfohlen werden und ob deren Eignung faktisch korrekt ist.
Was diese Meldung nicht belegt: Die Stichprobe von 270 Antworten deckt nicht alle Sprachen oder Länder ab, methodische Details zur Fragestellung sind nicht vollständig bekannt.
Text KI-erstellt und am 25.08.2026 automatisch von einer zweiten KI-Instanz gegen den erfassten Quelltext geprüft, ohne Einzelfreigabe durch einen Menschen. Redaktionell verantwortlich: Ali Reza Karwandian. Fehler gefunden? Korrektur melden · Unsere Grundsätze