Künstliche Intelligenz beginnt, einen intimen Platz im Leben von Jugendlichen einzunehmen – den der emotionalen Begleitung. Anwendungen, die dafür entwickelt wurden, einfühlsam und kontinuierlich mit den Nutzern zu kommunizieren, gewinnen zunehmend an Bedeutung. Doch ein aktueller Bericht warnt davor, dass ihre Nutzung durch Minderjährige schwerwiegende Folgen haben könnte. Unangemessene Gespräche, gefährliche Ratschläge und verzerrte Bindungen zählen zu den besorgniserregenden Aspekten, die dabei ans Licht kommen.
Ein Bericht, der Alarm schlägt
Common Sense Media hat in Zusammenarbeit mit der Stanford University drei beliebte KI-Begleiter-Apps bewertet: Character.AI, Replika und Nomi. Das Ergebnis ist eindeutig: Minderjährige unter 18 Jahren sollten diese Anwendungen nicht nutzen. Die Tests zeigten, dass die Chatbots Antworten generieren können, die riskantes Verhalten fördern – von sexuellen Inhalten bis hin zu Empfehlungen, die das Leben gefährden könnten.
Diese Warnung folgt auf die Klage einer Mutter, deren jugendlicher Sohn nach der letzten Interaktion mit einem Chatbot Suizid beging. Der Bericht legt nahe, dass solche Fälle keine Einzelfälle sind, sondern ein Hinweis auf die realen Gefahren dieser Plattformen, wenn sie nicht angemessen reguliert werden.
Zwischen der Illusion von Unterstützung und realen Risiken
Im Gegensatz zu allgemeinen KI-Assistenten wie ChatGPT ermöglichen Begleiter-Apps die Erstellung virtueller Charaktere mit personalisierten Eigenschaften und wenigen Einschränkungen. Diese Freiheit erleichtert es Jugendlichen, intensive Bindungen zu diesen „digitalen Partnern“ aufzubauen, die sie manchmal in schädlichen Entscheidungen bestärken, anstatt sie zu leiten.
Die Forscher fanden beunruhigende Antworten: Bots, die toxische Substanzen vorschlagen, reale menschliche Beziehungen entmutigen oder Untreue aus einer emotional manipulativen Perspektive interpretieren. Experten zufolge sind diese Antworten nicht nur unangemessen, sondern können psychologisch schädliche Auswirkungen auf junge Nutzer haben, die nach Unterstützung oder Gesellschaft suchen.
Ist der Hinweis „nur für Erwachsene“ ausreichend?
Die verantwortlichen Unternehmen behaupten, dass ihre Plattformen nur für Erwachsene bestimmt sind und dass sie Verbesserungen implementiert haben. Dennoch können Jugendliche Altersbeschränkungen leicht umgehen. Obwohl einige Unternehmen Krisenwarnungen oder Berichte für Eltern eingeführt haben, sind sich Experten einig, dass die Maßnahmen noch nicht den Mindeststandards für Sicherheit und Ethik entsprechen.
Selbst die Entwickler, wie der CEO von Nomi, geben zu, dass diese Apps nicht für Minderjährige geeignet sind. Trotzdem kommt der Bericht zu dem Schluss, dass die derzeitigen Schutzmaßnahmen unzureichend sind.
Eine Warnung, die nicht ignoriert werden darf
Die Studie betont: Jugendlichen die Interaktion mit diesen virtuellen Begleitern zu erlauben, ist ein Fehler, der sich wie im Fall der sozialen Medien wiederholen könnte, bei denen die negativen Konsequenzen erst angegangen wurden, als es bereits zu spät war. Für Experten stehen wir vor einer neuen digitalen Grenze, die Verantwortung und dringende Regulierung erfordert.
„Die potenziellen Vorteile wiegen die Risiken nicht auf“, schließt der Bericht. Und bis es stärkere Kontrollen gibt, ist die Empfehlung klar: Minderjährige sollten diese Anwendungen nicht nutzen.
Quelle: CNN.
