OpenAI führt Jugendschutz ein

News

Das KI-Unternehmen OpenAI führt einen Jugendschutz für ChatGPT ein. Dieser beinhaltet altersgerechte Inhaltsanpassungen sowie die Möglichkeit für Eltern, die Accounteinstellungen ihrer Kinder zu kontrollieren.

(Source: cottonbro studio / Pexels.com)

OpenAI, das Unternehmen hinter ChatGPT, implementiert auf seiner Plattform neue Schutzmassnahmen für Jugendliche. Eltern können ihr ChatGPT-Konto neu mit dem denen ihrer Kinder verbinden. Einige Schutzfunktionen entwickelte das Unternehmen in Zusammenarbeit mit Spezialisten, darunter der US-amerikanischen Jugendschutzorganisation "Common Sense Media". Zusätzlich stellt OpenAi eine Informationsseite für Eltern bereit.

Die Jugendlichen oder die Eltern aktivieren den Jugendschutz mit einer Einladung. Wird diese angenommen, können die Eltern die Accounteinstellungen der Teenager anpassen, wie OpenAI mitteilt. Sie kontrollieren beispielsweise Ruhezeiten, die Nutzung von Sprach- und Erinnerungsmodulen sowie die Bildgenerierung und können verhindern, dass der KI-Chatbot mit den Daten ihrer Kinder trainiert wird.

MIt zusätzlichen Filtern schützt OpenAI Minderjährige vor unangemessenen Inhalten, heisst es weiter. Dazu gehören sexuelle oder brutale Rollenspiele, virale Challenges oder extreme Schönheitsideale.

OpenAI implementierte zudem ein Benachrichtigungssystem für Eltern, welches bei Anzeichen für potenziell ernsthafte Probleme Alarm schlägt. Das System benachrichtige die Eltern etwa beim Risiko zur Selbstverletzung. Ein Team von OpenAI überprüfe in solchen Fällen zunächst die Situation. Im Notfall alarmiert es die Eltern per Nachricht, so OpenAI. Sind die Eltern nicht erreichbar, könnten sogar Notfalldienste informiert werden, wie es weiter heisst.

Das KI-Unternehmen entwickelt derzeit auch ein Tool, um das Alter seiner User einzuschätzen. Dieses soll erkennen, wenn ein User unter 18 Jahre alt ist. Der Chatbot passt seine Antworten und Reaktionen dementsprechend an. Im Zweifelsfall schalte ChatGPT vorsichtshalber auf altersgerechte Inhalte um. Eine erwachsene Person, die fälschlicherweise als minderjährig eingestuft wurde, muss ihr Alter nachweisen, um den vollen Funktionsumfang wiederherzustellen, so OpenAI.

Eine Studie von OpenAI zeigt, dass ChatGPT überwiegend im privaten Kontext zum Einsatz kommt. Wie sich die Nutzung von ChatGPT verändert und was OpenAI-Daten über ChatGPT-User verraten, können Sie hier lesen.