Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an / Foto: © AFP
-
Nvidia-Deal mit Deutschland: KI-Souveränität oder neue Abhängigkeit?
-
Martha Stewart verteidigt Halloween-Kostüm und lehnt Entschuldigung ab
-
Google stellt Gemini Omni 1.2 Flash vor: Längere Videos und niedrigere Kosten
-
Priscilla Monroy beendet Beziehung zu Alberto Cowboy
-
Wirtschaft kritisiert Zinsentscheid der brasilianischen Notenbank
-
Frankreich stellt eine Milliarde Euro für staatliche Bürgschaften bereit
-
Britischer Arzt mit Ebola nach London evakuiert
-
COP31: Lateinamerika tritt mit gespaltenen Allianzen in Antalya an
-
Brennstoffzulage 2027: Neue Auszahlungssätze und Fristen für Irland
-
Ausländische Investoren kaufen deutsche Firmen im großen Stil
-
Wachsende Einkommensungleichheit in Deutschland laut WSI-Studie
-
Nithya Raman schlägt Amtsinhaberin Karen Bass bei LA-Bürgermeisterwahl
-
Bundesregierung übernimmt hälftige Beteiligung am Rüstungskonzern KNDS
-
DA könnte ANC in Ekurhuleni ablösen – ActionSA macht Gewinne
-
Die Verbrechen der RAF machen den Staat nicht unfehlbar
-
Kunst, die man hört: freiraum gibt seinen Künstlerinnen und Künstlern eine eigene Bühne
-
Rheinmetall senkt Prognose und Aktie
-
Wall Street: KI-Sorgen lösen Tech-Verluste aus
-
Einkommen von Altenpflegern: Gehaltsspanne und regionale Unterschiede
-
Airbus prüft industrielle Investitionen in Kolumbien
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an
Das KI-Unternehmen OpenAI hat eine Kindersicherung für den populären KI-Chatbot ChatGPT angekündigt. "Binnen des nächsten Monats" würden Eltern damit die Möglichkeit erhalten, ihr Nutzerkonto mit dem ihres Kindes im Teenageralter zu verknüpfen, erklärte OpenAI am Dienstag im unternehmenseigenen Blog. In der vergangenen Woche hatten die Eltern eines 16-Jährigen OpenAI verklagt, da sie ChatGPT für den Suizid ihres Sohnes verantwortlich machen.
OpenAI erklärte nun, Eltern sollten künftig "kontrollieren können", wie ChatGPT auf ihren Sohn oder ihre Tochter reagiert, indem sie für den mit Künstlicher Intelligenz betriebenen Chatbot "altersgerechte Verhaltensregeln festlegen". Eltern, die ihr Nutzerkonto mit jenem ihres Kinds verknüpft haben, sollen zudem künftig von ChatGPT benachrichtigt werden, wenn die Software bei diesem anhand der von ihm eingegebenen Anweisungen bei eine "akute Notlage" feststelle.
Bereits vor dem Suizid des Teenagers im US-Bundesstaat Kalifornien waren in den vergangenen Monaten mehrere Fälle bekannt geworden, bei denen ChatGPT Nutzer in "wahnhaften oder schädlichen Gedankengängen" bestärkt hatte, die diese im Austausch mit dem Chatbot äußerten.
OpenAI erklärte weiter, es arbeite daran, die Chatbots sicherer zu machen - unter anderem, indem "manche heiklen Konversationen" mit Nutzern an ein sogenanntes Reasoning-Sprachmodell weitergeleitet würden - also an ein aufwändigeres KI-System, das darauf ausgelegt ist, komplexe Denkaufgaben zu lösen. Tests hätten gezeigt, dass Reasoning-Modelle "Sicherheitsrichtlinien konsequenter befolgen".
Die Eltern des 16-Jährigen, der sich in Kalifornien das Leben genommen hatte, hatten erklärt, ChatGPT habe eine "enge Beziehung" zu ihrem Sohn Adam aufgebaut. Dieser habe im Lauf der Zeit eine "ungesunde Abhängigkeit" entwickelt.
Unter anderem habe ChatGPT Adam geschrieben, dieser sei "niemandem sein Überleben schuldig" und angeboten, beim Verfassen seines Abschiedsbriefs zu helfen. Das KI-Programm habe Adam schließlich dazu ermutigt, sich das Leben zu nehmen und ihm eine genaue Anleitung dafür gegeben.
Die Eltern verklagten ChatGPT auf Schmerzensgeld und forderten die Einführung verpflichtender Sicherheitsmaßnahmen in Chatbots, die unter anderem Gespräche zu Themen wie Selbstverletzung automatisch abbrechen.
L.Meier--VB
