Enligt Open AI ska Chat GPT bli bättre på att identifiera och svara på människor som upplever mental ohälsa, bland annat genom att förklara farorna med sömnbrist och stärka skyddsåtgärderna kring samtal om självmord. Open AI planerar även uppdateringar som gör det lättare för föräldrar att se hur deras barn använder sig av tjänsten.
Beskedet, som meddelades under tisdagen på företagets egen blogg, kom samma dag som Open AI och grundaren Sam Altman stämdes av föräldrarna till en 16-årig pojke som i april hängde sig själv i Kalifornien.
I stämningsansökan hävdas att Chat GPT systematiskt isolerat pojken och hjälpt honom att planera självmordet.
”Vi uttrycker våra djupaste medkänslor till familjen under denna svåra tid”, säger en talesperson för Open AI i ett uttalande.
I USA är fallet den senaste i en rad av larm om hur Chat GPT används på ett farligt sätt.
Nyligen utfärdade dessutom över 40 delstatsåklagare en varning till ledande AI-företag om att företagen är skyldiga att skydda barn från sexuellt olämpliga interaktioner.
