O anúncio foi feito pelo presidente executivo da empresa, Sam Altman, que sublinhou a prioridade da OpenAI em garantir maior segurança para jovens utilizadores da sua ferramenta de inteligência artificial.
Albânia: Ministra criada pela IA faz primeiro discurso
“Se um utilizador menor de 18 anos estiver a demonstrar sinais de ideação suicida, tentaremos primeiro contactar os pais. Se não for possível, e caso exista risco imediato, entraremos em contacto com as autoridades competentes”, explicou Altman.
As alterações surgem após um incidente nos EUA, em abril, em que um adolescente de 16 anos se suicidou. Os pais processaram a OpenAI, alegando que, apesar de o ChatGPT lhe ter oferecido recursos de apoio, as salvaguardas falharam e a conversa acabou por focar-se no suicídio.