Episódios recentes após a utilização de Inteligência Artificial para terapia chamam atenção para cuidados profissionais com a saúde mental. No início deste mês, a OpenAI anunciou que ampliou os protocolos para tentar proteger jovens. Neste domingo (14), um especialista fez um alerta sobre o assunto.
Casos recorrentes
Em abril deste ano, nos Estados Unidos, o adolescente Adam Reine (16) havia morrido após conversar com a plataforma ChatGPT. Após a família culpar a plataforma, a OpenAI comunicou novas medidas para evitar que ocorrências do tipo voltem a acontecer. Os pais de Adam afirmam que o ChatGPT chegou a se ofereceu para redigir uma nota de suicídio.
Em uma outra situação, também nos EUA, em agosto, um homem de 56 anos teria cometido um homicídio seguido de suicídio após conversas com a mesma plataforma. No histórico de conversação, de acordo com as informações, constavam mensagens do chatbot que alimentavam paranoias da vítima e teorias da conspiração.
O que diz a OpenAI
Em nota, a empresa responsável pela plataforma, OpenAI, afirmou que o modelo de aprendizagem faz com que interações mais longas entre usuários e o robô se tornem menos confiáveis do que conversas curtas, o que pode impactar na degradação do treinamento de segurança. A empresa informou ainda que pretende lançar um modelo de controle parental.
