A OpenAI anunciou novos recursos de segurança e controle no ChatGPT voltados para adolescentes, incluindo avisos de pausa após uso prolongado, "horas de silêncio" configuráveis e barreiras contra interações emocionalmente inadequadas. A plataforma aplicará essas proteções automaticamente a menores de idade, utilizando inteligência artificial para estimar a idade dos usuários e oferecendo ferramentas de monitoramento para os pais. A iniciativa surge em meio a ações judiciais que responsabilizam o chatbot por danos a jovens e visa proteger o público infantojuvenil de conteúdos sensíveis e uso excessivo.
Tópicos principais: OpenAI (empresa), ChatGPT (produto), Inteligência Artificial / Segurança digital (tecnologia), Proteção de menores e controle parental (tendência).
ChatGPT terá 'horas de silêncio' e novos filtros para adolescentes
Resumo
OpenAI vai liberar uma experiência do ChatGPT voltada a adolescentes, com novas camadas de proteção e recursos de controle de uso.
O que aconteceu
Nova versão reúne ferramentas de segurança que a empresa vem adicionando ao chatbot no último ano. A iniciativa é anunciada enquanto a OpenAI enfrenta ações judiciais que atribuem a conversas inadequadas no ChatGPT relação com danos a jovens, incluindo casos de morte.
Adolescentes vão receber avisos para fazer pausa após uso prolongado. A OpenAI diz que o sistema vai sugerir um intervalo quando o usuário ficar ativo por 90 minutos dentro de uma janela de três horas.
Plataforma terá horários configuráveis para limitar o acesso ao chatbot. A empresa afirma que adolescentes ou responsáveis poderão definir "horas de silêncio", quando o ChatGPT fica indisponível, ou "horas de estudo", em que o modo de estudo para aprendizagem é ativado por padrão.
OpenAI afirma que reforçou barreiras para evitar interações emocionalmente inadequadas. A companhia diz que melhorou proteções para impedir que o ChatGPT expresse sentimentos pessoais em relação ao usuário e que vai exibir lembretes quando o adolescente tentar enviar uma imagem privada ou sensível.
Proteções serão aplicadas automaticamente a quem disser ter menos de 18 anos ao criar a conta. A OpenAI também afirma que usa inteligência artificial para estimar a idade e pretende ativar as salvaguardas mesmo quando suspeitar que o usuário é menor, independentemente da data de nascimento informada no perfil.
No início do ano, a OpenAI anunciou um mecanismo que consegue detectar se um menor está utilizando o ChatGPT. Por meio de um algoritmo, a empresa consegue estimar se alguém é maior ou menor de idade. Se for menor, a experiência conta com vários filtros de conteúdo, como a limitação de conteúdos potencialmente prejudiciais (como violência gráfica, desafios virais arriscados ou conteúdos que promovem padrões extremos de beleza ou dietas pouco saudáveis.
Caso alguém seja erroneamente identificado como menor, é possível realizar uma selfie para confirmar a idade. Segundo a empresa, a partir de uma foto, a identidade é validada com auxílio da companhia Persona.
Responsáveis podem atrelar a conta à do filho. Nas configurações do ChatGPT, é possível determinar um horário de silêncio e ainda receber alertas de segurança, quando o sistema considera um assunto, indo na opção "Controles Parentais".
OpenAI diz que vai ampliar alertas para pais em casos específicos. A empresa lembra que, no ano passado, lançou controles para responsáveis desativarem recursos como memória e histórico de conversas e receberem notificações quando o sistema detectar "um momento de sofrimento agudo"; nas próximas semanas, afirma que incluirá alertas ligados a transtornos alimentares.
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Meridiano
