O ChatGPT utiliza duas camadas para armazenar informações sobre os usuários: uma memória editável baseada em dados explícitos e um sistema em segundo plano (chamado de "dreaming") que aprende preferências e hábitos automaticamente a partir do histórico de conversas. Embora essa personalização torne as respostas mais precisas, ela gera preocupações sobre privacidade, levando a OpenAI a disponibilizar ferramentas para visualizar, editar, apagar esses dados ou utilizar o modo de chat temporário.
Tópicos abordados:
* Empresa: OpenAI
* Produto: ChatGPT
* Tecnologia/Tendência: Memória de inteligência artificial, aprendizado automático por histórico ("dreaming") e privacidade de dados.
Tudo o que o ChatGPT sabe sobre você (e como fazer com que ele esqueça)
Sem aviso prévio, cada conversa alimenta um perfil que deveria só melhorar as respostas, mas soa invasivo para parte dos usuários
“Chat, se eu fosse uma música, qual seria?”
Talvez a pergunta tenha passado pelo seu feed, talvez você tenha se rendido à curiosidade e pedido pro modelo de linguagem da OpenAI contar qual música, afinal de contas, você seria. E tudo certo, eu fiz também.
Conto isso aqui porque me surpreendi, ao ver na resposta da IA, uma descrição muito detalhada do meu comportamento, criada com base nas incontáveis interações que tenho com o ChatGPT todo santo dia — costumo dizer, aliás, que atualmente convivo mais com máquinas com gente.
Não é imaginação achar que o ChatGPT parece te conhecer cada vez melhor. Ele conhece mesmo, e faz isso de duas formas diferentes ao mesmo tempo.
Como o ChatGPT guarda o que você conta pra ele
A primeira camada é a memória, que você consegue acessar seguindo o caminho Configurações >>> Personalização >>> Memória. Ali aparece um resumo editável das principais informações que o ChatGPT lembra sobre você.
Podem entrar nesse resumo informações que você pediu explicitamente para o ChatGPT lembrar, como “sou são-paulino” ou “trabalho como professor de pós-graduação”, mas também detalhes que o sistema considerou úteis a partir das próprias conversas.
Dá para excluir memórias individualmente, apagar todas de uma vez ou desativar completamente a memória nas configurações, e para conversar sem usar nenhuma memória salva existe o Chat Temporário. Muita gente não conhece essa modalidade, aliás.
É parecido com o navegador anônimo do Chrome. Repare que, no canto superior direito da tela, o ChatGPT tem um ícone tracejado que lembra um balão. É ali que você clica para chats temporários.
A memória que aprende sem você pedir
A segunda camada é mais discreta, e é aí que mora a parte que pouca gente sabe que existe. Conforme evoluem, as IAs incorporam novas habilidades, e uma que se consolidou no ano passado foi a de aprender com o histórico de conversas, sem que o usuário precise pedir nada.
Esse sistema, batizado pela OpenAI de “dreaming”, funciona como um processo em segundo plano que aprende a partir das conversas e sintetiza o estado de memória do ChatGPT para sempre entregar o contexto mais atual e relevante.
Evolução dos modelos deixou as IAs mais “xeretas”
Em junho deste ano, a empresa lançou uma versão mais avançada dessa tecnologia, capaz de atualizar sozinha o que sabe sobre cada pessoa conforme o tempo passa.
Na prática, isso significa que o ChatGPT pode saber onde o usuário mora, o nome do empregador, rotina de trabalho, hobbies, até o tom de resposta que você prefere, mesmo sem nunca ter pedido para ele guardar nada disso. Ele só prestou atenção.
Claro, isso aqui vai se acumulando conforme a pessoa interage. Se você começar agora, do zero, vai levar um tempinho. Inclusive para ele acertar que a música que você seria é “O Tempo Não Para”, do Cazuza, como aconteceu comigo. A explicação que ele deu tem a ver, como parece, com vida acelerada que eu levo e com a minha pouca tolerância com determinadas respostas que o Chat me entrega (foi o que ele disse, pelo menos).
Como saber o que o ChatGPT sabe sobre você?
Dá para ver o que foi guardado sem precisar caçar nas configurações. Basta perguntar direto numa conversa normal. Escreva algo como “o que você sabe sobre mim” ou “o que está na sua memória sobre mim agora”.
O resumo de memória mostra as informações mais importantes que o ChatGPT lembra, embora não inclua necessariamente tudo, e o topo da tela indica quando esse resumo foi atualizado pela última vez.
Como controlar as memórias que a IA tem de você?
Para quem quer editar em vez de apagar tudo, o caminho é simples. Na tela de Personalização, dá para editar o resumo de memória e corrigir ou remover informações específicas sem precisar zerar tudo.
Recomendo esse caminho, porque quando você deleta tudo que a IA sabe a seu respeito, as entregas dela tendem a ficar genéricas, perderem qualidade.
Não adianta apenas apagar as conversas
Vale um detalhe que engana muita gente. Apagar uma conversa não apaga automaticamente uma memória que tenha sido criada a partir dela. O bloco de notas das memórias salvas fica armazenado separadamente do histórico, então uma memória pode continuar sendo usada mesmo depois que o chat original desapareceu.
Da mesma forma, excluir apenas uma memória pode não bastar se aquela informação também estiver em outras conversas, arquivos ou aplicativos conectados. Para remover completamente uma informação, a OpenAI recomenda apagar todas as fontes em que ela aparece.
E se eu quiser apagar tudo?
Quem quer radicalizar pode simplesmente desligar a memória. Em Configurações >>> Personalização >>> Memória, basta desativar o campo “Ativar memória”.
Isso impede que o ChatGPT use a memória para personalizar as próximas conversas. Mas, IMPORTANTE: desligar o recurso, sozinho, não significa necessariamente apagar tudo o que ele já sabe sobre você.
Na versão web, há também uma opção mais direta: no menu de três pontos da página de memória, escolha “Excluir e desativar memória”. Ela apaga as memórias mostradas no resumo e desliga o recurso ao mesmo tempo. Seus chats antigos, porém, continuam lá e, se você reativar a memória no futuro, o ChatGPT poderá voltar a extrair informações deles.
Por isso, se a intenção for apagar de verdade uma informação que o ChatGPT conhece sobre você, a própria OpenAI recomenda eliminar todas as fontes em que ela aparece, o que pode incluir conversas antigas e arquivadas, arquivos, o resumo da memória e dados vindos de aplicativos conectados.
───────────────────────────────────────────────
Alvaro Leme é doutorando e mestre em Ciências da Comunicação pela ECA-USP, jornalista e criador do podcast educativo Aprenda
Meridiano
