A busca por respostas cada vez mais personalizadas nos chatbots de inteligência artificial tem um lado curioso e, por vezes, incômodo. Ferramentas como ChatGPT, Gemini, Copilot e Claude, que passaram a usar recursos de memória, estão personalizando as interações, mas também criando situações onde parecem viver de lembranças desatualizadas ou mal interpretadas.
Imagine só: você superou um relacionamento, mas seu assistente virtual insiste em trazer a antiga parceira para todos os planos. Foi exatamente isso que aconteceu com Brian Del Rosario, um engenheiro de software de Utah, nos Estados Unidos. Ele relatou ao Wall Street Journal que, mesmo após informar ao chatbot sobre sua separação, a IA continuava a incluir a ex-esposa em sugestões de viagem.
Eu não estava tentando fazer você opinar sobre meu divórcio a cada oportunidade.
O problema persistiu, e pedidos simples de ajuda com a agenda ou até desabafos sobre o trabalho acabavam recebendo respostas de alguma forma ligadas ao divórcio. Parece que, para a IA, algumas informações ficam gravadas de forma quase literal demais, sem o filtro humano que entende o contexto e a evolução das situações.
Quando a memória vira mal-entendido
A ideia por trás da memória em chatbots é nobre: usar o histórico das conversas para refinar e melhorar as respostas futuras. O ChatGPT lançou essa funcionalidade em 2024, e desde então, diversos concorrentes passaram a seguir o mesmo caminho, oferecendo sistemas similares. A intenção é que a IA aprenda sobre você e suas preferências, tornando cada interação mais fluida e útil.
No entanto, o mecanismo pode gerar confusão. Um caso hipotético, mas ilustrativo, envolve alguém que pesquisa sobre sintomas de TDAH para um filho. Semanas depois, a mesma IA passa a oferecer dicas de produtividade adaptadas para uma pessoa com dificuldades de atenção, como se o transtorno fosse do próprio usuário. É uma personalização mal direcionada, que parte de uma premissa errada.
O Google, por sua vez, reconheceu uma situação semelhante em um exemplo que divulgou: o sistema poderia erroneamente concluir que um usuário gosta de golfe, apenas por identificar várias fotos em campos esportivos, quando na verdade, a pessoa apenas acompanhava o filho. A IA, ao tentar ser útil, acaba criando um perfil impreciso.
Diante desses desafios, as empresas estão agindo. O Google, por exemplo, agora permite que os usuários mantenham a personalização ativa, mas bloqueiem informações específicas para evitar essas associações indevidas. A OpenAI, criadora do ChatGPT, também informou ter atualizado o funcionamento da memória para seus assinantes Plus e Pro, buscando um equilíbrio melhor entre personalização e precisão. Já a Microsoft, desenvolvedora do Copilot, oferece aos seus usuários a opção de editar ou apagar as lembranças armazenadas, dando mais controle sobre o que a IA recorda.