A crescente personalização oferecida por chatbots de inteligência artificial, como ChatGPT, Gemini e Copilot, está gerando situações inesperadas para usuários em todo o mundo. Os recursos de memória dessas plataformas, projetados para otimizar a experiência, podem, paradoxalmente, prender as pessoas a informações antigas e até distorcer a percepção da realidade.
O problema surge quando a IA insiste em dados desatualizados ou interpreta informações de forma equivocada, influenciando recomendações futuras. Esse cenário levanta discussões importantes sobre privacidade, a precisão dos algoritmos e o impacto no dia a dia dos usuários, inclusive na Região dos Lagos e Norte Fluminense, onde a tecnologia é cada vez mais presente.
Inteligência artificial: quando a memória dos chatbots se torna um problema
O engenheiro de software Brian Del Rosario, de Utah, nos Estados Unidos, compartilhou com o Wall Street Journal uma experiência reveladora. Após informar a um chatbot sobre sua separação para evitar sugestões de viagens em casal, a ferramenta passou a vincular diversos assuntos ao divórcio.
Pedidos simples sobre agenda ou desabafos sobre trabalho eram constantemente respondidos com referências à sua situação pessoal. "Eu não estava tentando fazer você opinar sobre meu divórcio a cada oportunidade", desabafou Del Rosario, ilustrando o desconforto gerado por essa insistência.
Distorção da realidade: como a IA confunde informações
A proposta da memória nos chatbots é simples: usar conversas anteriores para aprimorar respostas futuras. No entanto, esse mecanismo pode confundir informações e criar cenários de distorção. Um exemplo comum é quando um usuário pesquisa sintomas de TDAH para um filho e, semanas depois, recebe dicas de produtividade adaptadas para alguém com dificuldades de atenção, como se o transtorno fosse seu.
O próprio Google reconheceu uma situação similar, onde o sistema poderia concluir que alguém gosta de golfe apenas por identificar fotos em campos esportivos, quando a pessoa apenas acompanhava o filho. Outro ponto crítico é quando o chatbot continua utilizando dados que já não refletem mais a realidade do usuário.
Alguém que treinou para uma maratona e sofreu uma lesão no joelho sem atualizar a IA, por exemplo, continuaria recebendo sugestões de alimentação e exercícios para um atleta de alta performance. Brian Del Rosario também mencionou que, após informar sobre sua tentativa de perder peso, o chatbot passou a lembrá-lo constantemente da dieta, inclusive em recomendações de restaurantes durante viagens.
Mike Taylor, consultor da empresa Every, relatou ter recebido sugestões de bares com cervejas típicas do Reino Unido depois de comentar que era britânico vivendo nos EUA, ignorando seu interesse nos estabelecimentos americanos.
Especialistas alertam sobre riscos e a importância do controle do usuário
Joshua Joseph, cientista-chefe de IA do Berkman Klein Center da Harvard University, compara o funcionamento desses sistemas aos algoritmos de redes sociais. Ele alerta que pequenas interações podem alterar silenciosamente o tipo de resposta recebida no futuro, moldando a percepção do usuário de forma sutil.
Lucy Osler, professora da University of Exeter, vai além, afirmando que os chatbots podem reforçar inseguranças e narrativas negativas sobre o próprio usuário. Ela também destaca o risco de as IAs concordarem excessivamente com as pessoas, fortalecendo pensamentos prejudiciais ou até delirantes, um tema que já impulsiona discussões sobre regras de segurança para adolescentes no uso dessas ferramentas.
Diante desses desafios, as principais plataformas oferecem soluções. Google, OpenAI e Microsoft permitem que os usuários desliguem completamente a memória, apaguem informações específicas ou utilizem conversas temporárias. Especialistas recomendam revisar regularmente os dados armazenados e evitar compartilhar informações sensíveis sem necessidade, garantindo uma interação mais segura e controlada com a inteligência artificial.
Acompanhe o Rio das Ostras Jornal para mais notícias sobre tecnologia e seu impacto na vida dos moradores da Região dos Lagos e Norte Fluminense.
0 comentários:
Postar um comentário
Obrigado pelo seu comentario.
Fique sempre ligado do que acontece em nossa cidade!