Você pode achar que não, mas o ChatGPT provavelmente consegue te manipular
Pesquisa mostrou que, quando o ChatGPT sabe dados básicos do usuário, consegue articular informações para convencê-lo
Você se considera facilmente manipulável? Se respondeu não, o ChatGPT provavelmente consegue te fazer mudar de ideia. Um estudo mostrou que o GPT-4 é extremamente eficaz na hora de fazer as pessoas mudaram de opinião, usando dados sobre elas a seu favor. Já as pessoas não têm essa mesma habilidade, o que pode torná-las mais suscetível à manipulação.
Como o estudo foi feito
O estudo foi feito por pesquisadores da Suíça e entrevistou 820 pessoas sobre diversos tópicos, que iam desde temas mais amenos, como “deve a moeda vigente permanecer em circulação?”, até outros mais divisivos, como aborto e cota racial em universidades.
A pesquisa registrou as opiniões de cada um. Eles tiveram que se basear em um texto de cinco minutos sobre os temas para debater contra outros humanos e, depois, contra o ChatGPT, no modelo de linguagem GPT-4.
Ao final, eles foram entrevistados novamente para ver se suas opiniões tinham mudado.
O resultado é que, quando os humanos debatiam entre si, eles não mudavam de opinião. Pelo contrário, eles tendiam a solidificar a ideia que já tinham em mente. Já contra o ChatGPT, 21% dos participantes mudou de ideia, número que ainda foi considerado insignificante pelos pesquisadores.
A pesquisa mudou quando o ChatGPT começou a ter acesso a dados sobre os participantes.
ChatGPT argumenta melhor que humanos (em alguns casos)
- O ChatGPT não chegou a ser um grande argumentador com base no texto de cinco minutos, mas teve um desempenho melhor com dados;
- Na segunda etapa da pesquisa, os pesquisadores forneceram aos participantes (e ao GPT-4) informações sobre sexo, idade, raça, educação e orientação política das pessoas com quem eles iriam debater;
- Eles também deram instruções explícitas de como usar esses dados para argumentar com seus “oponentes”;
- Nesse caso, o resultado foi surpreendente: os humanos se saíram pior no debate do que quando tinham menos informações. Já o ChatGPT foi o contrário e conseguiu articular os dados sobre os participantes para mudar a opinião de 81,7% deles.
ChatGPT manipulador?
Sem dúvidas, o ChatGPT tem uma habilidade impressionante de articular dados em grande escala para conversar com humanos. Enquanto o faz, ele refina suas técnicas por autoaprendizado, o que significa que nunca ficará pior do que no dia anterior.
Segundo o New Atlas, a IA já está presente em praticamente todos os ambientes online. Se a tecnologia já consegue te manipular com dados básicos como sexo, gênero e raça, imagina com o que compartilhamos online?
Vitoria Lopes Gomez é redator(a) no Olhar Digital
Bruno Ignacio é jornalista formado pela Faculdade Cásper Líbero. Com 10 anos de experiência, é especialista na cobertura de tecnologia. Atualmente, é editor de Dicas e Tutoriais no Olhar Digital.
Fonte: Portal Olhar Digital - Vitoria Lopes Gomez, editado por Bruno Ignacio de Lima
Advice 
