Avanço das ferramentas de inteligência artificial aumenta riscos da exposição de imagens de crianças nas redes
Os chatbots de Inteligência Artificial (IA) estão padronizando a forma como as pessoas falam, escrevem e pensam. Se essa homogeneização continuar sem controle, corre-se o risco de reduzir a sabedoria coletiva da humanidade e sua capacidade de adaptação.
É o que argumentam cientistas da computação e psicólogos em um artigo publicado em meados de março na revista Trends in Cognitive Sciences. Eles afirmam que os desenvolvedores de IA deveriam incorporar a pluralidade do mundo real nos conjuntos de treinamento de grandes modelos de linguagem (os LLMs), não apenas para preservar a diversidade cognitiva, mas também para aperfeiçoar o raciocínio dos próprios chatbots.
Inteligência Artificial (IA): chatbots estão padronizando a forma como as pessoas falam, escrevem e pensam
Finelightarts para Pixabay
“Os indivíduos se distinguem na forma como escrevem, raciocinam e veem o mundo. Quando essas diferenças são mediadas pelos LLMs, seus estilos linguísticos, perspectivas e estratégias de raciocínio se tornam homogeneizados, produzindo expressões e pensamentos padronizados entre os usuários”, alertou o cientista da computação Zhivar Sourati, autor principal do artigo e professor da Universidade do Sul da Califórnia.
À medida que um número crescente de pessoas utiliza o mesmo punhado de chatbots para realizar suas tarefas, a diversidade vai encolhendo. Quando se usa a IA para polir a escrita, por exemplo, o texto acaba perdendo sua individualidade estilística.
“A preocupação não é apenas que os LLMs moldem como as pessoas escrevem ou falam, mas que eles redefinam o que conta como um discurso confiável, uma perspectiva correta ou até um bom raciocínio”, acrescentou Sourati.
A equipe apontou estudos indicando que os resultados dos LLMs são menos variados do que a escrita gerada por gente de carne e osso, e que tendem a refletir os valores e estilos de raciocínio de sociedades ocidentais, educadas, industrializadas, ricas e democráticas (western, educated, industrialized, rich and democratic societies, o acrônimo WEIRD) – ou seja, espelham uma fatia estreita e enviesada da experiência humana.
Embora pesquisas mostrem que indivíduos geram mais ideias quando usam LLMs, o irônico é que as equipes são menos criativas do que quando combinam suas habilidades coletivas sem o auxílio da IA. Mesmo quem (ainda) não utiliza a a tecnologia pode ser afetado: “se muitas pessoas ao meu redor pensam e falam de uma certa maneira e eu faço as coisas de um jeito diferente, acabo me sentindo pressionado a me alinhar a elas”, explicou Sourati.
A solução? Os desenvolvedores deveriam incorporar a multiplicidade global nos modelos, até para proteger o potencial de criação das futuras gerações. Para tirar a prova dos nove, fui perguntar à IA se ela está nos moldando. Eis a resposta (o negrito é meu): “Sim, a inteligência artificial está influenciando e, em muitos casos, padronizando a forma como os humanos se expressam, escrevem e se comunicam, criando um padrão de escrita perfeita, clara e gramaticalmente correta”. O curioso é que, entre os principais pontos dessa tendência, o próprio robô reconhece o “risco de desumanização”, com a perda de laços genuínos e uma baixa interação pessoal.

Fonte: G1 Read More