Inteligência Artificial: quando a ferramenta que inventamos pode inventar mentiras para nós

Inteligência Artificial: quando a ferramenta que inventamos pode inventar mentiras para nós
Compartilhe:

Quais são os papéis desempenhados pelas tecnologias de Inteligência Artificial (IA) e pelos algoritmos, principalmente no setor da divulgação jornalística? Que questões éticas precisam ser consideradas no uso da tecnologia? E como a IA pode tanto contribuir para a disseminação de informações quanto combater a desinformação?

Pesquisas recentes do Reuters Institute, da University of Oxford e da MDPI (Multidisciplinary Digital Publishing Institute) indicam que, embora essas tecnologias ofereçam ferramentas poderosas para identificar e combater a desinformação, também representam um risco significativo, já que se infiltram cada vez mais nos processos de pesquisa e apuração das redações. Um exemplo é o fato de que cinco dos 45 finalistas do Prêmio Pulitzer deste ano utilizaram IA em algum estágio de suas reportagens, segundo a administradora do prêmio.

Carlos Eduardo Lins da Silva, jornalista e doutor em Comunicação pela Escola de Comunicações e Artes da USP, destaca em seus artigos que a incorporação da IA no jornalismo tradicional está em andamento, mas com a devida cautela. Ele observa que o receio de que a tecnologia possa comprometer a qualidade e a integridade das reportagens é real. Um exemplo disso é o caso da revista Bebê, da Editora Abril, que enfrentou críticas após a publicação de 311 textos em seu site, todos assinados por uma pessoa cuja existência não pôde ser confirmada. Além das 22 matérias que continham trechos idênticos aos de outros veículos sem os devidos créditos.

Lins da Silva alerta que o episódio ilustra os perigos do uso irresponsável da IA generativa: “sem o critério humano, plágio, infrações de direitos autorais e erros factuais gritantes podem ocorrer”. A preocupação com os direitos autorais é apenas uma das questões emergentes. Erros factuais, disseminação de desinformação e falta de legislação para a tecnologia são outros riscos do uso desenfreado.

A pesquisa da MDPI revela também a possibilidade dos algoritmos de IA reforçarem padrões existentes e criarem bolhas de filtro, onde os usuários são expostos predominantemente a informações que só corroboram suas crenças, por vezes falsas, preconceituosas e polarizadas. A pesquisa destaca que 60% dos pesquisadores acreditam que os algoritmos podem também limitar a diversidade de perspectivas.

Hoje há mais cinco tipos de IA em uso, a mais recorrente no jornalismo é a generativa. Responsável por criar novos conteúdos (como imagens, textos e músicas) a partir de um conjunto de dados de treinamento, usando modelos de aprendizado de máquina para aprender padrões e gerar – como por exemplo o ChatGPT, DALL-E e tutores virtuais como o do Aprimora.

A capacidade da IA de criar conteúdo autônomo aumenta o risco de informações falsas serem apresentadas de forma plausível e difícil de distinguir das verdadeiras. Camila Achutti, especialista em tecnologia e criadora do portal Mulheres na Computação, explica que muitos países, como a União Europeia, os Estados Unidos e a China, estão desenvolvendo regulamentações para controlar o uso das IA. A EU, por exemplo, está elaborando o AI Act para classificar os sistemas de IA e impor regras mais rígidas para aqueles considerados “de alto risco”. Nos EUA, diretrizes como o NIST AI Risk Management estão em vigor, enquanto a China foca em padrões éticos e controle estatal. Essas regulamentações visam equilibrar a inovação tecnológica com a proteção dos direitos humanos, segurança e transparência. À medida em que a IA avança rapidamente, as regras também estão evoluindo para lidar com novas questões éticas e sociais.

Durante a exclusiva para a IstoÉ Mulher, Achutti observa que as revoluções tecnológicas, como a atual transformação impulsionada pela IA, trazem profundas mudanças nas estruturas da comunicação online, mas que não seremos substituídos. Ela destaca a necessidade de suporte governamental adequado para garantir uma transição justa para os trabalhadores afetados pelo uso das IAs e evitar o aumento das desigualdades e precarização do trabalho.

Para se manter atualizado sobre notícias e pesquisas sobre IA, Camila recomenda acompanhar publicações como Wired, MIT Technology Review e The Verge, além de seguir especialistas como Fei-Fei Li, Kate Crawford e Andrew Ng nas redes sociais. Ela também destaca que o cenário da IA no Brasil está em crescimento, mas enfrenta desafios como a necessidade de melhorar a infraestrutura e investir mais em educação e políticas públicas. “O futuro é promissor”, comenta ela, “com a IA prometendo transformar setores como agronegócio, saúde e finanças, desde que se invista em capacitação, pesquisa e regulamentações éticas”.

Além disso, o setor tecnológico ainda enfrenta um abismo de gênero significativo, com as mulheres frequentemente subrepresentadas e enfrentando barreiras adicionais para se capacitarem ainda mais no segmento de tecnologia. Achutti enfatiza a importância de programas de formação focados em habilidades práticas e na busca por mentores na área.

A comunidade jornalística e os reguladores enfrentam o desafio de equilibrar a inovação da IA com a necessidade de manter a integridade e a veracidade das informações. O processo começa com uma reavaliação sobre como usar e gerenciar essa tecnologia que veio para ficar.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Pular para o conteúdo