 | Se o seu feed do Facebook parece estar inundado de fotos estranhas, manchetes bizarras e publicações fora do comum, você não está sozinho nem imaginando coisas. Um novo tipo de conteúdo de baixa qualidade está dominando as redes sociais, e está sendo chamado de "lixo de IA". Conteúdo de IA de baixa qualidade ou completamente falso é o nome dado a publicações geradas por inteligência artificial. Esses posts geralmente usam imagens sintéticas, citações inventadas ou artigos escritos por IA. Algumas são bobas. Outras são manipuladoras, promovendo golpes, propaganda política ou alegações enganosas sobre saúde. |
Na verdade, este tipo de conteúdo sempre existiu, mas com o advento da inteligência ele decuplicou. Um dos exemplos mais virais, graves e repudiados de uso de inteligência artificial no Brasil envolveu a criação de deepfakes pornográficas com rostos de adolescentes e alunas de escolas colhidas em redes sociais para gerar montagens de nudez. Casos em cidades como Campinas (SP) expuseram redes criminosas onde estudantes tiveram suas imagens manipuladas em conteúdos falsos de cunho sexual.
Outras postagens mostravam golpes financeiros com famosos: uso de rostos e vozes de jornalistas e apresentadores conhecidos em falsos telejornais para enganar vítimas.
A polarização política não ficou de fora com manipulação de fotos e falas de autoridades públicas e candidatos em eleições para fabricar escândalos falsos em escala industrial.
O Pinterest, para mim, foi um dos poucos casos em que esta invasão foi "bem feita". A rede "vagabunda", acostumada a clonar conteúdos alheios, teve comunidades inteiras em torno de plantas de interior e decoração invadidas por imagens e conselhos gerados por inteligência artificial. Algumas publicações chegam a incluir links para lojas falsas que vendem produtos inexistentes. Os poucos usuários, que ainda acessam este lixo, alegam que seus feeds são quase inteiramente sintéticos.
O Spotify teve sua própria versão de falha de IA quando uma banda fictícia chamada Desert Sunset lançou músicas, capas de álbuns e fotos promocionais falsas, tudo criado com inteligência artificial. Uma das músicas acumulou mais de um milhão de reproduções antes que os ouvintes percebessem que a banda não existia.
Um estudo do Observatório de Internet de Stanford descobriu que o algoritmo do Facebook frequentemente promove páginas repletas de imagens geradas por IA e textos longos. Muitas dessas publicações são compartilhadas milhares de vezes antes que os usuários percebam que não são autênticas.
Essa enxurrada de conteúdo falso cria um problema ainda maior: as pessoas começam a duvidar da realidade. Há pessoas que acreditam tanto na quantidade de mentiras que, quando você começa a contar a verdade, elas não acreditam, como ocorreu diversas vezes aqui no MDig.
Isso é conhecido como dividendo do mentiroso. A teoria é que, quando as pessoas são sobrecarregadas por informações falsas, elas param de confiar em qualquer coisa. Até mesmo notícias, fotos ou vídeos verdadeiros podem ser descartados como falsos.
A falta de precisão da IA também prejudica a visibilidade de criadores reais. Artistas, músicos, escritores e blogueiros que dedicam um tempo precioso ao seu trabalho estão sendo ofuscados por pessoas que usam IA para criar dezenas de publicações em apenas algumas horas.
Sinceramente, acredito que as pessoas desempenham um grande papel na disseminação de informações incorretas geradas por IA. Acho que todos temos a responsabilidade de parar um instante para confirmar as informações que estamos vendo. Basta procurar uma segunda ou terceira fonte que as confirme antes de clicar no botão de compartilhar. É exatamente por isso, que, sempre que possível citamos as fontes em nossos artigos.
Por outro lado, respondendo a vários amigos que solicitaram que eu escrevesse este ensaio, a raiva em relação à ampla adoção da IA generativa e dos grandes modelos de linguagem está levando as pessoas a presumirem que conseguem reconhecer facilmente conteúdo textual gerado por IA quando o veem, mesmo que não consigam.
- " Essa onda de IA é uma porcaria que saiu do controle", dizem,
O ponto crucial consiste nestas cinco regras práticas recentemente emergentes:
- As pessoas acreditam que podem discernir inteligentemente quando algo é composto por IA, mas a realidade é que elas não podem realmente fazer isso. Além disso, IA detectora de IA é uma grande bobagem.
- Se for mostrado um conteúdo que não esteja rotulado quanto à sua origem, as pessoas geralmente não são melhores do que o acaso para adivinhar se foi gerado por IA ou feito por humanos (tendo todos os outros fatores iguais em conta).
- Se for dito que um conteúdo foi feito por IA, as pessoas irão depreciar o item.
- Se um conteúdo for criado por IA, mas uma pessoa for informada de que foi criado por humanos, ela tenderá a não depreciar como faria se pensasse que foi criado por IA. Ela dá o benefício da dúvida ao trabalho humano.
- As pessoas permitem emocionalmente que o seu preconceito preexistente contra a IA molde materialmente a sua percepção do conteúdo que lhes é mostrado.
Eu gosto da IA, sobretudo na pessoa do Gemini que cria imagens realistas para meus posts históricos, sem referências fotográficas. Acredito que a IA continua com potencial para mudar o mundo.
Se tivéssemos equipamentos com maior capacidade de processamento certamente estaríamos vivendo uma verdadeira revolução. Mas o que temos para hoje, infelizmente, é esta enxurrada de notícias falsas, incorreções, golpes, propaganda política ou alegações falsas sobre saúde.
Não há nada de errado em usar a IA. Errado em usá-la de forma perniciosa. Ela deve ser usada como aliada para a criação, aprendizado e exploração criativa, mantendo o discernimento humano para a validação de fatos e tomadas de decisão. Por exemplo, eu pedi informação do Gemini no post escrito hoje mais cedo sobre a taxonomia do camarão gigante e do lagostim.
De fato, isso me parece um dos pontos mais críticos do nosso tempo: o contraste entre o imenso potencial criativo da tecnologia e os efeitos colaterais do consumo desordenado da informação.
A aceleração na produção de conteúdo superou a nossa capacidade individual de processamento crítico. Quando a velocidade da informação se torna mais importante do que a sua veracidade, a confiança pública se erode, e esse é o verdadeiro perigo do cenário atual.
O que fazer? Provavelmente: diminuir o ritmo, fazer perguntas e compartilhar com responsabilidade pode ser a melhor defesa que temos.
A maioria dos conteúdos enganosos é projetada para despertar reações emocionais imediatas: raiva, urgência ou indignação. Reservar alguns momentos para avaliar a fonte quebra o ciclo de propagação.
Experimente só clicar nos 3 pontos ao lado de um post no Facebook e escolher Não tenho interesse. O conteúdo vai ser fechado imediatamente, só para duas ou três página abaixo ele se repetir. O Facebook não está interessado em seu bem estar, senão em te fazer "passar raiva" para que continue em seu scroll infinito
Diminuir o ritmo e cultivar o ceticismo saudável garante que a tecnologia continue servindo à expressão, ao conhecimento e à criatividade, sem comprometer a integridade da verdade factual. Porque se tudo começar a parecer falso, até a verdade se perde.
O MDig precisa de sua ajuda.
Por favor, apóie o MDig com o valor que você puder e isso leva apenas um minuto. Obrigado!
Meios de fazer a sua contribuição:
- Faça um doação pelo Paypal clicando no seguinte link: Apoiar o MDig.
- Seja nosso patrão no Patreon clicando no seguinte link: Patreon do MDig.
- Pix MDig: 461.396.566-72 ou luisaocs@gmail.com
Faça o seu comentário
Comentários