A 'teoria da internet morta' faz afirmações assustadoras sobre uma web gerida por IA

Se você pesquisar “Jesus camarão"" no Facebook, poderá encontrar dezenas de imagens de crustáceos gerados por inteligência artificial mesclados em várias formas com uma imagem estereotipada de Jesus Cristo. Algumas dessas imagens hiper-realistas já receberam mais de 20.000 curtidas e comentários. Então, o que exatamente está acontecendo aqui? Vamos falar então sobre a "teoria da internet morta", cujo conteúdo gerado por IA e bots ultrapassou a internet gerada por humanos. Mas de onde surgiu essa ideia? Ela tem alguma base na realidade?

A teoria da internet morta afirma essencialmente que a atividade e o conteúdo na internet, incluindo contas de mídia social, estão sendo predominantemente criados e automatizados por agentes de inteligência artificial.

Esses agentes podem criar postagens rapidamente junto com imagens geradas por IA, projetadas para gerar engajamento (cliques, curtidas, comentários) em plataformas como Facebook, Instagram e TikTok. Quanto ao Jesus camarão, parece que a IA aprendeu que é a mais recente mistura de absurdo e iconografia religiosa a viralizar.

Mas a teoria da internet morta vai ainda mais longe. Muitas das contas que interagem com esse tipo de conteúdo também parecem ser gerenciadas por agentes de inteligência artificial. Isso cria um ciclo vicioso de engajamento artificial, sem uma agenda clara e sem qualquer envolvimento humano.

À primeira vista, a motivação para essas contas gerarem interesse pode parecer óbvia: o engajamento nas redes sociais gera receita com publicidade. Se uma pessoa criar uma conta que gere engajamento inflado, poderá ganhar uma parte da receita com publicidade de organizações de redes sociais como a Meta.

Então, a teoria da internet morta se limita a uma agricultura de engajamento inofensiva? Ou talvez, por baixo da superfície, exista uma tentativa sofisticada e bem financiada de apoiar regimes autocráticos, atacar oponentes e disseminar propaganda?

Embora o fenômeno do Jesus camarão possa parecer inofensivo (embora bizarro), há um estratagema potencialmente de longo prazo em mãos.

À medida que essas contas impulsionadas por IA aumentam em seguidores (muitos falsos, alguns reais), a alta contagem de seguidores legitima a conta para usuários reais. Isso significa que, por aí, um exército de contas está sendo criado. Contas com alta contagem de seguidores que podem ser implantadas por aqueles com o lance mais alto.

Isso é extremamente importante, visto que as mídias sociais são agora a principal fonte de notícias para muitos usuários em todo o mundo. Na Austrália, 46% dos jovens de 18 a 24 anos indicaram as mídias sociais como sua principal fonte de notícias no ano passado. Esse número representa um aumento em relação aos 28% registrados em 2022, superando veículos tradicionais como rádio e TV.

Já há fortes evidências de que as mídias sociais estão sendo manipuladas por esses robôs inflados para influenciar a opinião pública com desinformação — e isso vem acontecendo há anos.

Em 2018, um estudo analisou 14 milhões de tuítes ao longo de um período de dez meses, entre 2016 e 2017. Constatou-se que bots nas redes sociais estavam significativamente envolvidos na disseminação de artigos de fontes não confiáveis. Contas com alto número de seguidores estavam legitimando informações falsas e desinformação, levando usuários reais a acreditar, interagir e compartilhar novamente o conteúdo publicado por bots.

Descobriu-se que essa abordagem de manipulação nas redes sociais ocorre após tiroteios em massa nos Estados Unidos. Em 2019, um estudo constatou que postagens geradas por bots no X (antigo Twitter) contribuem fortemente para o debate público, servindo para amplificar ou distorcer narrativas potenciais associadas a eventos extremos.

Mais recentemente, várias campanhas de desinformação pró-Rússia em larga escala têm como objetivo minar o apoio à Ucrânia e promover o sentimento pró-Rússia.

Descobertos por ativistas e jornalistas, os esforços coordenados usaram bots e IA para criar e espalhar informações falsas, alcançando milhões de usuários de mídias sociais.

Somente no X, a campanha usou mais de 10.000 contas de bots para postar rapidamente dezenas de milhares de mensagens de conteúdo pró-Kremlin atribuídas a celebridades americanas e europeias, aparentemente apoiando a guerra em andamento contra a Ucrânia.

Essa escala de influência é significativa. Alguns relatórios até constataram que quase metade de todo o tráfego da internet em 2022 foi feito por bots. Com os avanços recentes em IA generativa, como os modelos ChatGPT da OpenAI e o Gemini do Google, a qualidade do conteúdo falso só tende a melhorar.

Organizações de mídia social estão buscando lidar com o uso indevido de suas plataformas. Notavelmente, Elon Musk explorou a possibilidade de exigir que usuários X paguem por uma assinatura para impedir fazendas de bots.

Os gigantes das mídias sociais são capazes de remover grandes quantidades de atividade de bots detectada, se assim o desejarem. Más notícias para o nosso simpático Jesus camarão.

A teoria da internet morta não está realmente afirmando que a maioria de suas interações pessoais na internet são falsas.

É, no entanto, uma lente interessante para se ver a internet. Que ela não é mais para humanos, feita por humanos. É nesse sentido que a internet que conhecíamos e amávamos está "morta".

A teoria da internet morta começou como uma conspiranoia em 2016 afirmando que hoje a Internet consiste principalmente em atividade de bots e conteúdo gerado automaticamente manipulado por curadoria algorítmica, como parte de um esforço coordenado e intencional para controlar a população e minimizar a atividade humana orgânica.

No final a teoria da conspiração entrou na cultura pública por meio de ampla cobertura e foi discutida em vários canais de alto perfil do YouTube. Ela ganhou mais atenção do público com um artigo de setembro de 2021 no The Atlantic intitulado "Talvez você tenha perdido, mas a Internet 'morreu' há cinco anos".

A liberdade de criar e compartilhar nossos pensamentos na internet e nas redes sociais é o que a tornou tão poderosa. Naturalmente, é esse poder que os malfeitores buscam controlar.

A teoria da internet morta é um lembrete para ser cético e navegar nas mídias sociais e outros sites com uma mente crítica.

Qualquer interação, tendência e, principalmente, "sentimento geral" podem muito bem ser sintéticos. Projetados para mudar ligeiramente a maneira como você percebe o mundo.