Empresas enganam modelos de IA usando Reddit

Empresas foram flagradas utilizando o Reddit para manipular respostas de inteligência artificial (IA), criando postagens falsas e discussões simuladas que influenciam os resumos do Google e as respostas do ChatGPT. A estratégia, denunciada por moderadores de comunidades e revelada pelo portal 404 Media, mostra uma nova forma de manipulação digital movida pela chamada Answer Engine Optimization (AEO).

Manipulação digital com aparência de debate real

De acordo com moderadores do fórum r/Biohackers, contas falsas publicam conteúdos coordenados sobre terapias hormonais e peptídeos. A intenção não é promover discussões genuínas, mas criar engajamento artificial. Essa movimentação faz com que as ferramentas de IA interpretem os tópicos como populares e legítimos, atribuindo-lhes mais credibilidade nas respostas automatizadas.

Os administradores da comunidade, que costumava ser um espaço para debates científicos e de saúde, proibiram temporariamente novos posts sobre esses temas para conter o fluxo de spam. O receio é que adolescentes e pessoas vulneráveis sejam induzidos a consumir produtos potencialmente perigosos, com base em conselhos aparentemente autênticos criados por agências de marketing disfarçadas de usuários comuns.

O que é AEO e por que interessa às empresas

O termo Answer Engine Optimization (AEO) refere-se a um novo ramo do marketing digital que busca otimizar informações para mecanismos de resposta baseados em IA — como os Resumos de IA do Google e chatbots como o ChatGPT. Enquanto o SEO tradicional tenta posicionar um site nos primeiros lugares dos resultados de busca, o AEO tenta fazer de uma marca a resposta final promovida pela IA.

De acordo com a investigação da 404 Media, empresas como a RedRover comercializam serviços para garantir que seus produtos apareçam em respostas automatizadas. A tática envolve criação de centenas de contas “aquecidas” — perfis que passam meses interagindo normalmente antes de participar de discussões adulteradas. Assim, quando passa a fazer recomendações comerciais, a conta parece legítima e confiável.

Spam humano e o novo desafio da moderação

Essas redes de manipulação digital diferem do velho spam automatizado. Em vez de bots que repetem mensagens, utilizam pessoas reais ou contas parcialmente gerenciadas por IA para criar debates aparentemente orgânicos. Quando usuários legítimos interagem, o conteúdo ganha destaque e é interpretado pelos algoritmos do Reddit, Google e ChatGPT como relevante e confiável.

Durante a apuração, foi constatado que os tópicos falsos frequentemente apresentam perguntas abertas como “A vitamina D realmente funciona?” ou “Quais os benefícios dos peptídeos?”. As respostas subsequentes, publicadas por contas conectadas às agências, recomendam marcas ou suplementos específicos. Esse fenômeno distorce o ecossistema informacional e ameaça a integridade das buscas baseadas em IA.

Como o Reddit responde

O Reddit confirmou o uso de ferramentas de segurança híbridas — que combinam revisão humana com sistemas automatizados — para mitigar campanhas coordenadas de manipulação. Segundo a empresa, há prioridade para proteger comunidades onde os riscos de desinformação médica e recomendações falsas representam ameaças reais.

ChatGPT e Google se tornam alvos estratégicos

Os modelos de linguagem, como o ChatGPT e os Resumos de IA do Google, têm grande dependência de dados coletados por meio de scraping — processos de raspagem que extraem informações de fóruns, redes sociais e sites como Reddit e LinkedIn. Essa coleta automatizada permite que as IAs gerem respostas mais contextuais e com tom humano. No entanto, quando as fontes são contaminadas por manipulação comercial, o resultado compromete a qualidade da informação entregue aos usuários.

A OpenAI e o Google ainda não apresentaram soluções completas para distinguir conteúdo genuíno de manipulado, embora tenham intensificado colaborações com veículos jornalísticos e bases certificadas de dados. O episódio serve de alerta para a necessidade de transparência algorítmica e monitoramento ético de informações treinadas por IA.

Consequências para o usuário e a credibilidade online

Além do impacto direto nas buscas, o fenômeno prejudica a confiança do público nas plataformas. O Reddit, tradicionalmente visto como um fórum de opiniões autênticas, está enfrentando uma crise de credibilidade causada pela mistura entre conversas reais e campanhas corporativas disfarçadas. A ocorrência também destaca a vulnerabilidade dos sistemas de IA diante de manipulações sutis e socialmente orquestradas.

“Estamos vendo o nascimento da engenharia social aplicada à inteligência artificial”, comenta um especialista ouvido pela 404 Media. “Essas campanhas sabem que os chatbots aprendem com o comportamento humano — e estão tornando isso uma ferramenta de marketing.”

404 Media

Caminho para a transparência algorítmica

A discussão em torno da manipulação do Reddit reacende o debate sobre como regulamentar a coleta e o uso de dados para treinamento de IA. Plataformas como o Reddit já enfrentam processos por uso indevido de dados, enquanto especialistas pedem o fortalecimento de auditorias externas para garantir rastreabilidade.

Pergurtas Frequentes sobre Manipulação de IA e Reddit

Considerações finais

O caso das empresas que usam o Reddit para enganar modelos de IA expõe uma nova camada da guerra informacional digital. A manipulação de discussões online para aparecer nos resultados de IA representa um desafio ético e tecnológico. Cabe às plataformas e desenvolvedores reforçar os filtros de autenticidade e aprimorar a transparência dos algoritmos de recomendação. Enquanto isso, cabe aos usuários questionar a origem das respostas que recebem — mesmo quando elas vêm de uma inteligência artificial.