Em uma revelação alarmante, a OpenAI anunciou na sexta-feira que desativou contas de um grupo iraniano que utilizava o chatbot ChatGPT para gerar conteúdo com o objetivo de influenciar as eleições presidenciais dos EUA e outros temas sensíveis.
A operação, identificada como Storm-2035, explorava o ChatGPT para produzir conteúdo focado em tópicos como comentários sobre os candidatos democratas e republicanos, o conflito em Gaza, a presença de Israel nos Jogos Olímpicos e outros assuntos controversos. O material era então disseminado através de redes sociais e websites.
A investigação conduzida pela empresa de IA, apoiada pela Microsoft, revelou que o ChatGPT era usado para gerar tanto artigos longos como comentários curtos para redes sociais. Apesar da sofisticação da operação, a OpenAI afirmou que a campanha não parece ter alcançado um engajamento significativo do público. A maioria das publicações identificadas nas redes sociais recebeu poucas ou nenhumas curtidas, partilhas ou comentários, e a empresa não observou indícios de que os artigos publicados na web estivessem sendo partilhados nas redes sociais.
As contas envolvidas foram banidas dos serviços da OpenAI, e a empresa continua a monitorizar as atividades em busca de novas tentativas de violar suas políticas. No início de agosto, um relatório de inteligência de ameaças da Microsoft já havia alertado sobre a rede iraniana Storm-2035, composta por quatro websites disfarçados de agências de notícias, que estava ativamente interagindo com grupos de eleitores americanos em extremos opostos do espectro político.
O engajamento estava sendo construído com “mensagens polarizadoras sobre questões como os candidatos presidenciais dos EUA, direitos LGBTQ e o conflito Israel-Hamas”, afirmou o relatório. A corrida presidencial entre a candidata democrata Kamala Harris e o rival republicano Donald Trump, marcada para 5 de novembro, encontra-se acirrada.
Em maio, a OpenAI já havia interrompido cinco operações secretas de influência que buscavam usar seus modelos para “atividades enganosas” na internet. O caso recente reforça a necessidade de vigilância constante e colaboração entre governos, empresas de tecnologia e especialistas em segurança para combater o uso indevido da IA e proteger a integridade dos processos democráticos.
