Começa julgamento de consultor político acusado de enviar robocalls com voz de Biden gerada por IA

Da redação

O julgamento de Steve Kramer, um consultor político democrata acusado de enviar robocalls com voz gerada por inteligência artificial (IA) imitando o presidente Joe Biden, começou nesta semana. Kramer admitiu ter orquestrado as chamadas automatizadas, que foram enviadas a milhares de eleitores de New Hampshire dois dias antes da primária do estado, em 23 de janeiro de 2024. Ele agora enfrenta uma multa de US$ 6 milhões proposta pela Comissão Federal de Comunicações (FCC) e mais de duas dezenas de acusações criminais.

O caso marca a primeira vez que a FCC propõe multas relacionadas ao uso de tecnologia de IA em robocalls. Além de Kramer, a empresa Lingo Telecom, acusada de transmitir as chamadas, também enfrenta uma multa de US$ 2 milhões. Ambas as partes podem optar por um acordo ou negociar os valores, segundo a FCC.

Kramer contratou um mágico de Nova Orleans, Paul Carpenter, para criar um deepfake da voz de Biden. Carpenter revelou à NBC News que recebeu US$ 150 pelo trabalho, mas afirmou não ter tido intenção maliciosa. "Eu criei o áudio usado no robocall. Não o distribui. Estava em uma situação onde alguém me ofereceu dinheiro para fazer algo, e eu fiz. Não sabia como seria distribuído", disse Carpenter.

As chamadas falsas, que atingiram entre 5.000 e 25.000 pessoas, segundo investigação da NBC, usavam o identificador de chamadas de Kathy Sullivan, ex-presidente do Partido Democrata de New Hampshire, que liderava uma campanha para incentivar eleitores a escreverem o nome de Biden nas cédulas. O áudio, obtido pela NBC, dizia: "Que bobagem. Vocês sabem o valor de votar nos democratas quando nossos votos contam. É importante que guardem seu voto para a eleição de novembro. Votar nesta terça-feira só ajuda os republicanos em sua busca para eleger Donald Trump novamente. Seu voto faz diferença em novembro, não nesta terça-feira."

A primária de New Hampshire ocorreu em desacordo com o calendário de indicações presidenciais do Comitê Nacional Democrata (DNC) para 2024. Como o estado realizou uma primária não autorizada, Biden não apareceu na cédula, levando os democratas locais a organizarem uma campanha para que eleitores escrevessem seu nome manualmente.

Kramer, um especialista em mobilização eleitoral que já trabalhou para a campanha do ex-candidato presidencial Dean Phillips e para a campanha fracassada de Kanye West em 2020, afirmou que agiu sozinho e que seu objetivo era chamar a atenção para a necessidade de regulamentação da IA. "Talvez eu seja o vilão hoje, mas acredito que, no final, teremos um país e uma democracia melhores por causa do que fiz, deliberadamente", disse ele a um veículo local.

O procurador-geral de New Hampshire, John Formella, abriu uma investigação após as revelações. As acusações contra Kramer incluem 13 crimes por supostamente violar uma lei estadual que proíbe tentativas de dissuadir eleitores com informações enganosas e 13 delitos menores por falsamente se passar por um candidato. O caso será processado pelo escritório do procurador-geral do estado.

A Lingo Telecom, empresa responsável pela transmissão das chamadas, discordou da ação da FCC, afirmando que cumpriu todas as regulamentações federais e padrões do setor. "A Lingo Telecom leva suas obrigações regulatórias muito a sério e cooperou plenamente com as agências federais e estaduais para identificar os responsáveis pela campanha de robocalls", disse a empresa em comunicado.

O caso destaca os desafios crescentes que a tecnologia de IA representa para a integridade eleitoral e a democracia, enquanto autoridades buscam maneiras de combater o uso malicioso dessas ferramentas. O julgamento de Kramer pode estabelecer um precedente importante para futuras ações contra o uso indevido de IA em campanhas políticas.