A OpenAI e a Anthropic montaram operações dedicadas a se proteger contra tentativas de usar a inteligência artificial para interferir nas eleições de meio de mandato. Google e Meta também prometeram esforços para impedir que suas ferramentas sejam usadas para minar a confiança no processo democrático.
Em um escritório da OpenAI em São Francisco, mais de uma dúzia de pessoas trabalha sem parar para monitorar o possível uso indevido do ChatGPT relacionado às eleições. A operação representa uma grande ampliação do trabalho da empresa em comparação com o período que antecedeu a eleição presidencial de 2024, quando as ferramentas de IA eram menos capazes e o ChatGPT tinha um quinto de seus atuais um bilhão de usuários.
Josh Lawson, chefe de risco cívico e estratégico da OpenAI, disse que a variedade de ameaças se expandiu para além do texto. Os riscos potenciais agora incluem deepfakes, ciberataques e operações de influência estrangeiras ou domésticas, que podem ser criadas e lançadas com comandos.
A Anthropic, empresa responsável pelo Claude, estabeleceu sua primeira “sala de guerra” eleitoral, com analistas trabalhando em São Francisco, Nova York e Washington. As medidas das empresas surgem à medida que a IA se torna mais presente na vida social e política on-line, em meio a críticas de que as empresas de tecnologia não fizeram o suficiente para limitar conteúdos maliciosos.
Fontes: The New York Times Business.