OpenAI et Anthropic ont mis en place des opérations dédiées pour se prémunir contre les tentatives d’utiliser l’intelligence artificielle afin de perturber les élections de mi-mandat. Google et Meta se sont également engagés à déployer des efforts pour empêcher que leurs outils soient utilisés pour saper la confiance dans le processus démocratique.
Dans un bureau d’OpenAI à San Francisco, plus d’une douzaine de personnes travaillent sans relâche pour surveiller les utilisations potentiellement abusives de ChatGPT liées aux élections. Cette opération représente une expansion majeure des travaux de l’entreprise avant l’élection présidentielle de 2024, à une époque où les outils d’IA étaient moins performants et où ChatGPT comptait un cinquième de son milliard d’utilisateurs actuel.
Josh Lawson, responsable des risques civiques et stratégiques chez OpenAI, a déclaré que l’éventail des menaces s’était étendu au-delà du texte. Les risques potentiels incluent désormais les hypertrucages, les cyberattaques ainsi que les opérations d’influence étrangères ou nationales, qui peuvent être créées et lancées à l’aide de requêtes.
Anthropic, l’entreprise à l’origine de Claude, a établi sa première « salle de guerre » électorale, avec des analystes travaillant à San Francisco, New York et Washington. Les mesures prises par ces entreprises interviennent alors que l’IA s’intègre toujours davantage à la vie sociale et politique en ligne, dans un contexte de critiques selon lesquelles les entreprises technologiques n’en ont pas fait assez pour limiter les contenus malveillants.
Sources: The New York Times Business.