OpenAI y Anthropic han creado operaciones específicas para protegerse de los intentos de utilizar la inteligencia artificial con el fin de perturbar las elecciones de mitad de mandato. Google y Meta también se han comprometido a hacer esfuerzos para impedir que sus herramientas se utilicen para socavar la confianza en el proceso democrático.
En una oficina de OpenAI en San Francisco, más de una docena de personas trabajan las 24 horas para vigilar el posible uso indebido de ChatGPT relacionado con las elecciones. La operación supone una importante ampliación del trabajo de la empresa de cara a las elecciones presidenciales de 2024, cuando las herramientas de IA eran menos capaces y ChatGPT tenía una quinta parte de sus actuales mil millones de usuarios.
Josh Lawson, responsable de riesgos cívicos y estratégicos de OpenAI, afirmó que la variedad de amenazas ha ido más allá del texto. Entre los posibles riesgos figuran ahora los deepfakes, los ciberataques y las operaciones de influencia extranjeras o nacionales, que pueden crearse y ponerse en marcha mediante indicaciones.
Anthropic, la empresa creadora de Claude, ha establecido su primera «sala de guerra» electoral, con analistas trabajando en San Francisco, Nueva York y Washington. Las medidas de las empresas llegan en un momento en que la IA está cada vez más integrada en la vida social y política en línea, en medio de críticas a las empresas tecnológicas por no haber hecho lo suficiente para limitar el contenido malicioso.
Fuentes: The New York Times Business.