Los comentarios recientes de destacados ejecutivos de la IA están renovando las preguntas sobre si los líderes tecnológicos están demasiado desconectados de los usuarios comunes. La CEO de Dazzle AI, Marissa Mayer, se convirtió en la última ejecutiva criticada por comentarios aparentemente desconectados de la realidad después de decir que le pidió a una herramienta de IA que ayudara con una descripción de su hija asignada por la escuela. El CEO de OpenAI, Sam Altman, ha sugerido que los padres creen podcasts personalizados para el trayecto al colegio de sus hijos y dijo que no podía imaginar la crianza sin ChatGPT. El CEO de Meta, Mark Zuckerberg, ha sugerido que satisfacer necesidades sociales y románticas mediante la IA será cada vez más aceptable.
Esos comentarios llevaron a Amanda Silberling, de TechCrunch, a preguntarse si los ejecutivos de la IA están demasiado desconectados para construir productos para personas comunes. La pregunta cobra mayor peso, según la fuente, mientras Anthropic se prepara para salir a bolsa y el apetito de Wall Street por el gasto intensivo en IA empieza a disminuir.
En el episodio más reciente del podcast Equity, los presentadores Kirsten Korosec, Sean O'Kane y Anthony Ha hablaron con Silberling sobre por qué los líderes de la industria pueden parecer insensibles. Korosec preguntó si el problema es de marketing o de producto. Silberling dijo que en parte es ambos.
Ella sostuvo que la industria tecnológica está impulsando un futuro en el que la interacción humana básica queda cada vez más optimizada fuera de la vida cotidiana. Silberling dijo que el hecho de que los humanos puedan hablar entre sí probablemente sea un beneficio neto para la sociedad. Señaló otros ejemplos, incluidos los comentarios de la CEO de Bumble, Whitney Wolfe Herd, sobre conserjes de IA en los que la IA de una persona sale con la IA de otra y presenta a los humanos si la cita de las IA va bien. Mayer, en un artículo de The New York Times, también planteó la idea de que su IA se coordine con la IA de su esposo.
Silberling describió un patrón más amplio de sobreoptimización. Dijo que nota en sí misma que llamar a un restaurante de comida para llevar ahora le resulta extraño porque pedir en línea es muy habitual. También reconoció por qué algunas personas podrían querer que la IA gestione las citas, que pueden ser ineficientes y llevar a noches desperdiciadas, pero dijo que tiene algo no humano y que externalizar a una computadora la decisión de con quién salir supone que la computadora te conoce mejor que tú mismo, una suposición que ella no acepta.
Silberling atribuyó parte del problema de comunicación a ejecutivos muy bien pagados de empresas valiosas que hablan de puntos problemáticos como hacer reservas para cenar y reservar vuelos. Aunque todo el mundo hace esas cosas, dijo que ella no reserva vuelos semanalmente ni hace reservas para cenar constantemente, y esas tareas no son desafíos particulares en su vida. Reconoció que las personas encuentran valor en herramientas como ChatGPT y Claude, pero dijo que el valor que obtiene la persona promedio no es necesariamente que le reserven un vuelo.
Anthony Ha comparó el momento con los primeros días de Uber, cuando se dirigía a los primeros adoptantes tecnológicos en San Francisco y algunos observadores dudaban de que se generalizara. Dijo que la industria tecnológica a menudo ha tenido éxito al apostar a que representa la vanguardia y refleja al consumidor o la familia del futuro. En este caso, dijo, esa apuesta aún no se ha confirmado, en parte porque la sociedad es diferente ahora y más personas cuestionan la influencia de la tecnología y se resisten a la idea de que toda experiencia deba ser optimizada fuera de sus vidas.
Silberling también señaló una tensión cultural: a medida que la sobreoptimización se extiende entre las personas del sector tecnológico, algunas están volviendo a los teléfonos de tapa o comprando CD porque están cansadas de que los algoritmos les digan qué quieren. Dijo que no se ha encontrado el equilibrio entre la optimización que ayuda a las personas y la optimización que las hace sentirse menos humanos de lo que quieren ser.
Fuentes: TechCrunch.