De récents commentaires de dirigeants éminents de l’IA renouvellent les questions sur le point de savoir si les dirigeants de la tech sont trop déconnectés des utilisateurs ordinaires. Marissa Mayer, PDG de Dazzle AI, est devenue la dernière dirigeante critiquée pour des propos apparemment déconnectés après avoir déclaré avoir demandé à un outil d’IA de l’aider à rédiger une description de sa fille assignée par l’école. Sam Altman, PDG d’OpenAI, a suggéré aux parents de créer des podcasts personnalisés pour le trajet de leurs enfants vers l’école et a déclaré qu’il ne pouvait pas imaginer exercer son rôle de parent sans ChatGPT. Mark Zuckerberg, PDG de Meta, a suggéré qu’il deviendra de plus en plus acceptable de répondre à des besoins sociaux et romantiques grâce à l’IA.

Ces propos ont amené Amanda Silberling, de TechCrunch, à se demander si les dirigeants de l’IA sont trop déconnectés pour concevoir des produits destinés aux gens ordinaires. Selon la source, la question prend un poids supplémentaire alors qu’Anthropic s’apprête à entrer en bourse tandis que l’appétit de Wall Street pour de lourdes dépenses dans l’IA commence à s’émousser.

Dans le dernier épisode du podcast Equity, les animateurs Kirsten Korosec, Sean O’Kane et Anthony Ha se sont entretenus avec Silberling pour expliquer pourquoi les dirigeants du secteur peuvent sembler sourds à certaines réalités. Korosec a demandé si le problème relevait du marketing ou du produit. Silberling a répondu qu’il s’agissait en partie des deux.

Elle a soutenu que l’industrie tech pousse vers un avenir dans lequel les interactions humaines de base sont de plus en plus optimisées au point de disparaître de la vie quotidienne. Silberling a déclaré que le fait que les humains puissent se parler est probablement un positif net pour la société. Elle a cité d’autres exemples, notamment les propos de Whitney Wolfe Herd, PDG de Bumble, sur des concierges IA dans lesquels l’IA d’une personne sort avec l’IA d’une autre personne et présente les humains si le rendez-vous entre IA se passe bien. Mayer, dans un article du New York Times, a également évoqué l’idée que son IA se coordonne avec celle de son mari.

Silberling a décrit un schéma plus large de sur-optimisation. Elle a dit remarquer en elle-même que téléphoner à un restaurant de plats à emporter semble désormais étrange, car commander en ligne est devenu si courant. Elle a aussi reconnu pourquoi certaines personnes pourraient vouloir que l’IA gère les rencontres amoureuses, ce qui peut être inefficace et conduire à des soirées gâchées, mais elle a affirmé qu’il y a quelque chose de non humain dans cette approche et que confier à un ordinateur la décision de savoir avec qui sortir suppose que l’ordinateur vous connaît mieux que vous ne vous connaissez vous-même — une hypothèse qu’elle n’accepte pas.

Silberling a attribué une partie du problème de communication à des dirigeants très bien payés d’entreprises de grande valeur qui discutent de points de douleur tels que réserver un dîner et prendre des vols. Bien que tout le monde fasse ces choses, elle a dit qu’elle ne réserve pas de vols chaque semaine ni ne réserve constamment des dîners, et que ces tâches ne constituent pas des défis particuliers dans sa vie. Elle a reconnu que les gens trouvent de la valeur dans des outils tels que ChatGPT et Claude, mais a déclaré que la valeur que la personne moyenne en retire n’est pas nécessairement qu’on lui réserve un vol.

Anthony Ha a comparé ce moment aux débuts d’Uber, lorsque l’entreprise ciblait les premiers adeptes de la tech à San Francisco et que certains observateurs doutaient qu’elle rencontre un large succès. Il a déclaré que l’industrie tech a souvent réussi en pariant qu’elle représente la pointe avancée et reflète le consommateur ou la famille de l’avenir. Dans ce cas, a-t-il dit, ce pari ne s’est pas encore confirmé, en partie parce que la société est différente aujourd’hui et que davantage de personnes remettent en question l’influence de la technologie et résistent à l’idée que chaque expérience devrait être retirée de leur vie au nom de l’optimisation.

Silberling a également noté une tension culturelle : à mesure que la sur-optimisation se répand parmi les gens de la tech, certaines personnes reviennent à des téléphones à clapet ou achètent des CD parce qu’elles sont fatiguées que les algorithmes leur disent ce qu’elles veulent. Elle a déclaré que l’équilibre n’a pas été trouvé entre une optimisation qui aide les gens et une optimisation qui leur donne l’impression d’être moins humains qu’ils ne le souhaitent.

Sources: TechCrunch.