L’économiste de l’IA

Économie comportementale

Sendhil Mullainathan a été admis au programme doctoral en informatique du MIT, mais a décidé de repousser sa première année d'un an. Il voulait d'abord essayer le programme doctoral en sciences économiques de Harvard. Il y est resté cinq ans, jusqu'à décrocher son doctorat en 1998.

On considère qu'une publication en économie est influente dès lors qu'elle a été citée au moins mille fois par d'autres spécialistes, or le profil Google Scholar de Sendhil Mullainathan recense plus d'une dizaine de publications dont chacune a été citée plusieurs milliers de fois. L'ensemble de ses travaux ont été cités au moins 100 000 fois, presque autant que ceux de la lauréate du prix Nobel d'économie Esther Duflo. Sendhil Mullainathan a occupé plusieurs postes d'universitaire à Harvard, à l'Université de Chicago et au MIT.

Il peut sembler étrange qu'un chercheur féru de maths et d'informatique se consacre à l'économie comportementale. Mais comme il l'explique lui-même, au cours de ses études doctorales, Sendhil Mullainathan est arrivé à la conclusion que l'économiste qu'il était devait acquérir une bonne compréhension de la psychologie humaine.

« Comment appréhender tous les travers, les bizarreries, les manies, bref toute la richesse insondable de la vie humaine pour mieux comprendre le fonctionnement de l'économie ?, se demandait-il. Nous devons admettre que les gens sont incroyablement compliqués et que leurs motivations sont impénétrables. »

Toute sa carrière, Sendhil Mullainathan s'est plongé dans ces complexités du comportement humain, avec parfois des résultats inattendus. Par exemple, il était admis depuis longtemps que les grandes entreprises déterminaient la rémunération de leurs dirigeants de manière à les récompenser pour la valeur qu'ils avaient apportée à leurs activités. Mais en 2001, Sendhil Mullainathan et Marianne Bertrand, sa fréquente collaboratrice à l'Université de Chicago, ont montré que « le montant du salaire des PDG s'explique pour une bonne part par le facteur chance », comme des fluctuations dans le cours du pétrole.

À l'occasion d'une autre étude, Bertrand et Mullainathan ont envoyé des CV fictifs en réponse à des offres d'emploi à Chicago et Boston, en y faisant figurer, de manière aléatoire, tantôt des noms aux consonances jugées européennes, tantôt afro-américaines. Ils se sont aperçus que les noms à consonance européenne suscitaient 50 % de rappels de plus de la part des employeurs, et ont présenté leur analyse dans un article intitulé « Are Emily and Greg More Employable than Lakisha and Jamal? » (Emily et Greg sont-ils plus employables que Lakisha et Jamal ?).

Sendhil Mullainathan et Eldar Shafir, psychologue à Princeton, ont passé près d'une décennie à mener des expériences sur la psychologie et l'économie de la rareté, qu'il s'agisse du manque de temps, d'argent, de nourriture ou d'autres ressources. Ils en ont tiré un ouvrage publié en 2013 et intitulé Scarcity: The New Science of Having Less and How It Defines Our Lives.

Comme l'explique Eldar Shafir, les deux auteurs donnent encore aujourd'hui des conférences sur ce livre. Ils ont montré que la rareté affecte énormément le fonctionnement du cerveau, à tel point que les gens deviennent obsédés par ce qui leur manque. Cet état de préoccupation constante monopolise les capacités cognitives des individus concernés, de sorte que leur cerveau cesse de fonctionner à pleine capacité, ce qui fait qu'ils se retrouvent piégés dans un cycle de rareté.

Une fois ce livre publié, il y a 13 ans, Sendhil Mullainathan a pu se consacrer à un autre sujet de recherche.

L'intelligence artificielle

« Un mardi matin, je me suis réveillé sans avoir rien à faire », explique-t-il. Plutôt que de rester oisif, il s'est mis à chercher un axe de recherche qui lui permettrait de sortir des sentiers battus.

« J'essaie de choisir des sujets le plus éloignés possible des préoccupations des autres. Mon principe est le suivant : il y a beaucoup de gens très intelligents dans ma profession, alors autant être efficace et ne pas m'intéresser à des sujets voisins de ceux que certains traitent déjà. »

Jann Spiess, économiste à Stanford, qui a été son étudiant et a travaillé avec lui sur certains projets de recherche, considère que cette démarche fait de Sendhil Mullainathan un chercheur unique en son genre. « À quelques années d'intervalle, il prend du recul et réévalue son travail », explique Jann Spiess. C'est ce qui, selon lui, fait de Sendhil Mullainathan « l'une des personnalités les plus intelligentes et les plus novatrices de la recherche en économie ».

En 2012, l'IA suscitait peu d'enthousiasme en dehors de l'informatique, explique Sendhil Mullainathan. « Personne ne s'y intéressait. J'ai voulu me pencher sur un sujet qui pouvait vraiment changer la donne. »

Sendhil Mullainathan s'est mis à appliquer l'apprentissage automatique - un type d'IA qui se sert d'algorithmes conçus pour tirer des enseignements d'un grand nombre de données - à l'étude des mécanismes de prise de décisions. Accompagné de quatre collègues, il s'est demandé, dans un article de 2017, si l'apprentissage automatique était susceptible d'améliorer les décisions que prennent les juges au moment de se prononcer sur la possibilité d'une libération d'un suspect sous caution. Ils se sont servis d'un algorithme pour analyser le risque qu'un suspect prenne la fuite ou récidive, en l'appliquant à une base de données de plus de 700 000 personnes arrêtées entre 2008 et 2013 dans la ville de New York.

Ils se sont rendu compte que les juges prennent régulièrement de mauvaises décisions et libèrent fréquemment sous caution des suspects que l'algorithme range dans la catégorie à haut risque. « Les juges sont susceptibles de tomber dans ce qu'on appelle le sophisme du joueur », explique Jens Ludwig, de l'Université de Chicago, l'un des chercheurs associés à ce projet. À l'instar d'un joueur de roulette qui prédit qu'après être tombé quatre fois sur le rouge, il a toutes les chances de tomber sur le noir, les juges qui voient passer devant eux quatre suspects à haut risque de suite ont tendance à libérer le cinquième sous caution, quel que soit son profil de risque objectif.

Les chercheurs estiment qu'en utilisant un algorithme d'évaluation des risques, on pourrait réduire la criminalité de 25 % sans modifier le nombre de détenus, ou réduire le nombre de détenus de 42 % sans faire augmenter la criminalité. Ils ont mis au point un outil d'IA dont les juges de New York se servent actuellement pour faciliter leur prise de décisions.

Pour Jens Ludwig, « il s'agit d'une révolution dans l'économie comportementale. Sendhil a la faculté de transformer notre compréhension des mécanismes de prise de décisions et de créer des outils susceptibles de les améliorer. C'est un véritable visionnaire. »

Dans un article de 2024, Jens Ludwig et Sendhil Mullainathan expliquent comment ils ont eu recours à l'IA pour montrer que les photographies d'identité judiciaire permettaient de prédire de manière fiable les décisions des juges de libérer ou non un suspect sous caution. À partir de données recueillies en Caroline du Nord, les chercheurs ont montré que les suspects à l'apparence soignée ou dont les visages sont plutôt ronds et larges avaient plus de chance d'être libérés sous caution que d'être mis en détention provisoire dans l'attente de leur procès.

Comme l'explique Sendhil Mullainathan, si ces résultats semblent intuitifs, « personne n'avait fait le rapprochement », pas même les juges ou les avocats commis d'office.

Toujours selon lui, les algorithmes permettent parfois d'établir des « rapprochements improbables » auxquels personne ne pense. « Le cerveau humain ne peut pas traiter l'information à cette échelle, ni procéder à des opérations aussi fastidieuses », ajoute-t-il.

Il mentionne une expérience dans laquelle un outil d'IA a permis de comparer les électrocardiogrammes de personnes décédées brutalement d'un arrêt cardiaque avec des électrocardiogrammes semblables, mais correspondant à des sujets à qui cela n'était pas arrivé. L'algorithme a détecté d'infimes différences qui avaient échappé à la vigilance des médecins. D'après Sendhil Mullainathan, il serait possible ainsi de repérer les personnes les plus susceptibles de mourir brutalement d'une crise cardiaque et qui pourraient bénéficier de la pose d'un pacemaker.

« Des vélos pour l'esprit »

Après six ans passés à l'Université de Chicago, Sendhil Mullainathan est retourné au MIT en 2024, où il enseigne dans les départements d'économie, de génie électrique et d'informatique. Il est à l'initiative d'un programme intitulé « The Bike Shop @ MIT » : il s'agit d'utiliser des algorithmes pour fabriquer « des vélos pour l'esprit ».

Cette image provient d'un graphique publié dans le numéro de mars 1973 de la revue Scientific American, qui compare l'efficacité de différents animaux en mouvement. « L'homme à vélo » était de loin le plus efficace. Sendhil Mullainathan écrit que ce résultat nous donne « une idée de ce que devraient être les ordinateurs : des vélos pour l'esprit ».

Avec ses collègues, il mène une expérience auprès d'étudiants en mathématiques en Inde. Ashesh Rambachan, chercheur au MIT associé à ce projet, explique qu'« enseigner, c'est l'art de lire dans les pensées. Or les professeurs ne comprennent pas ce que les élèves ne comprennent pas. Un algorithme pourrait les y aider. »

Rambachan, Mullainathan et leurs collaborateurs en Inde compilent des milliers d'exemplaires de devoirs de mathématiques. Ils prévoient d'utiliser l'IA pour cerner précisément à quel point du raisonnement les élèves se trompent, afin de créer un algorithme capable d'établir une « cartographie des erreurs ». L'objectif, selon Sendhil Mullainathan, est d'épauler les enseignants pour qu'ils aident les élèves à progresser. Cela pourrait « changer notre compréhension du processus mental d'apprentissage ».

D'après Sendhil Mullainathan, « les sciences économiques doivent tenir compte de la nature composite de nos modèles d'activité économique, de comportement et de prise de décisions. Les algorithmes sont les nouvelles usines de la recherche scientifique. Ils peuvent nous aider à relier les différents modèles entre eux. Je pense qu'au cours des 20 prochaines années, ils nous permettront d'apporter des réponses définitives à plusieurs questions philosophiques. »