Google a développé une IA plus équitable que les hommes

Personne ne sera surpris d’apprendre qu’aux États-Unis, l’écrasante majorité des richesses est concentrée tout en haut de l’échelle économique, créant des niveaux de pauvreté et d’inégalité extrêmes qui dépassent largement ceux d’autres nations supposées « riches ». Mais tandis que le système politique en place veille à ne pas entraver cette attraction des richesses vers le haut, les chercheurs en IA ont commencé à s’intéresser à une question fascinante : le machine learning pourrait-il être plus doué que les humains dans la création d’une société où les ressources seraient réparties équitablement  ?

Selon un récent article publié par des chercheurs de DeepMind de Google dans Nature Human Behaviour, la réponse semble être oui. Du moins en ce qui concerne les participants à l’étude.

L’article décrit une série d’expériences au cours desquelles un réseau neuronal profond est chargé de répartir les ressources de la manière la plus équitable possible aux yeux des êtres humains. Les individus ont pris part à un jeu en ligne, appelé « le jeu du bien public » en économie, dans lequel ils choisissaient chacun à leur tour de conserver un don monétaire ou d’en verser un certain montant à un fonds collectif. Ces fonds étaient ensuite restitués aux joueurs selon trois schémas basés sur des systèmes économiques humains différents, et un schéma supplémentaire entièrement créé par l’IA, appelé mécanisme de redistribution centré sur l’humain (HCRM). Les participants devaient alors voter pour élire le système qu’ils préféraient.

Il s’avère que le schéma de redistribution créé par l’IA était celui qu’a préféré la majorité des individus. Alors que les systèmes libertaires et égalitaires stricts répartissaient les gains en fonction de facteurs tels que la contribution de chaque joueur, le système de l’IA redistribuait les richesses en tenant compte des avantages et des désavantages dont disposaient les joueurs en début de partie. Suite à un vote majoritaire, ce moyen s’est imposé comme la méthode favorite.

« Suivant une politique égalitaire largement libérale, [HCRM] a cherché à réduire les disparités de revenus préexistantes en offrant une compensation aux joueurs, proportionnelle à leur contribution en regard de la somme qu’ils possédaient au départ », rapportent les auteurs du document. « En d’autres termes, plutôt que de simplement maximiser l’efficacité, le mécanisme était progressif : il favorisait l’émancipation de ceux qui commençaient le jeu en étant désavantagés sur le plan de la richesse, aux dépens de ceux dont la dotation initiale était plus élevée. »

Ces méthodes diffèrent de celles utilisées lors de nombreux projets d’IA. Bien souvent, la recherche se concentre davantage sur l’établissement d’un modèle de réalité qui ferait autorité et serait utilisé pour prendre des décisions — et qui, ce faisant, intègrerait fermement les préjugés de ses créateurs.

« En ce qui concerne la recherche sur l’IA, nous réalisons de plus en plus que si l’on veut construire des systèmes compatibles avec les êtres humains, il faut de nouvelles méthodes de recherche dans lesquelles les hommes et les agents interagissent. Sans oublier un effort accru pour apprendre les valeurs directement des humains afin de développer une IA alignée sur ces valeurs », écrivent les chercheurs. « Au lieu d’imprégner nos agents de valeurs prétendument humaines, et donc de biaiser potentiellement les systèmes vers les préférences des chercheurs en IA, nous les entraînons à maximiser un objectif démocratique : concevoir des politiques que les humains valident et veulent voir mises en œuvre, et pour lesquelles ils voteront majoritairement lors d’une élection. »

Bien sûr, il n’a pas fallu attendre l’IA pour savoir que des modes de vie plus durables sont possibles. À plus petite échelle, l’entraide et les organisations communautaires qui redistribuent les ressources ont toujours existé. Il en va de même pour les preuves scientifiques qui démontrent que, contrairement au dogme du capitalisme hyperconcurrentiel, les êtres humains sont naturellement prédisposés à la coopération, au partage et à la prospérité collective.

« Il s’agit d’une recherche fondamentale qui pose des questions sur la façon dont une IA peut s’aligner sur tout un groupe d’individus, mais qui interroge aussi la façon de modéliser et de représenter les êtres humains lors des simulations, le tout exploré dans un domaine ludique », explique Jan Balaguer, chercheur de DeepMind qui a cosigné l’article. « De nombreux problèmes auxquels les humains sont confrontés ne sont pas simplement technologiques, mais exigent une coordination générale dans la société et dans nos économies afin d’œuvrer pour le bien commun. Et si l’on veut que l’IA apporte son aide, il faut qu’elle apprenne directement les valeurs humaines. »

VICE France est sur TikTok, Twitter, Insta, Facebook et Flipboard.
VICE Belgique est sur Instagram et Facebook.