La superintelligence pour tous, plaide le patron de Meta

Mark Zuckerberg s'oppose à la concentration de la superintelligence. Sa tribune défend un accès universel pour équilibrer les pouvoirs économiques.

Une tribune de Mark Zuckerberg paraît dans le Wall Street Journal, consacrée à la répartition de la superintelligence. Sa thèse tient dans une reformulation de la question : le sujet ne serait pas de savoir si des systèmes dépassant les capacités humaines vont exister, mais qui y aura accès. Deux voies sont opposées, une intelligence réservée à quelques institutions ou un outil mis entre toutes les mains, et l'auteur défend la seconde autour de trois principes, l'émancipation individuelle comme source de prospérité, l'invention comme finalité première, l'équilibre des pouvoirs comme fondement de la sécurité.

Le texte s'en prend au registre catastrophiste d'une partie du secteur, sans nommer personne. Il y voit une incohérence, celle de bâtir à toute vitesse une technologie que l'on décrit soi-même comme devant supprimer l'essentiel des emplois et de la pertinence humaine, et juge dangereuse l'idée selon laquelle la seule voie sûre passerait par une concentration extrême du pouvoir. L'argument s'adosse à un précédent historique, celui des pouvoirs absolus dont on a espéré la bienveillance.

Plusieurs raisonnements soutiennent la démonstration. Celui de l'alignement d'abord : l'humanité n'étant pas homogène, aucun système unique ne pourrait épouser des intérêts contradictoires sans arbitrer en faveur de certaines valeurs contre d'autres. Vient ensuite une expérience de pensée sur la sécurité. Si une seule personne disposait d'un avocat superintelligent, elle gagnerait des procès qu'elle aurait dû perdre ; que tout le monde en dispose, et la justice s'en trouve mieux rendue. L'emploi enfin, où la distinction porte sur l'usage, l'automatisation pesant négativement là où un outil d'émancipation largement distribué produirait selon lui davantage d'emplois et une économie plus entrepreneuriale.

Une nuance apparaît sur les risques. En cybersécurité, l'auteur estime que l'histoire de l'open source plaide pour un accès complet aux systèmes puissants. Sur les risques biologiques en revanche, il concède qu'une coordination accrue entre gouvernements et institutions serait utile. La tribune paraît le jour même où une pétition inter-laboratoires demandait aux États-Unis de soutenir le développement d'outils permettant de réguler le rythme de l'IA automatisée, texte que le directeur scientifique de Meta a signé à titre personnel.