Actualités

L’avènement de ChatGPT d’OpenAI a suscité une vague de craintes concernant les risques liés à l’intelligence artificielle (IA). Un nombre non négligeable de chefs d’entreprise a exprimé des inquiétudes quant au fait que l’IA pourrait nuire à l’humanité. Les appels à une réglementation gouvernementale de l’IA, voire à une pause temporaire, sont devenus un sujet de débat. Tirant une leçon de prudence à partir de ce qui s’est passé en Chine sous la dynastie Ming, cet article souligne les inconvénients potentiels engendrés par un étouffement de l’innovation et met en garde contre des mesures trop restrictives susceptibles d’entraver le progrès.

Le lancement du chatbot ChatGPT d’OpenAI fin 2022 a déclenché un vent de panique sur les risques posés par l’intelligence artificielle. Un récent sondage de CNN révèle que 42 % des chefs d’entreprise pensent que l’IA pourrait «détruire l’humanité» d’ici 5 à 10 ans.

Le pessimisme à l’égard de technologies potentiellement transformatrices n’est pas un phénomène nouveau. Mais ce qui est préoccupant, ce sont les appels à une réglementation étatique du développement et du déploiement de l’IA. Par exemple, en mars, des personnalités de l’industrie technologique, dont Elon Musk, ont appelé à une pause temporaire dans le développement de systèmes d’IA. Leur lettre ouverte a reçu plus de 33 000 signatures. Un sondage YouGov réalisé en avril a également révélé que près de 70 % de la population américaine était favorable à une telle pause de six mois dans le développement de l’IA. Ces sondages indiquent de manière inquiétante qu’un nombre non négligeable de citoyens américains, craignant une remise en cause de leurs acquis, souhaitent non seulement une réglementation de l’IA sur le plan éthique, mais aussi des restrictions contraignantes pour l’ensemble de l’industrie.

Pourquoi est-ce inquiétant ? L’histoire révèle qu’un parti pris sévère en faveur de la stabilité et les exagérations de militants anti-technologie dans la sphère politique peuvent dangereusement entraver les progrès de l’humanité. La Chine médiévale en est un bon exemple.

Aux XII^e et XIII^e siècles, la dynastie Song était considérée comme étant à la pointe du progrès et destinée à surpasser le reste du monde. Selon Harold B. Jones, «si on lui avait demandé de choisir parmi les nations du monde celle qui avait les meilleures perspectives pour les années à venir, un futurologue du début du XV^e siècle aurait parié sur la Chine». La Chine des Song était à la pointe du progrès technologique, inventant la poudre à canon, l’imprimerie mobile et la boussole. Elle possédait les infrastructures et la flotte de navires de commerce les plus avancées au monde. Ce qui lui a permis de s’enrichir grâce au commerce extérieur avec les États côtiers d’Afrique. En outre, en ouvrant sa société aux voyageurs d’autres pays, la Chine a bénéficié des connaissances scientifiques et de l’expertise des innovateurs étrangers, réalisant des progrès impressionnants dans les domaines de l’agriculture et de l’astronomie. Certains affirment même que la Chine des Song était à l’aube de sa propre révolution industrielle, des siècles avant la Grande-Bretagne. Elle disposait tout simplement des matériaux et des connaissances nécessaires pour dominer le monde bien avant l’Occident. Mais alors pourquoi ne l’a-t-elle pas fait ?

Malgré le dynamisme de la société et la prospérité de l’économie de la Chine des Song, celle-ci était constamment en conflit avec ses voisins du nord et a fini par succomber face aux prouesses militaires des envahisseurs mongols, en 1279. Avec la prise de pouvoir des Yuan, c’était la première fois en mille ans d’histoire que la Chine était gouvernée par une dynastie étrangère, qui s’était emparée de tout son territoire. Une défaite embarrassante pour les traditionalistes chinois.

La dynastie Yuan fut de courte durée, car les conflits internes et la corruption entraînèrent de nombreuses rébellions. Ce qui permit à la dynastie Ming de prendre le pouvoir en 1368. Encore humiliés par l’occupation «barbare», les dirigeants Ming eurent pour priorité de se démarquer de leurs prédécesseurs Song. Imputant l’effondrement de la dynastie Song à l’adoption d’une société ouverte «désordonnée», la dynastie Ming instaura un régime extrêmement autoritaire et isolationniste. Étendant considérablement la Grande Muraille de Chine et, plus important encore, déclenchant une «révolution antimoderne» destinée à revigorer la Chine avec des valeurs confucéennes traditionnelles et à freiner les innovations jugées déstabilisantes.

Une partie de cette révolution antimoderne était culturelle, étouffant l’innovation en mettant l’accent sur le conformisme et en réprimant l’individualisme. Ainsi, l’une des premières mesures prises par Zhu Yuanzhang, l’empereur fondateur des Ming, fut d’instaurer un code vestimentaire strict. Il interdit la mode étrangère et imposa des normes pour chaque position sociale, renforçant ainsi une hiérarchie néo-confucéenne. Le progrès technologique et la prospérité commerciale avaient permis aux gens d’avoir accès à une diversité de produits, qu’ils pouvaient désormais choisir. Ce qui leur permettait de montrer des différences avec les autres, notamment à travers leurs vêtements et remettait en cause l’ordre établi. Par crainte de voir s’effondrer cet équilibre, l’empereur des Ming interdit le port de vêtements extravagants.

Dans le même ordre d’idées, la dynastie Ming a réintroduit le système controversé des examens impériaux. Le système éducatif des Ming donnait généralement la priorité à l’apprentissage par cœur de la philosophie confucéenne, au détriment des compétences scientifiques et techniques. Bien que la science fût encore enseignée, le contenu devait être accepté comme une sagesse canonique plutôt que questionné et amélioré. L’environnement général créé par cette culture ne mettait pas l’accent sur les contributions des individus créatifs – si vous exposiez de nouvelles idées lors d’un examen, vous étiez tout simplement mal noté. L’individualisme n’avait pas sa place dans la dynastie Ming.

Mais l’aspect le plus regrettable de cette révolution concernait les innovations technologiques de nature à déstabiliser la société. La dynastie Ming limita sévèrement l’innovation, particulièrement en matière de recherche et de navigation océanique, en promulguant le célèbre (ou infâme) édit de Haijin. Cette politique brida fortement le commerce maritime privé et l’exploration. Entraînant la destruction de nombreux navires privés et l’emprisonnement de centaines de marchands. Les intentions de cette politique se manifestèrent notamment par la destruction de la flotte de l’amiral Zheng He.

Tout le monde connaît la fameuse phrase qui dit qu’en 1492, Christophe Colomb a navigué sur l’océan bleu. Mais ce que beaucoup ignorent, c’est que plusieurs décennies avant lui, un amiral chinois du nom de Zheng He avait effectué des voyages plus importants et plus ambitieux, avec une flotte 300 fois plus nombreuse. Pourtant, au lieu d’ouvrir le monde au commerce comme l’a fait Christophe Colomb, le gouvernement Ming a préféré brûler sa grande flotte. Étouffant ainsi une source essentielle de progrès économique. Pourquoi a-t-il entravé ces progrès ? Si la raison officielle invoquée était la piraterie, de nombreux chercheurs évoquent une crainte générale des échanges avec l’étranger et de l’émergence d’une puissante classe marchande, qui aurait perturbé l’ordre post-mongol.

Pour ces différentes raisons, la Chine connut une longue période de stagnation culturelle et technologique. Dans le même temps, l’Europe entra dans une grande ère d’individualisme et d’innovation. En adoptant le progrès scientifique et le commerce extérieur pendant la Renaissance, les Européens firent de remarquables progrès économiques et technologiques, dépassant la Chine en tant qu’épicentre mondial économique et technologique. Les puissances européennes utilisèrent les innovations maritimes et navales que la Chine avait réprimées pour asseoir leur domination. Alors que la dynastie Ming brûlait les navires et opprimait les marchands, les Européens établissaient des routes commerciales lucratives et colonisaient le globe grâce à leurs puissantes marines. Les Britanniques ont même utilisé ces outils pour humilier plus tard la Chine pendant les guerres de l’opium. Ainsi, l’«antimodernisme» de la dynastie Ming a contribué de manière significative à la «grande divergence», que la Chine a mis des siècles à combler pour rattraper l’Occident.

Par conséquent, alors que nous envisageons de mettre provisoirement un terme au déploiement de l’IA, l’héritage de la dynastie Ming constitue une mise en garde. Par la collecte non réglementée de données et les chocs à court terme sur le marché du travail, l’IA a certainement la capacité de perturber la stabilité existante. Cependant, il convient de souligner les avantages potentiels du développement de l’IA. De l’automatisation des tâches monotones à la révolution de la médecine moderne, de nombreux bienfaits seraient retardés par une mise en veilleuse du développement. Des retards qui, à l’instar de ce qui s’est passé en Chine, pourraient faire reculer l’Occident de plusieurs dizaines d’années. Bien que le techno-optimisme ait des limites, nous devons nous méfier de l’application excessive du principe de précaution. Car, comme le montre l’exemple de la dynastie Ming, une politique publique malavisée et trop prudente visant à préserver la stabilité peut favoriser, et c’est d’ailleurs presque toujours le cas, une stagnation coûteuse.

Eamon Passey est boursier Glynn et étudie actuellement les sciences politiques et les affaires internationales à l’Université de Notre Dame, avec une spécialisation dans les études asiatiques et la culture chinoise. Cette contribution est une traduction d’un texte publié en anglais sur le site de Human Progress.