La dérive moderniste des géants technologiques

Follow by Email
Facebook
Twitter

par Daron Acemoglu *

CAMBRIDGE – Les technologies numériques ont transformé notre manière de communiquer, de nous déplacer, de faire nos achats, d’apprendre et de nous divertir. Bientôt, les technologies telles que l’intelligence artificielle (IA), le big data et l’Internet des Objets (IoT) révolutionneront probablement la santé, l’énergie, les transports, l’agriculture, le secteur public, l’environnement naturel, voire notre corps et notre esprit.

Getty Images

Le fait d’appliquer la science aux problématiques sociales a immensément porté ses fruits par le passé. Bien avant l’invention de la puce électronique, un certain nombre d’innovations médicales et technologiques avaient déjà rendu notre existence plus confortable – et plus longue. Mais l’histoire abonde également de catastrophes provoquées par la puissance de la science, et sa volonté zélée d’améliorer la condition humaine.

Les efforts d’augmentation des rendements agricoles via l’optimisation scientifique ou technologiques dans le cadre de la collectivisation menée en URSS ou en Tanzanie ont par exemple spectaculairement mal tourné. De même, les projets de refonte des villes dans le cadre de l’aménagement urbain ont parfois conduit à leur quasi-destruction. Le politologue James Scott qualifie de « haut modernisme » ces efforts consistant à transformer l’existence au moyen de la science.

Idéologie aussi dangereuse que dogmatiquement très sûre d’elle, le haut modernisme refuse de reconnaître qu’un grand nombre de pratiques et comportements humains revêtent une logique inhérente adaptée à l’environnement complexe dans lequel ils s’expriment. Lorsque les partisans du haut modernisme ignorent ces pratiques afin d’instituer une approche plus scientifique et rationnelle, ils échouent quasi-systématiquement.

Historiquement, l’œuvre du haut modernisme s’est particulièrement révélée dommageable entre les mains d’États autoritaires déterminés à transformer une société soumise et affaiblie. Dans le cas de la collectivisation soviétique, l’autoritarisme étatique a puisé sa source dans le « rôle de leader » autoproclamé du Parti communiste, et a poursuivi ses objectifs en l’absence de toute organisation susceptible de lui résister efficacement, ou de fournir une protection à des paysans qui n’ont pu que subir.

Mais l’autoritarisme n’est pas l’apanage des États. Il peut également être associé à la prétention d’une connaissance ou capacité supérieure sans limite. Songez aux efforts des grandes entreprises, entrepreneurs et autres acteurs déterminés à améliorer notre monde via les technologies numériques. Les récentes innovations ont considérablement optimisé la productivité manufacturière, amélioré la communication, et enrichi l’existence de milliards d’individus. Mais elles pourraient également facilement dégénérer en un fiasco du haut modernisme.

Les technologies d’avant-garde telles que l’IA, le big data et l’IoT sont souvent présentées comme autant de miracles pour l’optimisation du travail, les loisirs, la communication et la santé. L’idée est que nous n’aurions pas grand chose à apprendre des individus ordinaires et des adaptations qu’ils ont développées dans différents contextes sociaux.

Le problème, c’est que cette conviction inconditionnelle selon laquelle « l’IA peut tout faire mieux que nous », pour ne prendre qu’un seul exemple, crée un déséquilibre de pouvoir entre ceux qui développent les technologies d’IA et ceux dont l’existence est vouée à être transformée par ces technologies. Ces derniers n’ont pour l’essentiel pas leur mot à dire quant à la manière dont ces applications seront conçues et déployées.

Les problèmes qui touchent actuellement les réseaux sociaux constituent un parfait exemple de ce qu’il peut se produire lorsque des règles uniformes sont imposées, sans considération du contexte social et des comportements évolués. Les modes de communication riches et variés qui existent en dehors d’Internet ont été remplacés par la communication formatée, standardisée et limitée que l’on retrouve sur des plateformes comme Facebook et Twitter. Conséquence, les nuances de la communication en face à face, ainsi que des informations d’actualité modérées par des organes de confiance, ont pour ainsi dire disparu. Les efforts visant à « connecter le monde » aux technologies ont engendré un marasme de propagande, de désinformation, de discours de haine, et d’intimidation.

Tout n’est cependant pas joué d’avance sur cette voie caractéristique du haut modernisme. Plutôt que d’ignorer le contexte social, ceux qui développent les nouvelles technologies pourraient au contraire apprendre de l’expérience et des préoccupations des individus du monde réel. Ces technologies pourraient elles-mêmes être adaptatives plutôt qu’immuables, veiller à élever la société plutôt qu’à la faire taire.

Deux forces peuvent orienter les nouvelles technologies dans cette direction. Premièrement, le marché peut faire office de barrière aux démarches verticales malavisées. Dès lors que les planificateurs soviétiques ont décidé de collectiviser l’agriculture, il était trop tard pour les paysans ukrainiens, avec pour conséquence une famine de masse. Ce n’est pas inéluctable pour les technologies numériques d’aujourd’hui, dont le succès dépendra des décisions prises par des milliards de consommateurs et des millions d’entreprises à travers le monde (à l’exception peut-être des entreprises en Chine).

Le pouvoir de contrainte du marché ne doit toutefois pas être surestimé. Rien ne garantit que le marché sélectionnera les bonnes technologies pour une adoption généralisée, ni qu’il internalisera les effets négatifs de certaines nouvelles applications. Le fait que Facebook existe, et que l’entreprise collecte les informations de ses 2,5 milliards d’utilisateurs actifs au sein d’un environnement de marché, ne signifie pas que nous pouvons avoir confiance dans la manière dont sont utilisées ces données. Le marché ne garantit pas que le business model et les technologies sous-jacentes de Facebook n’entraîneront pas des conséquences imprévues.

Pour que fonctionne le pouvoir de contrainte du marché, il doit être secondé par un autre garde-fou, plus puissant : le système politique démocratique. Tout État a son rôle à jouer dans la réglementation de l’activité économique ainsi que de l’utilisation et de la propagation des nouvelles technologies. La démocratie favorise bien souvent une demande en réglementations de ce type. Elle constitue également la meilleure défense contre la captation des politiques publiques par des sociétés rentières déterminées à accroître leurs parts de marchés et leurs bénéfices.

La démocratie constitue également le mécanisme le plus propice à l’expression de points de vue divers, ainsi qu’à l’organisation d’une résistance contre les volontés coûteuses et périlleuses du haut modernisme. En nous exprimant, nous pouvons ralentir voire empêcher l’avancée d’applications pernicieuses de surveillance, de contrôle et de manipulation numérique. Une voix démocratique, tel est précisément ce qui a manqué aux paysans ukrainiens et tanzaniens confrontés aux programmes de collectivisation.

Mais la tenue régulière d’élections ne suffira pas à empêcher les géants du numérique de faire de notre réalité un cauchemar moderniste. Tant que les nouvelles technologies pourront étouffer la liberté d’expression, entraver le compromis politique, et accentuer la concentration du pouvoir dans les mains de l’État ou du secteur privé, elles risqueront de contrecarrer le fonctionnement de la démocratie elle-même, et d’engendrer un cercle vicieux. Si le monde technologique choisit la voie du haut modernisme, il pourrait tôt ou tard endommager notre seule barrière de défense fiable contre son arrogance : le contrôle démocratique sur la manière dont sont développées et déployées les nouvelles technologies. Nous autres consommateurs, travailleurs et citoyens devons prendre davantage conscience de la menace, car nous sommes les seuls à pouvoir la stopper.

Traduit de l’anglais par Martin Morel
*Professeur d’économie au MIT, coauteur (avec James Robinson) des ouvrages intitulés Why Nations Fail: The Origins of Power, Prosperity, and Poverty et The Narrow Corridor: States, Societies, and the Fate of Liberty (à paraître en septembre 2019) 


Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *