| Concentration du pouvoir technologique (actifs numériques, connaissances, technologies stratégiques) : Concentration d’actifs, de capacités ou de connaissances technologiques critiques au sein d’un petit nombre d’individus, d’entreprises ou d’États qui peuvent contrôler l’accès aux technologies clés. Elle est due, entre autres, à l’échec de la réglementation antitrust, à l’insuffisance des investissements dans l’écosystème de l’innovation ou au contrôle de l’État sur les technologies clés. « L’accélération technologique est une force structurelle qui fait référence aux développements technologiques rendus possibles par la croissance exponentielle de la puissance informatique et de l’analyse. Elle est susceptible de brouiller les frontières entre la technologie et l’humanité et de créer rapidement des risques mondiaux nouveaux et imprévisibles. La question posée dans cet article est celle des risques que pose cette concentration du pouvoir technologique. Pour ce faire, j’examine ce phénomène sous l’angle de l’approche STEEPLD (Social, Technique, Économique, Environnemental, Politique, Juridique, Démographique). | Dans cette contribution, j’exprime ma propre opinion, et non celle d’une quelconque organisation. Le Global Risk Report 2024 – WEF fournit les définitions suivantes |
Contenu
Ce que dit le WEF sur la concentration du pouvoir technologique
« Entrenched market concentration » : (libre du document 2024 Global Risk Report – WEF)
Il met en évidence l’insécurité cybernétique et la concentration du pouvoir technologique comme étant les seuls facteurs de risque de résultats négatifs de l’IA en tant que technologie hautement concentrée. Les problèmes liés à la chaîne d’approvisionnement sont prévisibles. Comme les coûts des minéraux, l’accès aux semi-conducteurs, la dépendance à l’égard d’un fournisseur unique de services CLOUD (….), les problèmes de chaîne d’approvisionnement sont prévisibles.
Les objectifs de sécurité nationale peuvent rester l’objectif principal de l’innovation et de la politique industrielle dans plusieurs économies en réponse à la concentration du marché due à l’importance de l’IA. Les États chercheront à sécuriser leurs chaînes d’approvisionnement, en recourant à l’onshoring et au friend-shoring dans la mesure du possible.
Qu’est-ce que STEEPLD « dit » sur la « concentration du pouvoir technologique » ?
Social – Sociétal
L’innovation
Certains pensent que les grandes entreprises elles-mêmes sont moins innovantes au fil du temps parce qu’il n’y a pas assez d’opportunités pour une véritable concurrence, qui devrait stimuler l’innovation. L’innovation est créée par les organisations exponentielles, qui envisagent les choses sous un angle complètement différent. Cela encourage les perturbations créatives. Cela signifie-t-il que l’on perd des carrières en annulant des projets qui étaient en cours de réalisation ?
La gestion du trafic à l’aide des données des smartphones en est un exemple : « Dans l’ensemble des pays développés, les agences routières acquièrent les données utilisées pour gérer le trafic sur leurs routes à partir de capteurs routiers tels que des boucles d’induction, des radars ou des caméras – une infrastructure de surveillance qui est coûteuse et nécessite une maintenance permanente. » Ainsi, la perturbation créative semble à la fois un progrès pour beaucoup, mais une perte d’emploi pour d’autres. Un autre exemple est l’essor de l’automobile et la chaîne de montage d’Henry Ford : « Parmi les exemples de destruction créatrice dans l’histoire, on peut citer la chaîne de montage d’Henry Ford et la façon dont elle a révolutionné l’industrie de la fabrication automobile. Cependant, elle a également déplacé des marchés plus anciens et forcé de nombreux travailleurs à se retrouver au chômage. »
En concentrant les innovations sur un nombre limité d’entreprises, un autre problème se pose : des prix trop élevés pour les produits techniques disponibles. Les personnes issues de l’immigration ont souvent moins d’opportunités de développer des compétences numériques. Cela peut conduire à une « fracture numérique ».
En outre, la variation limitée de l’offre se produit également. Il n’est pas nécessaire que ce soit toujours le cas. Un contre-exemple est l’invention du CD et du lecteur de CD par Phillips, en tant que nouvelle norme pour les installations audio. Cela a empêché les prix de grimper en flèche, mais a également empêché les producteurs de tenir compte des besoins des clients. Le marché du disque vinyle s’en est trouvé profondément modifié. La même chose s’est produite plus tard avec les cassettes vidéo à la suite de l’avènement du DVD.
Utilisation abusive des données des utilisateurs
Les entreprises qui collectent un grand nombre de données sur les utilisateurs, comme certains sites web sociaux, représentent un très grand danger. Ils utilisent la psychométrie pour cartographier le comportement et les préférences de leurs utilisateurs. Elles utilisent ensuite ces données pour envoyer des publicités ciblées. Ce faisant, elles peuvent inciter les gens à faire des achats inutiles dans leur sphère d’intérêt. En outre, ils peuvent influencer les personnes vulnérables dans leur comportement électoral en leur fournissant des informations erronées sur les candidats politiques. En conséquence, les médias sociaux modifient les résultats des élections, à la simple demande (et moyennant paiement) de tierces parties intéressées. (Brexit ?) Une situation particulièrement dangereuse est celle où ces données d’utilisateurs sont piratées. En outre, le potentiel de « censure sur mesure », qui permet de supprimer certaines idées, constitue un danger important pour la liberté d’expression.
Le principal danger supplémentaire lié à l’utilisation de ces données, outre les prix élevés, est que les entreprises dotées de telles capacités enrichissent les riches, mais pas les pauvres. Cela crée une plus grande disparité sociale en termes de richesse, de patrimoine et de pouvoir.
Problèmes de la jeunesse
Un phénomène social important de l’utilisation des médias sociaux est le phénomène d’anxiété et d’aliénation chez les jeunes. Jonathan Haidt en a parlé dans son livre « The anxious generation« .
Technique
Il existe des risques techniques de concentration du pouvoir technologique pour l’Europe et le monde. Ces risques sont les suivants :
L’innovation
Les petites entreprises innovantes peuvent avoir du mal à rivaliser avec les géants parce qu’elles ne disposent pas des budgets nécessaires. Il en résulte un étouffement de l’innovation, car les idées originales ne peuvent être développées que dans ces grandes entreprises. Il peut en résulter un manque de nouveaux produits et services pour les consommateurs, adaptés à leurs besoins exacts. Par conséquent, les grandes entreprises doivent toujours continuer à détecter les besoins des clients finaux. C’est pourquoi, au lieu d’innover elles-mêmes, les grandes entreprises technologiques peuvent choisir de racheter des jeunes pousses innovantes. Cela peut à nouveau conduire à une concentration des capacités d’innovation entre les mains d’une seule ou de quelques entreprises.
Dans la mesure où l’Europe dépend d’autres pays pour la technologie, comme le développement de systèmes informatiques et du matériel et des logiciels connexes, elle risque de perdre le contrôle de son propre avenir numérique. Cela peut entraîner une grande incertitude pour les innovations techniques futures, en raison de la vulnérabilité militaire, politique et économique à cause de ces pays tiers. Il n’est pas irréaliste de penser que les pays tiers ne fournissent pas certaines capacités de ces systèmes à d’autres pays. En conséquence, l’Europe pourrait prendre du retard par rapport à d’autres régions et perdre son potentiel d’innovation. Cela pourrait entraîner une perte d’emplois et de croissance économique, financière, sociale et scientifique.
Cybercriminalité
Vulnérabilité accrue des pays face aux cyberattaques ciblées, avec perturbation des infrastructures et autres menaces technologiques. Cela est possible parce que les cybercriminels peuvent se concentrer sur un petit nombre d’entreprises, les conséquences étant ressenties par leurs clients. L’évolution des soins de santé, par exemple, peut également en pâtir. En 2017, par exemple, WannaCry a ciblé des hôpitaux en Grande-Bretagne. Cela crée une dépendance à l’égard d’un nombre limité de fournisseurs de technologies. Cela conduit à un « verrouillage du fournisseur », ce qui rend le passage à des solutions alternatives extrêmement difficile.
Parmi les raisons possibles d’une vulnérabilité accrue, on peut citer l’absence de redondance avec d’autres solutions techniques, l’attrait des données collectées par les entreprises, un contrôle propre faible ou inexistant de leurs propres systèmes informatiques, les possibilités de corruption en vue d’une utilisation malveillante de la technologie à des fins sociales, économiques, environnementales ou autres. Cela peut entraîner d’énormes pertes financières, des atteintes à la réputation et des perturbations dans les services essentiels des entreprises et des gouvernements. Comme la cyberattaque contre Anvers en décembre 2022. Mutatis mutandis, il n’est pas difficile d’imaginer que des cyberattaques contre des infrastructures critiques pourraient mettre en péril la sécurité nationale.
Compatibilité
Les technologies des entreprises dominantes peuvent ne pas être compatibles entre elles. Par exemple, l’utilisation de normes différentes ou d’un système d’unités différent dans une équipe différente dans un pays différent. Il est donc difficile pour les organisations de collaborer et d’échanger des données. Cela peut entraîner des gaspillages. L’échec du projet de la NASA concernant l’orbiteur climatique de Mars en est un exemple.
Nature de la technologie en tant que facteur
L’impact peut varier considérablement en fonction de la technologie et du contexte. Le facteur le plus important est la nature de la technologie :
- Technologies essentielles à la vie quotidienne ou à la sécurité nationale
- Des technologies qui peuvent être utilisées à des fins civiles et militaires.
- L’impact des nouvelles technologies est difficile à prévoir.
Environnement
Les risques environnementaux liés à la concentration du pouvoir technologique en Europe et dans le monde sont divers. Les principaux risques sont les suivants :
Concours
Un manque de concurrence peut entraîner une diminution du nombre de nouvelles technologies susceptibles de réduire les pressions sur l’environnement. Les vers de farine et les bactéries qui digèrent le plastique, ainsi que les compagnies pétrolières qui recherchent des biocarburants à base d’algues, sont des exemples d’innovation (ou de manque d’innovation).
Transition énergétique
Limiter le développement durable en retardant la transition énergétique et en limitant l’accès aux technologies propres lorsque ces développements seraient financièrement défavorables. Cela pourrait rendre les pays en développement plus vulnérables aux effets du changement climatique et à d’autres menaces environnementales.
Politique
Outre ces risques spécifiques, la concentration du pouvoir (technologique) peut également affaiblir les politiques et réglementations environnementales. On en trouve un exemple dans les politiques des pays en développement qui autorisent l’extraction malsaine de minerais et de minéraux dans les mines. Dans ce cas, l’absence de concurrence au niveau de l’exploitation peut entraver le développement de techniques minières saines. De telles innovations nécessitent des investissements initiaux importants, avec des périodes d’amortissement plus longues.
Transparence et autres obstacles
Le développement de technologies nocives par une puissance technologique aux mains d’un petit nombre d’acteurs peut entraîner des déchets nuisibles à l’environnement. Par exemple, du chrome VI a été libéré lors de travaux effectués par PG&E.
Le manque de transparence et de contrôle sur le développement et l’utilisation des technologies peut avoir des conséquences négatives sur l’environnement. Un exemple qui a échappé à l’attention pendant un certain temps est celui des PFAS.
Les droits de propriété intellectuelle, le contrôle des ressources, les barrières commerciales, l’incompétence de l’assistance technique, mais surtout le fossé culturel et linguistique peuvent créer des problèmes en limitant l’accès aux technologies propres.
Les économies d’échelle ne cessent d’amplifier l’impact sur l’environnement. Le dernier jour de l’année après lequel la Terre peut se remettre de la consommation de ses ressources se déplace de plus en plus vers l’avant de l’année. Cela est dû à l’augmentation de la consommation absolue de ressources, à l’augmentation des déchets, au manque de flexibilité des entreprises face à l’évolution des exigences environnementales et à l’influence des chaînes d’approvisionnement mondiales. Il en résulte des impacts environnementaux tels que le changement climatique, la pollution et la perte de biodiversité, des problèmes de santé humaine et des écosystèmes, ainsi que des dommages économiques.
Intelligence artificielle
Certains domaines technologiques présentent des risques environnementaux spécifiques : l’intelligence artificielle (IA) entraîne une augmentation de la consommation d’énergie et des déchets électroniques.
Le fatalisme
Il est possible qu’il y ait une réduction globale de la sensibilisation et de la responsabilité environnementales, dans la mesure où les entreprises et les particuliers peuvent être moins enclins à se préoccuper de l’impact de leurs actions sur l’environnement s’ils ont le sentiment qu’il n’y a pas grand-chose à faire à ce sujet.
Économie et finances
La concentration du pouvoir technologique comporte des risques économico-financiers :
Concurrence
La première est la réduction de la concurrence. Par exemple, des prix plus élevés peuvent être demandés ou les entreprises commencent à entraver les produits concurrents. Il en résulte un ralentissement de la croissance économique et une diminution du nombre d’emplois. Dans l’histoire de Microsoft, une dynamique de compétitivité a été maintenue parce qu’il existe des pressions concurrentielles.
Les grandes entreprises qui occupent une position dominante sur le marché peuvent utiliser leur pouvoir pour promouvoir leurs propres intérêts au détriment de l’intérêt public. Cela peut conduire à une concurrence déloyale, à des abus de pouvoir sur le marché et à une perte de contrôle sur des technologies clés.
Une entreprise peut créer une concurrence déloyale en occupant une position de monopole. Le gouvernement intervient alors pour démanteler ces entreprises.
Dépendance
La société est trop dépendante des entreprises technologiques, surtout en ce qui concerne les technologies critiques. Cela entraîne le risque de pressions géopolitiques et de problèmes d’efficacité et d’efficience des chaînes d’approvisionnement (y compris techniques), ce qui a un impact négatif sur l’économie mondiale. L’industrie des puces électroniques, qui a été confrontée à des inondations en 2011, en est un exemple.
Utilisation abusive des données des utilisateurs
Des organisations criminelles peuvent pirater des entreprises disposant de nombreuses données sur les utilisateurs et les utiliser à mauvais escient pour les vendre à des tiers sur le dark web. On peut alors les acheter pour les utiliser, par exemple, à des fins de publicité ciblée.
Par ailleurs, grâce à la manipulation algorithmique, les plateformes de médias sociaux peuvent présenter du contenu aux utilisateurs plus fréquemment afin d’encourager les comportements d’achat. Cela aussi exploitera les émotions. En fait, il s’agit d’une application à la perte de vie privée et à la protection des données. Comme les entreprises technologiques possèdent de grandes quantités de données sur leurs utilisateurs, elles peuvent les utiliser par le biais de la psychométrie à des fins de publicité ciblée ou autres.
Politique
Les risques politiques liés à la concentration du pouvoir technologique sont notamment les suivants.
Concurrence et transparence
Le manque de concurrence dans le secteur technologique entraîne une concentration du pouvoir dans d’autres secteurs. Il en résulte des inégalités économiques et une perte de contrôle démocratique due au manque de transparence des applications technologiques telles que les algorithmes utilisés sur l’internet, par exemple. L’utilisation abusive de la technologie donne facilement lieu à des violations de la vie privée, à la propagation de la désinformation et à la cybercriminalité.
Bien-être
Cela conduit à la concentration du pouvoir, à l’inégalité et à la perte du bien-être psychologique et physique de l’individu. (Voir également le livre « The anxious generation » de Jonathan Haidt mentionné plus haut). Il en résulte, à plus grande échelle, une perte de richesse pour la société.
Le fatalisme
En gardant secrets leurs algorithmes et leurs traitements de données, il est difficile pour les gouvernements et les citoyens de contrôler ces technologies. Il est donc quasiment impossible de tenir les entreprises pour responsables de leur utilisation. Même en termes de législation.
Intérêt personnel
Ces entreprises peuvent imposer la censure si cela est nécessaire pour leur propre intérêt. La liberté d’expression, le respect de la vie privée et le droit à la libre concurrence sont ainsi compromis. Les grandes entreprises technologiques peuvent ainsi contrôler la diffusion de l’information, influencer les opinions politiques et éventuellement manipuler les élections. Ce dernier point est actuellement une crainte majeure à l’approche de nouvelles élections.
Les régimes autoritaires utilisent déjà les technologies pour contrôler socialement les citoyens ou réprimer les dissidents.
Accès limité et manque de coopération
Lorsque l’accès de l’Europe aux nouvelles technologies est limité et que le capital intellectuel fuit vers des pays plus rémunérateurs, l’accès aux nouvelles technologies innovantes est plus difficile. Par exemple, lorsque des versions sont mises sur le marché pour des pays autres que le pays de production. Il en résulte une perte de compétitivité politique, économique et scientifique. Ce protectionnisme, qui découle de la recherche de la suprématie technologique, peut donner lieu à de l’espionnage économique et militaire, et même à des (cyber)conflits. La recherche de la suprématie technologique peut donner lieu à des conflits commerciaux, à des embargos et à la division du monde en « blocs techno-politiques ». Le développement des armes atomiques en est un exemple depuis longtemps.
La coopération internationale est donc toujours confrontée à des défis politiques et éthiques. Il est donc plus difficile de parvenir à un consensus sur des normes et des règles communes.
Juridique
Les risques juridiques liés à la concentration du pouvoir technologique peuvent être divisés comme suit.
Limiter la concurrence
Les entreprises qui occupent une position dominante sur le marché peuvent restreindre la concurrence et étouffer l’innovation. Cela peut conduire à des enquêtes antitrust et à des amendes de la part du régulateur.
Les gouvernements peuvent favoriser les entreprises nationales en conservant les connaissances techniques dans leur propre pays. Les livres techniques sur la cryptographie, par exemple, dont certaines éditions sont réservées aux États-Unis et d’autres au reste du monde.
La restriction de la concurrence peut impliquer des pratiques monopolistiques qui peuvent conduire à une discrimination par les prix et à une réduction du choix des consommateurs.
L’abus de position dominante peut prendre la forme de ventes liées, d’accords d’exclusivité ou de prix d’éviction.
Les conséquences peuvent être des amendes et des sanctions, telles que le démantèlement forcé de l’entreprise ou la confiscation des actifs ; une atteinte à la réputation avec la perte de la confiance des clients et des investisseurs. En outre, des poursuites judiciaires avec dommages-intérêts peuvent en découler.
Utilisation abusive des droits de propriété intellectuelle
Dans le contexte de la concentration du pouvoir technologique, l’utilisation abusive des droits de propriété intellectuelle (PI) peut avoir des répercussions économiques importantes sur la concurrence et le secteur de la création. Les formes d’atteinte à la propriété intellectuelle à cet égard comprennent les produits contrefaits, les logiciels piratés, la violation des brevets, la violation des droits d’auteur, la violation des marques et la violation des noms commerciaux. Les conséquences de ces infractions sont des pertes financières, des atteintes à la réputation et une concurrence déloyale.
Violation de la protection des données
Les violations de la vie privée et de la protection des données peuvent se produire à la suite d’un piratage informatique, d’une atteinte à la protection des données ou d’une utilisation non autorisée des données. Les conséquences possibles pour les individus sont l’usurpation d’identité, les pertes financières, les atteintes à la réputation et les dommages émotionnels.
Les violations de la protection des données sont le non-respect des lois et règlements concernant les données à caractère personnel. Cela peut se traduire par des mesures de sécurité inadéquates, une utilisation négligente des données et un manque de transparence. Les conséquences possibles sont des amendes, des poursuites judiciaires, une atteinte à la réputation et une perte de confiance de la part des clients.
Inégalité juridique
Le renforcement de l’inégalité juridique est un dernier facteur important. Parmi les conséquences de l’inégalité d’accès à la technologie, on peut citer les litiges inéquitables, car l’accès aux logiciels juridiques confère un avantage disproportionné dans les affaires judiciaires. En outre, les algorithmes utilisés dans le système juridique sont discriminatoires à l’égard de certains groupes de personnes, en particulier ceux qui sont moins bien représentés dans les ensembles de données sur lesquels les algorithmes sont basés. SyRI en est un exemple.
De tels cas peuvent éroder la confiance dans le système juridique et renforcer l’inégalité sociale.
Démographie
Les problèmes démographiques liés à la concentration du pouvoir technologique sont avant tout une inégalité économique. D’autres problèmes peuvent en découler.
Inégalité économique et conséquences
En creusant le fossé entre les riches et les pauvres, une petite élite en profite au détriment du reste de la population. À l’extrême, un tel écart peut conduire à des troubles sociaux et à l’instabilité dans certains pays.
L’amplification du fossé entre les riches et les pauvres par la concentration du pouvoir technologique, en plus des éléments déjà mentionnés ci-dessus, peut s’accroître par des pertes d’emplois, notamment par l’automatisation et l’incapacité à travailler avec des solutions numériques.
C’est particulièrement vrai pour les personnes peu instruites ou celles qui travaillent dans des secteurs d’activité routiniers et répétitifs. Les emplois temporaires, les emplois à temps partiel et les petits boulots pourraient se multiplier. Ces emplois offrent moins de sécurité et d’avantages, ce qui favorise la pauvreté et l’inégalité.
En outre, dans de nombreux pays, elle réduit le pouvoir de négociation des travailleurs.
Les familles pauvres et les pays en développement ont également moins accès à l’éducation et au développement. Cela crée des désavantages sur le marché du travail dans un monde de plus en plus technologique. Par conséquent, ces ménages ont également moins accès au capital pour créer une entreprise.
Les problèmes démographiques coïncident souvent avec la situation géographique. Les ménages pauvres vivent souvent dans des zones où les opportunités sont moindres, les écoles médiocres et les possibilités d’emploi limitées. Cela peut entraîner des troubles sociaux. Gaza en est un exemple.
Autres problèmes consécutifs
Ces problèmes démographiques entraînent d’autres problèmes, tels que des effets négatifs sur la santé mentale et émotionnelle des personnes. Il peut s’agir d’une réaction au sentiment qu’ils n’ont aucun contrôle sur leur propre vie. Il peut s’agir du sentiment que le système est injuste, que les entreprises et les gouvernements n’assument pas leurs responsabilités ou n’en font pas assez.
En outre, la concentration de la puissance technologique peut conduire à la déstabilisation de régions. Cela se produit généralement lors de la recherche d’avantages quelque part, tels que les ressources, l’accès à l’eau ou les revendications territoriales.
Ces questions rendent plus difficile la mise en place d’une coopération internationale et la résolution des problèmes mondiaux.
Conclusion
Les solutions se trouvent au niveau mondial.
Le WEF indique, spécifiquement pour l’IA en tant que principale puissance technologique concentrée, ce qui suit : (+/- extrait du document 2024 Global Risk Report – WEF)
« Agir aujourd’hui :
Plusieurs cadres de gouvernance de l’IA ont déjà vu le jour au niveau mondial afin de fournir des orientations de haut niveau pour le développement de l’IA, notamment le processus le plus récent du G7 d’Hiroshima sur l’intelligence artificielle générative, ainsi que la déclaration de Bletchley. En outre, des appels ont déjà été lancés en faveur d’une « version IA » du GIEC.
Cette entité, en collaboration avec le secteur privé, pourrait permettre un consensus scientifique mondial sur les risques et les opportunités de l’IA d’avant-garde. De même, elle pourrait communiquer ses conclusions aux décideurs, sur la base des meilleures projections disponibles concernant le matériel et les logiciels d’IA au niveau mondial, même si les cycles d’évaluation sont nécessairement plus rapides. Le suivi pourrait également s’étendre à une base de données de rapports et à un registre des systèmes d’IA critiques. Le plus important de ces risques, cependant, exige une coopération étendue entre les puissances pour parvenir à une retenue mutuelle concernant la prolifération des technologies à fort impact, ainsi que l’escalade involontaire de l’IA militaire.