D’ici 2035, les systèmes numériques continueront d’être guidés par des motivations économiques (profit) et politiques (pouvoir). Cela risque d’entraîner une surveillance et une collecte de données visant à contrôler les individus plutôt qu’à leur donner les moyens d’agir librement, de partager leurs idées et de protester contre les préjudices et les injustices. (voir notre article sur la liberté internet en recul)
Les experts craignent que la conception éthique soit délaissée et que les systèmes numériques continuent d’être mis sur le marché avant d’avoir été testés de manière approfondie (un peu comme les vaccins). Ils estiment que tout cela risque d’accroître les inégalités et de compromettre les systèmes démocratiques.
Les inégalités vont encore s’accroître
De nouvelles menaces pour les droits vont apparaître à mesure que la protection de la vie privée deviendra plus difficile, voire impossible à garantir. Citons comme menaces imminentes :
- les progrès de la surveillance,
- les robots sophistiqués intégrés dans les espaces civiques,
- la propagation des deepfakes et de la désinformation,
- les systèmes avancés de reconnaissance faciale
- et l’élargissement des fractures sociales et numériques.
Une augmentation des crimes et du harcèlement est à prévoir ainsi que l’émergence de nouveaux défis pour l’autonomie et la sécurité des êtres humains. L’une des principales préoccupations est que l’IA de plus en plus sophistiquée risque d’entraîner des pertes d’emplois, ce qui se traduirait par une augmentation de la pauvreté et une diminution de la dignité humaine.
Source : The Global Risks Report 2025, 20th Edition, World economic forum
Les connaissances les plus pertinentes seront perdues dans un océan de désinformation et de mésinformation, ce qui fait que les faits seront de plus en plus difficiles à trouver au milieu d’un océan de distractions divertissantes, de mensonges et de manipulations ciblées.
Le déclin des capacités cognitives des individus
Les experts pensent que « la réalité elle-même sera assiégée » car les nouveaux outils numériques créeront de manière convaincante des réalités trompeuses ou alternatives. Ils craignent qu’une classe de « sceptiques » ne freine le progrès.
L’adoption des systèmes numériques à l’échelle humaine a déjà provoqué des niveaux élevés d’anxiété et de dépression, et la situation pourrait s’aggraver à mesure que la technologie s’intègre davantage dans la vie des gens et dans les structures sociales. Certains problèmes mentaux et physiques pourraient provenir de la solitude et de l’isolement social favorisés par la technologie ; d’autres pourraient résulter du fait que les gens remplacent les rencontres réelles par des « expériences » virtuelles ; d’autres encore pourraient être liés aux suppressions d’emplois et aux conflits sociaux qui en découlent ; enfin, certains pourraient être directement causés par des attaques technologiques.
Beaucoup craignent que les normes, les standards et la réglementation en matière de technologie n’évoluent pas assez rapidement pour améliorer les interactions sociales et politiques des individus et des organisations. Deux préoccupations majeures :
- la tendance à l’autonomisation des armes et à la cyberguerre,
- et la perspective d’une dérive des systèmes numériques.
Ils ont déclaré que la situation pourrait s’aggraver à mesure que le rythme des changements technologiques s’accélère. Ils s’attendent à ce que la méfiance entre les individus s’accroisse et que leur confiance dans les institutions se détériore. Cela pourrait aggraver les niveaux déjà indésirables de polarisation, de dissonance cognitive et de désengagement du public des débats essentiels. Les systèmes numériques deviennent trop importants et incontournables : tous les utilisateurs en deviennent prisonniers.
| Domaines d’évolution | Ce qui nous attend | Les espoirs des experts optimistes |
|---|---|---|
| Outils numériques centrés sur l’humain | Le numérique va envahir la réalité physique (robots, hologrammes, etc.) | Assistants personnels, améliorations dans la santé, l’éducation, les transports et l’énergie |
| ✊ Droits humains | L’IA va remplacer les avocats | Meilleur accès aux ressources, communication plus efficace et vie plus sûre pour tous |
| Savoir humain | L’IA va prendre les commandes de l’économie | Renaissance des sources d’information fiables et vérifiées |
| ❤️ Santé et bien-être | Les médecins généralistes vont commencer à utiliser l’IA, puis devant la pénurie de médecins c’est l’IA qui deviendra votre médecin | Égalité sanitaire avec attention aux besoins individuels et collectifs |
| Connexions humaines et gouvernance | On ignore encore la suite | Activités pro-sociales encouragées, protection renforcée de la vie privée |
Le saviez-vous ? Seuls 18% des experts sont surtout enthousiastes face aux changements technologiques à venir.
Daniel S. Schiff, professeur adjoint et codirecteur du Governance and Responsible AI Lab de l’université Purdue, a déclaré :
« Parmi les impacts les plus préoccupants de la vie numérique au cours de la prochaine décennie, on peut citer les violations techno-autoritaires des droits de l’homme, la fracture sociale et politique exacerbée par la technologie et la désinformation, les erreurs dans le domaine de l’IA sociale et de la robotique sociale, et la cristallisation de régimes de gouvernance médiocres qui empêchent des changements de paradigme plus importants dans la vie numérique humaine.
Comme c’est souvent le cas avec les technologies émergentes, nous pourrions voir apparaître des innovations sans tests ni réflexion suffisants, ce qui entraînerait des scandales et des préjudices, ainsi que des abus plus intentionnels de la part d’acteurs hostiles.
La manifestation la plus menaçante des technologies nuisibles serait peut-être la mise en place de régimes de surveillance hyper-efficaces par des acteurs étatiques dans des pays autoritaires, avec des outils associés également partagés avec d’autres pays par des acteurs étatiques et des entreprises peu scrupuleuses. Il est évident que la production massive de données humaines, associée à la biométrie et à la vidéosurveillance, peut créer des environnements qui entravent gravement les libertés fondamentales de l’homme.
Plus inquiétant encore, la sophistication des technologies numériques pourrait rendre les régimes techno-autoritaires si efficaces qu’ils paralyseraient même les possibilités de réaction, de résistance et de protestation du public, et entraîneraient un changement radical. »
Dans le pire des cas, les piliers du changement social, tels que les rassemblements physiques et numériques, le partage d’idées à l’intérieur et à l’extérieur des frontières et les établissements d’enseignement supérieur servant de centres de réforme, pourraient disparaître. Dans la mesure où des régimes malveillants sont capables de localiser et de prédire les idées et les individus dissidents, de manipuler profondément le flux d’informations et même de générer de nouvelles formes de désinformation persuasive ciblée et d’instiller la peur, certaines régions du monde pourraient se retrouver enfermées dans des statu quo particulièrement horribles. Même les efforts les moins fructueux dans ce domaine sont susceptibles de porter atteinte aux libertés et aux droits fondamentaux de l’homme, y compris ceux des minorités politiques, religieuses, ethniques et de genre.
La déshumanisation et la dissolution de la vie sociale
Nous avons assisté ces dernières décennies à l’effondrement de la confiance dans les médias d’information, à la prolifération de la désinformation et de la mésinformation, et à la fragmentation des groupes politiques conduisant à de nouveaux niveaux de polarisation affective et de déshumanisation des groupes extérieurs.
Il existe d’autres raisons de s’attendre à ce que les technologies numériques deviennent plus individualisées. Les recommandations algorithmiques sont susceptibles de devenir plus précises, et ces systèmes pourraient intégrer davantage de données, notamment des données biométriques, physiologiques, synthétiques et même génomiques. Parallèlement, des écrans plus grands, une conception intelligente de l’expérience utilisateur et les technologies de réalité virtuelle et de réalité augmentée pourraient rendre ces informations encore plus réelles et pressantes.
D’un point de vue pessimiste, cela signifie que les communautés qui amplifient nos pires pulsions et exploitent nos faiblesses, ainsi que les individus qui prônent la désinformation et la haine, sont susceptibles d’être plus efficaces que jamais pour trouver et persuader leur public. Nous pouvons nous attendre à la poursuite de certaines des tendances négatives favorisées par les technologies numériques au XXIe siècle, avec de nouvelles surprises à la clé.
« L’IA pourrait être le meilleur « kit du dictateur » jamais imaginé. George Orwell était optimiste : nous serons confrontés à une vigilance continue et éternelle, avec une visibilité sur tous les aspects de notre vie. »
Source : The Global Risks Report 2025, 20th Edition, World Economic Forum – Analyse de Daniel S. Schiff, Université Purdue
Le pouvoir des technologies sociales telles que les assistants virtuels et les grands modèles linguistiques commence également à devenir évident pour le grand public. Au cours de la prochaine décennie, il semble probable que nous atteindrons un point de basculement où l’IA sociale ou les robots incarnés seront largement utilisés dans des domaines tels que l’éducation, les soins de santé et les soins aux personnes âgées.
Ces outils seront encore nouveaux et leurs implications éthiques commencent seulement à être comprises. Malheureusement, il semble que davantage de technologie et d’innovation soient susceptibles d’exacerber les inégalités (sur certains aspects importants) dans le cadre de notre système économique actuel. Même si nous progressons, beaucoup resteront à la traîne. Cela pourrait être particulièrement vrai si l’IA provoque des effets d’accélération.
Les technologies puissantes qui arriveront à maturité au cours de la prochaine décennie seront gravement utilisées à mauvais escient dans une grande partie du monde, à moins que la tendance à l’autoritarisme et à l’autocratie ne s’inverse. Les technologies de surveillance sont actuellement peu réglementées. Pourtant, trop de gouvernements n’hésitent pas à violer les droits de leurs citoyens à l’aide de logiciels espions et d’autres technologies intrusives.
Les régimes répressifs accumuleront des dossiers numériques à grande échelle. Nous semblons actuellement destinés à voir l’émergence de la biométrie combinée à des bases de données de collecte de données faciales, de l’iris et des empreintes digitales.
Je suis également préoccupé par l’IA de mauvaise qualité, les armes biologiques et les robots tueurs. Il faudra probablement au moins une décennie pour distinguer l’IA utile de l’IA nuisible. Des armes létales autonomes seront opérationnelles bien avant 2035, notamment des essaims de drones dans les airs et en mer. Il nous incombera de conclure des traités limitant l’utilisation des robots tueurs.
L’IA rendra probablement les logiciels, actuellement très imparfaits, beaucoup plus sûrs, car la sécurité deviendra un élément central de leur conception. Cela prendra sans doute plus d’une décennie. Je m’attends à quelques pannes informatiques majeures d’ici là. Nous apprendrons peut-être aussi à ne pas intégrer des logiciels dans absolument tout ce qui nous entoure, comme nous semblons le faire actuellement. Peut-être que nous dépasserons le stade des sonnettes de surveillance.
Conclusion
La technologie n’est pas et n’a jamais été le problème. Ce sont les êtres humains. La technologie continuera à doter les êtres humains de pouvoirs divins, et j’aimerais avoir davantage confiance en notre bonne étoile…
Ma principale inquiétude est que l’acceptation des algorithmes génératifs et des systèmes autonomes aura de graves conséquences sur la vie et le bonheur des êtres humains. Les systèmes d’armes autonomes utilisés plus ouvertement dans les conflits actuels (comme en Ukraine et en Russie) favoriseront l’acceptation de systèmes d’armes spatiaux et d’autres systèmes d’armes plus globaux. De même, l’engouement actuel pour l’IA générative nous préparera au développement d’une génération beaucoup plus impactante d’aliments expérimentaux, de matériaux de construction, de nouveaux organismes et d’humains modifiés.
Les inégalités en sortiront transformées par les technologies numériques. Par exemple, les problèmes peuvent inclure une représentation biaisée des identités raciales, de genre, ethniques et sexuelles dans les jeux ou d’autres médias. Cela peut également inclure la manière dont un jeu ou une communauté virtuelle est conçu et le ton culturel qui y est établi. Si les gouvernements n’agissent pas pour réduire les inégalités flagrantes de l’économie moderne, cela pourrait entraîner de graves problèmes, non pas tant en raison de l’automatisation que de la répartition inégale des bénéfices du travail.
Un État voyou pourra construire des machines à tuer autonomes qui auront des conséquences désastreuses et imprévues. Je m’attends également à ce que les détenteurs de capitaux acquièrent encore plus de pouvoir et de richesse grâce aux progrès de l’IA, de sorte que les inégalités qui en résulteront polarisent et déstabilisent davantage le monde.
L’IA pourrait être le meilleur « kit du dictateur » jamais imaginé. L’auteur George Orwell était optimiste, car il n’envisageait qu’une surveillance éparse par des observateurs humains. Au contraire, nous serons confrontés à une vigilance continue et éternelle, avec une visibilité sur tous les aspects de notre vie. L’IA autoritaire a le potentiel de produire les comportements humains les plus inhumains jamais imaginés.
La plus grande menace est la facilité avec laquelle une société surveillée peut être soumise à une autocratie, ainsi que la facilité avec laquelle un individu peut perdre le sentiment de son humanité en étant privé de toute sphère privée.
