Cet article vise à présenter les impacts de la superintelligence artificielle sur la société, en soulignant ses avantages et ses inconvénients et ce qu'il faut faire pour éliminer ou neutraliser ses conséquences néfastes. La superintelligence artificielle sera la première technologie susceptible de surpasser l’humain dans toutes les dimensions d’ici le milieu du 21e siècle. Un large éventail de conséquences pourraient survenir, y compris des conséquences extrêmement bonnes ou bénéfiques et des conséquences aussi mauvaises ou nuisibles que la menace d'extinction de l'espèce humaine. Les avantages innombrables sont et seront apportés par la superintelligence artificielle dans la gestion d’entreprise, l’ingénierie, la médecine et également dans l’industrie spatiale, entre autres. Dans l’industrie spatiale, les missions robotiques de la NASA et d’autres agences spatiales utilisent déjà l’intelligence artificielle pour rendre la vie humaine possible sur d’autres planètes. La superintelligence artificielle sera en mesure de fournir à l’humanité les ressources nécessaires pour faire face aux menaces internes pesant sur sa survie et aux menaces venues de l’espace. Cependant, toute une série de conséquences néfastes pourraient survenir, comme l'aggravation du chômage de masse liée à l'automatisation à grande échelle des systèmes de production, avec son application à des fins militaires, c'est-à-dire pour la cyberguerre dans la course aux armements dans le monde, y compris l'extinction de l'espèce humaine. Les risques de la Superintelligence Artificielle imposent la nécessité de sa régulation pour éviter ses conséquences néfastes. Récemment, l’Union européenne a fait un grand pas en établissant des règles – les premières au monde – sur la manière dont les entreprises peuvent utiliser l’intelligence artificielle. C'est un mouvement qui ouvre la voie à des normes mondiales pour une technologie utilisée dans tout. Que des réglementations similaires soient adoptées partout dans le monde.

1. 1
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET
QUE FAIRE POUR ÉVITER SES IMPACTS NUISIBLES SUR LA SOCIÉTÉ
Fernando Alcoforado*
Cet article vise à présenter les impacts de la superintelligence artificielle sur la société, en
soulignant ses bénéfices et ses nuires et ce qu'il faut faire pour éliminer ou neutraliser ses
conséquences néfastes. Cet article complète notre article publié sous le titre Comment
fonctionnent l'intelligence artificielle et ses logiciels et algorithmes intelligents. La
croissance technologique effrénée de la super intelligence artificielle représente une
singularité technologique. La singularité technologique est atteinte lorsqu'une machine
ultra-intelligente peut surpasser toutes les activités intellectuelles de tout homme le plus
intelligent. Tant qu’une machine ultra-intelligente pourra concevoir des machines encore
meilleures, il y aura sans aucun doute une « explosion de l’intelligence » et l’intelligence
humaine sera laissée pour compte. Ainsi, la première machine ultra-intelligente serait la
dernière invention que l’homme aurait besoin de réaliser. Les experts estiment que
l’intelligence artificielle atteindra celle des humains d’ici 2050, grâce à une nouvelle ère
dans leur capacité d’apprentissage. Les ordinateurs commencent déjà à assimiler les
informations issues des données collectées. Cela signifie que nous créons des machines
capables d'apprendre elles-mêmes et de communiquer en simulant la parole humaine [1].
La superintelligence artificielle sera la première technologie à potentiellement surpasser
les humains dans toutes les dimensions. Jusqu’à présent, les humains avaient le monopole
de la prise de décision et contrôlaient donc tout. Avec la superintelligence artificielle, cela
pourrait prendre fin. Un large éventail de conséquences pourraient survenir, y compris
des conséquences extrêmement bonnes ou bénéfiques et des conséquences aussi
mauvaises ou nuisibles que la menace d'extinction de l'espèce humaine [1].
Les bénéfices apportés par l’intelligence artificielle
La superintelligence artificielle offre et offrira d’innombrables bénéfices. Un réseau
neuronal issu d'un système d'Intelligence Artificielle est capable d'analyser plus d'un
milliard de données en quelques secondes, ce qui en fait un outil incroyable pour aider un
décideur au sein d'une organisation, garantissant ainsi la meilleure option parmi celles
possibles. Comme les données collectées sont constamment mises à jour, les systèmes
d'Intelligence Artificielle mettent également toujours à jour leurs résultats, permettant aux
managers d'avoir accès à des informations récentes sur les variations intervenant dans
l'environnement d'une organisation. L'apprentissage automatique est un domaine de
l'informatique qui donne aux ordinateurs la capacité d'apprendre sans être explicitement
programmés. Dans l’analyse des données, l’apprentissage automatique est une méthode
utilisée pour concevoir des modèles et des algorithmes complexes qui se prêtent à la
prédiction. En usage commercial, on parle d’analyse prédictive. Ces modèles analytiques
permettent aux chercheurs, aux data scientists, aux ingénieurs et aux analystes de «
produire des décisions et des résultats fiables et reproductibles » et de découvrir des «
informations cachées » en apprenant les relations historiques et les tendances des données
[1].
Les ordinateurs peuvent désormais effectuer des calculs d’ingénierie complexes, négocier
des actions en bourse en quelques millisecondes, les voitures automatisées font de plus
en plus leur apparition dans nos rues et les assistants artificiellement intelligents ont

2. 2
envahi nos maisons. Les années à venir nous présenteront encore plus d’avancées, avec
la superintelligence artificielle grâce à des machines capables d’apprendre de leurs
propres expériences, de s’adapter à de nouvelles situations et de comprendre les
abstractions et les analogies. L’intelligence artificielle à l’échelle humaine a de bonnes
chances d’être développée d’ici le milieu du 21e siècle, ce qui pourrait aboutir à la
superintelligence artificielle [1]. L’intelligence artificielle (IA) est déjà largement utilisée
dans les systèmes de production. L’intelligence artificielle peut remplacer les humains
dans les activités de production et peut également augmenter au maximum la productivité.
Les nouveaux systèmes de production permettent de rendre le processus de travail auto-
adaptatif, créant les conditions du travail en commun, du travail en équipe, du travail
homme-machine. De nos jours, pour exécuter des commandes personnalisées et faire face
aux fluctuations de la demande d'un système de production, les travailleurs peuvent
partager avec des robots l'exécution de nouvelles tâches sans avoir à surveiller
manuellement aucun processus de production. Les modifications sont traitées
automatiquement. Les progrès ne se produisent pas uniquement dans la production
industrielle. Les systèmes d’intelligence artificielle sont présents dans de nombreux
secteurs d’activité. Le potentiel de l’intelligence artificielle pour transformer de vastes
secteurs économiques est sans précédent dans l’histoire de l’humanité [5].
Selon les données présentées par Accenture dans l'une de ses études, d'ici 2035, l'IA
contribuera à une augmentation allant jusqu'à 40 % de la productivité dans le secteur
industriel, réduisant ainsi les coûts et augmentant la production manufacturière dans le
monde entier. Le panorama actuel des systèmes d'IA leur permet de comprendre
l'ensemble du processus de production et d'affaires et d'identifier automatiquement quels
sont les principaux problèmes à résoudre [5]. Les systèmes de production modernes
exigent que les travailleurs travaillent avec des machines intelligentes pour explorer ce
que les deux font de mieux. Des travailleurs sont nécessaires pour développer, former et
gérer diverses applications d’intelligence artificielle. En agissant ainsi, les travailleurs
permettraient aux systèmes de production de fonctionner comme de véritables
partenaires. À leur tour, les machines intelligentes aideraient les travailleurs à accroître
leur capacité de production, comme la capacité de traiter et d’analyser de grandes
quantités de données provenant d’une myriade de sources en temps réel. Les machines
intelligentes augmentent les capacités humaines. Les machines et les travailleurs
intelligents peuvent devenir des partenaires qui collaborent les uns avec les autres pour
augmenter leurs niveaux de performance [5].
Les principales applications de l'intelligence artificielle en gestion aujourd'hui sont les
suivantes : 1) Les chatbots qui utilisent le langage pour parler aux gens de manière
naturelle et préprogrammée, reconnaître les noms et les numéros de téléphone et
reproduire le comportement humain ; 2) Des applications de gestion utiles pour identifier
les employés qui exécutent les tâches de manière plus efficace et, avec ce type d'outils,
pour aider les gestionnaires à prendre des décisions ; 3) Assistant personnel utilisé pour
planifier les réunions, les horaires et les activités quotidiennes, l'un des plus connus étant
Siri présent dans les produits Apple ; 4) Mécanismes de sécurité tant lors d'attaques
numériques que dans des situations quotidiennes, telles que des événements. Du côté du
numérique, l’exemple le plus courant est celui des services bancaires par Internet ; 5)
Prédictions avec des machines équipées d'intelligence artificielle qui peuvent être
utilisées dans des campagnes marketing, par exemple, pour prédire différents scénarios

3. 3
et résultats possibles. A partir des données capturées, le manager disposera de plus
d'informations pour déterminer les chemins que l'entreprise devra suivre en fonction du
résultat attendu de la stratégie ; 6) Ventes et marketing pour fournir un service client de
meilleure qualité. La personnalisation du service client apporte praticité et confort.
L'apprentissage automatique est une application dans laquelle le système apprend à agir
seul sans avoir à être programmé pour la nouvelle fonction ; 7) Enseignement dans lequel
la technologie informatique est utilisée comme un « enseignant » disponible pour les
étudiants 24 heures sur 24 [6].
En Ingénierie, les principales applications sont les suivantes : 1) Tâches courantes avec
utilisation d'un robot capable de reproduire diverses tâches humaines sur un chantier,
comme la manipulation de matériaux de construction et l'assemblage systématique de
structures avec une précision millimétrique avec un taux d'erreur proche de zéro; 2) Big
Data, qui est une technologie qui peut être appliquée pour analyser la situation de la
construction sur les chantiers les plus divers ; 3) Impression 3D pour assembler des
structures prémoulées et préfabriquées ; 4) Bâtiments intelligents avec Intelligence
Artificielle qui, en plus du projet de structure physique, prévoit une infrastructure
intelligente, capable de faciliter la vie des utilisateurs ; 5) Une gestion plus efficace grâce
à l'utilisation du Robot Process Automation (RPA), qui est un robot créé pour manipuler
des systèmes numériques, croiser les données et éliminer les erreurs qui se produiraient
si une personne assumait cette tâche ; et 6) Service client pour programmer les robots du
service client [6].
En Médecine, les principales applications de l'intelligence artificielle à l'heure actuelle
sont les suivantes : 1) Chirurgie robotique assistée par l'IA grâce à laquelle des robots
peuvent analyser les données des dossiers médicaux préopératoires pour guider
l'instrument du chirurgien pendant une intervention chirurgicale considérée comme «
mini-invasive » pour les patients; 2) Des infirmières auxiliaires virtuelles dans
lesquelles des infirmières virtuelles seront disponibles et pourront répondre aux
questions, surveiller les patients et fournir des réponses rapides ; 3) Aide au jugement
clinique ou au diagnostic dans lequel des algorithmes examinent les dossiers médicaux,
les habitudes et les informations génétiques des patients ; 4) Flux de travail et tâches
administratives avec l'utilisation de technologies qui peuvent aider à ordonner des
examens, à prescrire des médicaments et à rédiger des notes sur des graphiques ; et 5)
Analyse d'images médicales à l'aide d'un algorithme capable d'analyser des scans 3D
jusqu'à 1 000 fois plus rapidement que ce qui est possible aujourd'hui [6].
L'intelligence artificielle (IA) est largement utilisée par l'industrie spatiale dont les
applications sont décrites ci-dessous [4] :
1) Exploitation des satellites : l’IA est notamment utilisée pour assister l’exploitation de
grandes constellations de satellites et minimiser les erreurs humaines et les coûts
d’exploitation du personnel. Les agences spatiales telles que la NASA nord-américaine
et l'ESA européenne ont développé de nouvelles procédures d'automatisation basées sur
l'IA pour réduire la charge de travail des opérateurs. L'automatisation des segments
terrestres et spatiaux réduira le besoin d'intervention humaine, en particulier pour les
grandes constellations et les voyages interplanétaires, comme les systèmes de manœuvres
automatisés pour éviter les collisions.

4. 4
2) Traitement des données d'observation de la Terre : Les satellites d'observation de
la Terre ont aujourd'hui la capacité de capturer un volume élevé de données. Cependant,
ce facteur augmente la demande en systèmes de gestion, de stockage et de traitement des
données. Le processus de transmission descendante (signal de télécommunication ou
informations qu'il transmet) des données satellitaires vers les stations au sol se heurte
encore, dans une certaine mesure, à des limites, allant des limites fondamentales sur le
nombre de fois qu'un satellite peut survoler un emplacement spécifique, la couverture
des stations au sol et même les limitations d'interopérabilité entre les systèmes du segment
sol et les applications des utilisateurs finaux. Ce qui est très courant de nos jours, c'est la
formation de modèles d'IA pour détecter les nuages et corriger les images qu'ils
recouvrent. De plus, ces modèles sont également entraînés pour analyser facilement un
grand nombre de données et identifier des objets.
3) Voyage interplanétaire : Les rovers les plus récemment lancés pour explorer Mars
disposent d'ordinateurs embarqués équipés d'une IA qui leur permet de naviguer de
manière autonome et de prendre des décisions s'ils ne disposent pas de communication
ou de commandes humaines pendant un certain temps.
Les missions robotiques de la NASA et d'autres agences spatiales utilisent déjà
l'intelligence artificielle pour obtenir une plus grande efficacité et des résultats de
meilleure qualité dans leurs recherches. A titre d'exemple, on peut citer les rovers (avec
capacité de locomotion, pour analyser une plus grande zone d'une planète ou d'une lune)
et les atterrisseurs (qui atterrissent sur une planète ou une lune pour l'analyser in situ) qui
examinent les cratères martiens et les sondes et télescopes spatiaux dédiés à la découverte
et à l'analyse des exoplanètes (mondes existant dans d'autres systèmes stellaires). Les
technologies utilisées dans le programme Artemis sont également équipées d'algorithmes
d'apprentissage automatique spécifiques, depuis les instruments les plus basiques
jusqu'aux combinaisons qui seront utilisées par les astronautes lors des missions habitées
sur la Lune, notamment en ce qui concerne les ressources de survie. Le programme
Artemis développé par la NASA vise à emmener à nouveau les humains à la surface de
la Lune. Le programme vise à approfondir la recherche sur notre satellite naturel et le
système solaire, en plus d'augmenter le temps passé par les astronautes dans l'espace
comme une partie importante de la préparation d'une prochaine grande mission destinée
à la planète Mars.
Déjà présente dans plusieurs missions d’exploration spatiale, l’Intelligence Artificielle
pourrait rendre la vie humaine possible sur d’autres planètes. Pour que les êtres humains
puissent vivre et surtout survivre n'importe où en dehors de la Terre, le monde choisi doit
offrir des conditions identiques ou, du moins, similaires à celles de notre planète (comme
l'atmosphère, la température, la topographie, etc. .). Mars ni aucune autre planète du
système solaire n'est semblable à la Terre, c'est pourquoi, pour rendre possible sa
colonisation, il est nécessaire de la « terraformer », c'est-à-dire de reproduire à cet endroit
un environnement qui offre les conditions minimales pour le survie de l'espèce humaine.
La terraformation sera l'une des avancées de la nouvelle ère de l'exploration spatiale, avec
une participation fondamentale de l'intelligence artificielle. La terraformation (adaptation
de l'atmosphère, de la température, de la topographie et de l'écologie d'une planète ou d'un
satellite naturel pour le laisser en mesure de supporter un écosystème avec des êtres de la
Terre) n'est qu'une des avancées attendues pour la nouvelle ère de l'exploration spatiale,

5. 5
en en plus de l'augmentation des nouveaux matériaux et de la production de systèmes de
propulsion de fusée complexes et de pointe. L’Intelligence Artificielle est présente dans
toutes les chaînes de l’industrie spatiale. Sans cela, il est impossible d’avancer [4].
Il convient de noter que l’intelligence artificielle dans l’exploration spatiale est à l’origine
de l’évolution et de l’utilisation de différentes technologies sur Terre. L'exploration
spatiale favorise une avancée notable de la science, notamment dans la recherche de
nouveaux matériaux et procédés. L’intelligence artificielle est utilisée dans toutes les
chaînes de l’industrie spatiale. Sans cela, il est impossible d’avancer. Par exemple,
appliquer un modèle biochimique dans l’espace est complètement différent de le faire sur
Terre. Cela ouvre la voie au développement de nouveaux médicaments et traitements. Les
défis humains liés à la conquête de l’espace conduisent à la résolution de problèmes
complexes, bénéficiant à l’ensemble de l’humanité. Avec les progrès de l’informatique
quantique (qui utilise la mécanique quantique pour résoudre des problèmes complexes
plus rapidement qu’avec les ordinateurs traditionnels) indispensable pour des voyages
spatiaux plus complexes, l’humanité connaîtra très probablement l’avènement de la 5ème
révolution industrielle qui aura lieu dans l’espace [4].
L'intelligence artificielle peut contribuer de manière décisive au progrès scientifique et
technologique, visant à fournir à l'humanité les ressources nécessaires pour faire face à
ses problèmes de survie [2]. La superintelligence artificielle pourrait contribuer de
manière décisive au progrès scientifique et technologique, visant à fournir à l'humanité
les ressources nécessaires pour faire face aux menaces internes à sa survie causées par les
forces de la nature provenant de la planète Terre (refroidissement du noyau de la planète,
pouvant entraîner la perte de le champ magnétique terrestre, éruption de super-volcans,
réversion des pôles magnétiques terrestres au cours de laquelle il y aura perte du champ
magnétique terrestre, changement climatique et pandémies), menaces pour la survie de
l'humanité venant de l'espace (impact des astéroïdes et des comètes sur la planète Terre,
l'émission de rayons cosmiques sur Terre, notamment de rayons gamma issus de
l'explosion d'étoiles supernovae, collision sur la planète Terre de planètes orphelines,
l'éloignement de la Lune par rapport à la Terre, la collision entre les galaxies
d'Andromède et de la Voie lactée, la mort du Soleil et la fin de l'Univers dans lequel nous
vivons), ainsi que permettre la colonisation humaine de nouveaux habitats dans le
système solaire et au-delà en quête de survie. Avec des machines plus intelligentes que
les humains, avec la Super Intelligence Artificielle, l'humanité pourra les utiliser pour
résoudre des problèmes scientifiques et technologiques qui assurent la survie de l'espèce
humaine même avec la fin de l'Univers dans lequel nous vivons en ouvrant la voie aux
universes parallèles.
L'évolution humaine doit s'appuyer sur la science et la technologie. À mesure que les
technologies informatiques progressent parallèlement à la biotechnologie, on observe une
convergence croissante entre les deux sous la forme d'interfaces neuronales qui, à l'avenir,
pourraient ouvrir la porte à la connexion directe de l'esprit humain à l'intelligence
artificielle afin de faciliter un meilleur apprentissage, un meilleur transfert mental et de
surmonter les problèmes neurologiques conditions. Cela signifie que la science et la
technologie contribueraient à l’évolution humaine elle-même et en feraient une évolution
dirigée et planifiée. Cette évolution ne serait pas seulement biologique, mais aussi
technologique. La science et la technologie permettraient également la manipulation

6. 6
génétique de l'espèce humaine avec la création possible en laboratoire de nouveaux gènes
qui modifieraient le code génétique pour être capables de bloquer la réplication des virus,
rendant nos cellules immunisées contre les attaques. Ce serait l’un des moyens de protéger
les êtres humains des futures pandémies. La modification du génome humain allait
progressivement s'accentuer jusqu'à transformer finalement l'être humain en une nouvelle
espèce biologique. La superintelligence artificielle jouerait un grand rôle à cet égard [2].
La superintelligence artificielle pourrait donc contribuer à réaliser des avancées
scientifiques et technologiques (biotechnologies, nanotechnologies et neurotechnologies)
pour augmenter les capacités cognitives et surmonter les limitations physiques et
psychologiques des êtres humains.
Le mal causé par l’intelligence artificielle
La superintelligence artificielle sera la première technologie à potentiellement surpasser
les humains dans toutes les dimensions. Jusqu’à présent, les humains avaient le monopole
de la prise de décision et contrôlaient donc tout. Avec la superintelligence artificielle, cela
pourrait prendre fin. Un large éventail de conséquences pourraient survenir, y compris
des conséquences extrêmement bonnes comme celles décrites dans les paragraphes
précédents et des conséquences aussi graves que l'extinction de l'espèce humaine [1].
Même si la superintelligence artificielle produit des bénéfices pour l’humanité, il existe
un risque qu’elle soit utilisée pour le mal et pas seulement pour le bien de l’humanité. La
conséquence immédiate des progrès de l’intelligence artificielle est l’augmentation du
chômage. Cet effet social négatif se produit déjà et est inévitable car il résulte de forces
économiques incontrôlables. L'intelligence artificielle est positive pour le capitaliste qui
l'utilisera pour affronter ses concurrents de manière plus compétitive car elle apporterait,
entre autres avantages, une augmentation de sa productivité et une réduction de ses coûts.
Cependant, cela serait également extrêmement négatif pour le système capitaliste car cela
tendrait à réduire les revenus disponibles pour la masse des travailleurs exclus de la
production, contribuant ainsi à une baisse de la demande de produits et de services et, par
conséquent, des profits réalisés [ 3] . L’impact de l’intelligence artificielle sur la société
serait dévastateur avec un chômage de masse résultant de son utilisation à grande échelle
[1]. Ce n’est certainement pas sous le capitalisme que le monde pourra concilier les
merveilles de la science et de la technologie avec la fin de l’emploi. Il faudra inventer un
autre système économique pour remplacer le capitalisme, dans lequel la science et la
technologie agiront pour libérer l'humanité du fardeau du travail et promouvoir le progrès
économique et social [2].
Il existe des scénarios extrêmement négatifs liés à l’utilisation de l’intelligence
artificielle. La superintelligence artificielle pourrait représenter l'extinction de la race
humaine, selon le scientifique Stephen Hawking qui a publié un article traitant de cette
question le 1er mai 2014 dans le journal The Independent. Hawking a déclaré que les
technologies se développent à un rythme si vertigineux qu’elles deviendront
incontrôlables au point de mettre l’humanité en danger. Hawking conclut : aujourd’hui,
il serait temps d’arrêter ; Demain, il serait trop tard. Le développement aveugle de
l’intelligence artificielle pourrait signifier la fin de l’humanité [1]. Longtemps reléguée
aux registres de la science-fiction, la peur de l'intelligence artificielle est ancrée depuis
quelques années dans le débat public, associée à la fois à l'automatisation massive des
métiers et au chômage de masse, mais aussi à la perspective non moins terrifiante des

7. 7
robots tueurs [1 ]. Outre le philosophe et chercheur Nick Bostrom et Elon Musk, fondateur
des sociétés Tesla et SpaceX, plusieurs personnalités multiplient les alertes sur le risque
existentiel que feraient peser sur l’humanité des machines « super intelligentes » et
potentiellement incontrôlables. Pour le propriétaire de Tesla, son danger serait encore
plus grand que celui de la bombe atomique [1]. Nick Bostrom déclare dans son livre
Superintelligence que la superintelligence artificielle représente un risque qui menace
l'extinction prématurée de la vie intelligente sur Terre, ou la destruction permanente et
drastique de son potentiel de développement futur souhaitable [1].
Les progrès technologiques en cours basés sur l’intelligence artificielle auront un impact
négatif sur le monde du travail car ils pourraient conduire à la fin de l’emploi et à la baisse
conséquente de la demande de biens et de services, remettant également en question le
capitalisme en tant que système mondial. Cela signifie que les progrès scientifiques et
technologiques pourraient conduire à l’effondrement du système capitaliste mondial, ce
qui indiquerait la nécessité d’inventer un nouveau système économique. En plus des
méfaits du chômage causés par les progrès de l’intelligence artificielle, il existe des
scénarios extrêmement négatifs tels que des machines superintelligentes elles-mêmes
décidant de détruire des êtres humains, mettant par exemple fin à notre civilisation et à
nos infrastructures [2].
Il est probable que les cerveaux artificiels dépasseront l’intelligence du cerveau humain
d’ici 2050 avec l’avènement de la superintelligence artificielle. Cette nouvelle
superintelligence pourrait devenir très puissante. Le sort de l’humanité dépendrait donc
des actions de ces machines super intelligentes. Même si la superintelligence artificielle
produit des bénéfices pour l'humanité, il existe un risque qu'elle soit utilisée davantage
pour le mal et non pour le bien de l'humanité, avec une tendance à son plus grande
application à des fins militaires, c'est-à-dire pour la cyberguerre dans la course aux
armements en le monde. Avec la Superintelligence Artificielle, un large éventail de
conséquences pourraient survenir, y compris des conséquences extrêmement bonnes et
des conséquences aussi mauvaises que l'extinction de l'espèce humaine si elle se retourne
contre les humains [4].
Que faire pour éviter les impacts néfastes de l’intelligence artificielle sur la société
Grâce aux progrès de l’intelligence artificielle, le monde est confronté à de gigantesques
transformations. C’est une nouvelle ère dans laquelle les règles fondamentales qui
régissaient les activités des organisations sont en train d’être réécrites. Les systèmes
d’intelligence artificielle ne consistent pas seulement à automatiser de nombreux
processus pour les rendre plus efficaces. Ces systèmes d’Intelligence Artificielle font
traverser au monde une transition fondamentale avec des machines qui dépassent leur rôle
historique d’outils en se transformant en « travailleurs autonomes ». En conséquence, les
systèmes d’Intelligence Artificielle changent la véritable nature du travail, qui nécessite
que la gestion des opérations avec les machines et les travailleurs soit traitée d’une
manière très différente par rapport au passé [1].
Comme les systèmes productifs utilisent des machines intelligentes, ils nécessitent des
travailleurs formés aux logiciels intelligents pour pouvoir former et utiliser des robots
collaboratifs, ainsi qu'au génie logiciel (programmes) et à l'informatique. Cela signifie
que l’éducation à tous les niveaux doit être structurée pour préparer les étudiants au

8. 8
monde du travail qui exige des travailleurs possédant la formation nécessaire pour
manipuler des machines intelligentes. Tout cela suggère que nous vivons une transition
qui exerce d’énormes pressions sur l’économie et la société. L’éducation proposée sous
sa forme actuelle aux travailleurs et aux étudiants se préparant à entrer sur le marché du
travail risque d’être inefficace. En d’autres termes, les systèmes éducatifs préparent les
travailleurs à un monde du travail qui cesse d’exister [5].
L'avenir du travail dans un monde doté d'Intelligence Artificielle nécessite l'adoption de
nouvelles mesures visant à qualifier la main-d'œuvre, qui doit savoir utiliser cette
technologie comme un outil, en complément de ses compétences. Certaines fonctions sont
attribuées à des machines et systèmes intelligents. De nouvelles fonctions pour les êtres
humains émergent dans ce nouveau scénario. Il appartient aux planificateurs du système
éducatif d'identifier le rôle de l'être humain dans le monde du travail de demain pour
opérer une vaste révolution dans l'éducation à tous les niveaux, y compris la qualification
des enseignants et la structuration des unités d'enseignement pour préparer leurs étudiants
à un monde du travail dans lequel les individus devront composer avec des machines
intelligentes. Pour mettre en œuvre une nouvelle éducation, il est essentiel de commencer
à identifier les compétences nécessaires pour travailler au 21e siècle et d'adapter le
système éducatif obsolète pour former des citoyens plus capables à l'ère de l'intelligence
artificielle [5].
Les risques de la Superintelligence Artificielle imposent la nécessité de sa régulation pour
éviter ses conséquences néfastes [4]. La superintelligence artificielle nécessite le
développement de meilleurs mécanismes de contrôle. Il est nécessaire de disposer de ces
mécanismes de contrôle avant de créer des systèmes intelligents en attirant dans ce
domaine les plus grands experts en mathématiques et en informatique. Il doit y avoir une
forte collaboration en matière de recherche entre la communauté de la sécurité et la
communauté de développement de la superintelligence artificielle, et toutes les parties
impliquées doivent intégrer le principe du bien commun dans tous les projets
d'intelligence artificielle à long terme. Il s’agit d’une technologie unique qui doit être
développée pour le bien commun de l’humanité [1]. Des centaines d'éminents
scientifiques et chercheurs en intelligence artificielle ont averti que cette technologie
présente un risque d'extinction pour l'humanité, et plusieurs personnalités, dont le
président de Microsoft Brad Smith et le PDG d'OpenAI, Sam Altman, ont appelé à une
plus grande réglementation [4 ].
Longtemps reléguée aux registres de la science-fiction, la peur de l'intelligence artificielle
est ancrée depuis quelques années dans le débat public, associée à la fois à
l'automatisation massive du secteur productif et au chômage de masse et à la perspective
de contribuer à la production d'armes toujours plus nombreuses et la production non
moins terrifiante de robots tueurs. Cette situation impose la nécessité de développer des
mécanismes de contrôle pour la superintelligence artificielle et les systèmes intelligents
en général. Récemment, l’Union européenne a fait un grand pas en établissant des règles
– les premières au monde – sur la manière dont les entreprises peuvent utiliser
l’intelligence artificielle. C'est un mouvement qui ouvre la voie à des normes mondiales
pour une technologie utilisée dans tout. Que des réglementations similaires soient
adoptées partout dans le monde [4].

9. 9
On pourrait adopter les dix étapes pour contenir les risques de superintelligence
artificielle décrites ci-dessous [7] :
1. Sécurité technique - Adoption de mesures techniques concrètes pour atténuer
d'éventuels dommages et maintenir le contrôle.
2. Audits - C'est un moyen de garantir la transparence et la responsabilité de la
technologie.
3. Goulots d'étranglement - Création de leviers pour ralentir le développement et donner
du temps aux régulateurs (gouvernements) pour agir et développer des technologies
défensives.
4. Créateurs – Obtenir l'assurance que les développeurs de technologies insèrent des
contrôles appropriés dès le début.
5. Entreprises – Aligner les incitations des organisations derrière la technologie avec son
confinement.
6. Gouvernement – Action efficace pour réglementer la technologie et mettre en œuvre
des mesures d’atténuation.
7. Alliances- Création d'un système de coopération internationale pour harmoniser les lois
et les programmes.
8. Culture- Partager les apprentissages et les échecs afin de diffuser rapidement des
moyens d'y faire face.
9. Mouvements - Demande publique que chaque composante soit tenue responsable.
10. Cohérence – Action harmonieuse de toutes les parties prenantes afin que contenir les
risques de la superintelligence artificielle constitue un cercle vertueux de mesures se
renforçant mutuellement.
LES RÉFÉRENCES
1. ALCOFORADO, Fernando. Le monde vers la singularité technologique.
Disponible sur le site Web
<https://www.academia.edu/43467404/LE_MONDE_VERS_LA_SINGULARIT%
C3%89_TECHNOLOGIQUE>, 2020.
2. ALCOFORADO, Fernando. Les avantages et les risques de la singularité
technologique basée sur la superintelligence artificielle. Disponible sur le site Web
<https://www.linkedin.com/pulse/les-avantages-et-risques-de-la-
singularit%C3%A9-bas%C3%A9e-sur-alcoforado/?originalSubdomain=fr>, 2020.
3. ALCOFORADO, Fernando. Les progrès de l'intelligence artificielle et ses
conséquences. Disponible sur le site Web < https://www.linkedin.com/pulse/le-
progr%C3%A8s-de-lintelligence-artificielle-et-ses-fernando-
alcoforado/?originalSubdomain=fr>, 2018.
4. ALCOFORADO, Fernando. L'intelligence artificielle dans la conquête humaine
de l'espace, ses autres applications et ses risques. Disponible sur le site Web
<https://www.academia.edu/103737351/LINTELLIGENCE_ARTIFICIELLE_DAN
S_LA_CONQU%C3%8ATE_HUMAINE_DE_LESPACE_SES_AUTRES_APPLI
CATIONS_ET_SES_RISQUES>, 2023.

10. 10
5. ALCOFORADO, Fernando. Le travail à l'ère de l'intelligence artificielle.
Disponible sur le site Web
<https://wordpress.com/post/blogdefalcoforado.com/1075>, 2019.
6. ALCOFORADO, Fernando. L'avent de la super intelligence artificielle et ses
impacts. Disponible sur le site Web < https://pt.slideshare.net/falcoforado/lavent-de-
la-super-intelligence-artificielle-et-ses-impacts>, 2020.
7. SULEYMAN, Mustafa e BHASKAR, Michael. A próxima onda. Rio de Janeiro/São
Paulo: Editora Record, 2023.
* Fernando Alcoforado, 84, a reçoit la Médaille du Mérite en Ingénierie du Système CONFEA / CREA,
membre de l'Académie de l'Education de Bahia, de la SBPC - Société Brésilienne pour le Progrès des
Sciences et l'IPB - Institut Polytechnique de Bahia, ingénieur de l'École Polytechnique UFBA et docteur en
Planification du Territoire et Développement Régional de l'Université de Barcelone, professeur d'Université
(Ingénierie, Économie et Administration) et consultant dans les domaines de la planification stratégique,
de la planification d'entreprise, planification du territoire et urbanisme, systèmes énergétiques, a été
Conseiller du Vice-Président Ingénierie et Technologie chez LIGHT S.A. Entreprise de distribution
d'énergie électrique de Rio de Janeiro, coordinatrice de la planification stratégique du CEPED - Centre de
recherche et de développement de Bahia, sous-secrétaire à l'énergie de l'État de Bahia, secrétaire à
la planification de Salvador, il est l'auteur de ouvrages Globalização (Editora Nobel, São Paulo, 1997), De
Collor a FHC- O Brasil e a Nova (Des)ordem Mundial (Editora Nobel, São Paulo, 1998), Um Projeto para
o Brasil (Editora Nobel, São Paulo, 2000), Os condicionantes do desenvolvimento do Estado da Bahia (Tese
de doutorado. Universidade de Barcelona,http://www.tesisenred.net/handle/10803/1944, 2003),
Globalização e Desenvolvimento (Editora Nobel, São Paulo, 2006), Bahia- Desenvolvimento do Século
XVI ao Século XX e Objetivos Estratégicos na Era Contemporânea (EGBA, Salvador, 2008),
The Necessary Conditions of the Economic and Social Development- The Case of the State of Bahia (VDM
Verlag Dr. Müller Aktiengesellschaft & Co. KG, Saarbrücken, Germany, 2010), Aquecimento Global e
Catástrofe Planetária (Viena- Editora e Gráfica, Santa Cruz do Rio Pardo, São Paulo, 2010), Amazônia
Sustentável- Para o progresso do Brasil e combate ao aquecimento global (Viena- Editora e Gráfica, Santa
Cruz do Rio Pardo, São Paulo, 2011), Os Fatores Condicionantes do Desenvolvimento Econômico e Social
(Editora CRV, Curitiba, 2012), Energia no Mundo e no Brasil- Energia e Mudança Climática Catastrófica
no Século XXI (Editora CRV, Curitiba, 2015), As Grandes Revoluções Científicas, Econômicas e Sociais
que Mudaram o Mundo (Editora CRV, Curitiba, 2016), A Invenção de um novo Brasil (Editora CRV,
Curitiba, 2017), Esquerda x Direita e a sua convergência (Associação Baiana de Imprensa, Salvador, 2018),
Como inventar o futuro para mudar o mundo (Editora CRV, Curitiba, 2019), A humanidade ameaçada e as
estratégias para sua sobrevivência (Editora Dialética, São Paulo, 2021), A escalada da ciência e da
tecnologia e sua contribuição ao progresso e à sobrevivência da humanidade (Editora CRV, Curitiba, 2022),
est l'auteur d'un chapitre du livre Flood Handbook (CRC Press, Boca Raton, Floride, États-Unis, 2022),
How to protect human beings from threats to their existence and avoid the extinction of humanity (Generis
Publishing, Europe, Republic of Moldova, Chișinău, 2023) et A revolução da educação necessária ao Brasil
na era contemporânea (Editora CRV, Curitiba, 2023).