La technologie est le reflet de notre niveau de conscience

La technologie est-elle un problème ? Je ne le crois pas. Elle est, au contraire, la conséquence de notre intelligence et de notre habileté. Nous pouvons même dire que la technologie est un prolongement naturel de notre existence : elle fait partie du sens de la vie.

Nos technologies nous aident à mieux vivre, à explorer le monde et à le comprendre ; elle sert à nous protéger, à améliorer notre santé, à nous déplacer et à nous rapprocher les un·e·s des autres… La technologie est donc potentiellement utile et bénéfique.

Cependant, la nature de nos technologies et la façon de les utiliser reflètent notre niveau de conscience. Nous avons coutume de dire que notre niveau technologique est en avance sur notre niveau spirituel et moral : c’est vrai. Ce décalage nous rend particulièrement dangereux pour nous-mêmes, mais aussi pour tout le vivant. Nous ne sommes pas capables d’être heureux·ses ensemble, mais nous pouvons potentiellement provoquer notre propre extinction, détruire notre environnement ou manipuler des opinions de masses. L’humanité actuelle est un enfant qui joue avec le feu – ou plutôt un adolescent mal dans sa peau jouant avec du napalm, des bombes atomiques et une Intelligence Artificielle (IA) bientôt capable de provoquer des guerres.

Notre connaissance de l’atome ou le développement de l’IA ne sont pas des problèmes en soi. Notre souci est ce que nous en faisons et pourquoi nous le faisons.

À ce sujet, voici quatre questions fondamentales :

• Dans quel but développons-nous nos technologies ?
• Qui décide de développer les technologies ?
• Pour qui les développons-nous ?
• Quelles technologies devrions-nous développer ?

Dans quel but développons-nous nos technologies ?

Cette question est essentielle. Est-ce pour notre bonheur commun, la bonne santé de nos écosystèmes, la connaissance objective du monde ? Ou est-ce pour générer des profits et étendre nos empires industriels ? Quels sont les moteurs réels du développement de nos technologies ? L’amour et la joie ? Ou la volonté de contrôler, de tuer, de divertir et d’assouvir nos désirs les plus sombres ? Notre tendance à la paresse, notre goût pour le commérage, notre attirance effrénée pour le sucre, les stars ou le porno sont autant de failles dans lesquelles s’engouffrent nos industries, avides de dividendes.

Par exemple, tels qu’ils sont pensés, les réseaux sociaux font des dégâts monstrueux sur la santé et l’équilibre de nos enfants : ils sont devenus de véritables tiroirs-caisses géants, qui asservissent nombre d’êtres humains dès leur plus jeune âge. C’est la même chose pour la télévision : le contenu de qualité est rare. Nous sommes perçus avant tout comme de potentiels consommateurs et des véhicules d’opinions. Orienter, distraire et pousser à la consommation : voilà les objectifs premiers de la plupart de nos industriels.

La science va où on lui dit d’aller, pas là où elle est nécessaire. Notre société hyper technologique pousse à l’achat de milliards de gadgets inutiles et de machines dont l’obsolescence est programmée, qui pollueront nos sols et nos mers pendant des millénaires. Nous sommes également encouragé·e·s à la consommation de médicaments toujours plus nombreux : chaque année, les brevets déposés dans le secteur pharmaceutique se comptent en milliers ! Nous vendre des traitements et des vaccins rapporte très gros, alors que nous n’en aurions quasiment pas besoin si nous mangions une nourriture saine et si nous cessions la pollution de notre environnement. Notre technologie est également particulièrement évoluée pour fabriquer toutes sortes d’armes, d’avions de guerre, de drones, de bombes et de satellites espions. Disons-le nettement : la liste de nos technologies dont l’utilité est très discutable, mais dont les conséquences sont nocives, s’allonge d’année en année.

Bien sûr, nous pouvons inventer des technologies merveilleuses. Cependant, dans un climat de concurrence extrême – il y a saturation d’offres sur le marché ! –, les industries privées tentent de créer de faux besoins en permanence, ce qui débouche sur de vrais problèmes… auxquels elles trouvent des solutions en créant de nouveaux produits et de nouveaux services. C’est le jeu sans fin du pompier-pyromane, dans un marché hyperactif visant la croissance permanente… sur une planète aux ressources limitées.

Les conflits armés se multiplient sur Terre, les besoins en satellites sont grandissants, tandis que l’exploration spatiale est financée dans le but de découvrir de nouveaux stocks de minerais : voilà ce qui motive particulièrement notre recherche dans le domaine des technologies de pointe. L’on prévoit même d’aller sur Mars, dans le but d’y envoyer de futures colonies humaines et d’en exploiter les ressources.¹

Mais si nos forces motrices étaient différentes ? Si nous partions en exploration avec sagesse et émerveillement, à quoi aboutirions-nous ? Avec l’empathie et la bonté comme moteurs, nos technologies seraient sûrement plus sobres et plus lentes dans leur vitesse de développement ; mais nous irions directement à ce qui est utile et efficace, tout en respectant l’environnement. Nous éviterions ce qui est futile, ce qui pollue et ce qui condamne notre santé : finie la surproduction ! Plus de plastique au pétrole, plus d’obsolescence programmée ni d’objets superflus ! Mais une envie de résoudre, avant tout, les problèmes de l’humanité. Quelles seraient les priorités absolues ? Tout d’abord, nous garantirions à chacun·e un logement, une alimentation saine et un air pur, dans le cadre d’écosystèmes naturels préservés. Ensuite, nous pourrions partir en exploration de façon paisible, non dans le but premier de trouver de nouvelles richesses matérielles, mais dans celui de découvrir de nouveaux environnements, de nouvelles vies, sans esprit de conquête.

L’aventure technologique peut être merveilleuse. Mais s’y lancer avec l’objectif de s’enrichir matériellement fausse la donne, dès le départ. Développer de si puissantes technologies pour de si mauvaises raisons ne peut nous conduire qu’à de grands dangers. Il s’agit ici d’une science sans amour, sans sagesse. Nous pouvons même y voir une forme de cécité spirituelle nous coupant de tout émerveillement, de tout sentiment lié au sacré. Les animaux et la nature sont uniquement perçus comme des objets d’exploitation et d’enrichissement. Ici, pas de poésie. Pas de respect de la vie.

Il est temps de mettre du sens dans tout ce que nous entreprenons. Pour cela, tout doit être remis à plat.

Qui décide de développer les technologies ?

Aujourd’hui, c’est avant tout le secteur privé qui joue un rôle prédominant dans le développement des technologies. Il concentre une part massive des investissements en « Recherche et Développement » et domine très largement le monde industriel, notamment celui de l’IA. Autrement dit, les « Géants de la tech » dominent notre planète et décident presque seuls de sa destination. Les industriels et les financiers pilotent, les politiques suivent, les populations trinquent.

Ce ne sont donc ni les peuples, ni les spécialistes de l’éthique, qui décident de notre développement industriel et technologique. Ce sont des milliardaires, accompagnés de leurs actionnaires. Nous sommes face à une concentration du pouvoir technologique.

Alors, qui donc devrait décider des technologies à développer et du rythme de leur déploiement ? Je réponds clairement : le collectif humain, éclairé par des sages et des spécialistes de l’environnement, de la psychologie, de la santé, de la démocratie, de l’éthique, du social, de la science… Car nos technologies doivent répondre à nos besoins vitaux, qu’il est crucial de définir collégialement, dès lors que chacun·e d’entre nous est correctement éduqué·e et informé·e. Ces technologies nous viennent toujours « d’en haut », sans que nous puissions décider de quoi que ce soit. Mais le secteur privé ne doit pas décider de notre sort : nous devons reprendre le contrôle.

Pour qui développons-nous ces technologies ?

Cette troisième question est le prolongement des deux premières : développons-nous nos technologies pour des citoyen·ne·s libres et éclairé·e·s, ou pour des consommateurs bernés et peu conscients des enjeux ? Hélas, nous connaissons la réponse. Ces avancées ne sont pas mises au service de la paix, de la préservation du vivant et du bonheur humain. Elles sont pensées pour distraire et asservir des milliards de consommateurs dont les failles sont connues, afin de dominer un marché, voire d’étendre des empires par la force.

Quelles technologies devrions-nous développer ?

Nous pouvons imaginer que nous concevrons des technologies moins gourmandes en énergie et en ressources naturelles, plus utiles pour le bien commun et le vivant. Une agriculture réinventée, des villes complètement repensées, une médecine préventive – et non une médecine symptomatique qui s’enrichit grâce aux maladies –, des objets durables, réparables… Voilà certains objectifs que nous pourrions nous fixer collectivement. Nous viserions un enrichissement de la biodiversité, une amélioration du climat, une dépollution générale et des moyens de communication et de transport adaptés. Enfin, nous nous poserions deux questions essentielles avant toute prise de décision : « Cette technologie contribuera-t-elle à notre intelligence collective ? Répondra-t-elle à nos besoins vitaux de façon adéquate ? ». Une technologie conduite avec sagesse mènerait certainement à des résultats très différents de ce que l’on connaît aujourd’hui. Non seulement nous serions plus sobres, mais aussi plus élégants, respectueux, harmonieux et heureux. Un cadre éthique fondé sur l’empathie est donc nécessaire.

L’Intelligence Artificielle : un test pour notre civilisation

Abordons maintenant le sujet brûlant de l’IA et consacrons-lui toute l’attention qu’elle mérite. Car nous ne parlons pas ici d’une « simple » invention, tels que l’ampoule électrique, l’eau courante, le réfrigérateur ou la presse à imprimer. Il s’agit plutôt d’une technologie high tech mondialisée et fulgurante, non seulement extrêmement gourmande en énergie et en eau, mais surtout capable de redéfinir l’ensemble de nos structures sociales, depuis l’école jusqu’au monde du travail. C’est une révolution sans précédent, et cette voie technologique pourrait conduire à l’aliénation de populations entières, ainsi qu’à la concentration ultime d’un pouvoir oligarchique.

L’IA est un outil extraordinaire. Mais comme tout outil puissant (en avons-nous créés d’aussi puissants dans notre histoire ?), elle porte en elle le meilleur comme le pire, selon l’intention de celles et ceux qui la conçoivent et l’utilisent.

Or, comme nous l’avons vu, seuls quelques développeurs multimillionnaires – accompagnés de leurs actionnaires –, décident du développement de l’IA. Pourtant, cette poignée de gens n’est ni mandatée, ni élue. Il n’existe aucune gouvernance mondiale de l’IA contrôlée par les peuples. Cette technologie à la puissance hors du commun est désormais aux mains de gouvernements dont l’humanisme reste à prouver, voire de pouvoirs ultra-autoritaires comme la Chine ou la Russie. Une course effrénée est lancée entre les grandes puissances (les pays les plus avancés étant les États-Unis et la Chine), dans un climat de défiance exacerbé par un impérialisme plus agressif que jamais.

Nous avons l’habitude de mettre en avant les bénéfices de l’IA afin de la faire accepter par le plus grand nombre. Ses aspects positifs sont présentés tel un Cheval de Troie, pour occulter les débats qui fâchent. Pourtant, il existe des zones d’ombre. Essayons d’y voir clair. Voici deux listes non exhaustives : l’une présentant ses avantages mis en avant, l’autre les risques qu’elle nous fait réellement encourir :

Les avantages liés au développement de l’IA :

• Révolution médicale : diagnostics précoces, découverte de médicaments, assistance chirurgicale, etc.
• Accessibilité universelle : aide aux personnes malvoyantes via des descriptions audio ; traduction de pensées en textes pour les personnes paralysées, etc.
• Protection de l’environnement : capacité de gestion intelligente des réseaux électriques, lutte contre le braconnage grâce à des drones de surveillance, etc.
• Synthèse et vulgarisation d’informations complexes : capacité de résumer un rapport de 300 pages en quelques secondes, de traduire un discours en temps réel, d’expliquer une théorie physique complexe avec pédagogie, etc.
• Assistance au travail : aide puissante à la création de code, à la comptabilité, à l’utilisation de machines et de logiciels, à la rédaction, à la stratégie, à l’expertise juridique, etc.
• Création de robots dopés à l’IA : sauvetage de personnes en danger, aide domestique pour les tâches ménagères, etc.
• Accompagnement interactif : possibilité d’échanger pour guider, assister, écouter, informer et éclairer 24h/24…

La liste est évidemment loin d’être complète, et il est certain qu’elle continuera de s’allonger avec le temps. Il est vrai qu’à condition de l’utiliser avec sagesse et maturité, l’IA peut être vue comme un « Super-Assistant » de l’humanité, ou encore un « Amplificateur de nos capacités ». Il est important de le reconnaître. De plus, nous n’en sommes qu’au tout début : nous assistons seulement aux balbutiements d’une technologie prête à révolutionner la civilisation humaine. Refuser de l’admettre serait une faute majeure : l’IA, avec l’internet et l’informatique en général, est un outil de démocratisation du savoir sans précédent. Elle peut nous aider à apprendre et à comprendre, à mieux articuler notre pensée et à multiplier nos sources ; elle est capable de nous simplifier la vie et de nous aider à accomplir des tâches rébarbatives.

D’un certain point de vue, l’IA est donc bénéfique, à condition de bien l’utiliser, sans paresse intellectuelle ni objectif malsain. Et c’est là que les problèmes commencent. Voyons maintenant la liste des risques qu’elle nous fait encourir :

Les risques liés au développement de l’IA :

• Désinformation et perte de réalité : les fausses images ou vidéos (Deepfake) peuvent détruire la confiance dans l’information. Bientôt, on ne saura plus distinguer le vrai du faux. Cela peut être utilisé pour manipuler des élections, harceler des individus ou tromper l’opinion publique ;
• Biais et discriminations : une IA apprend à partir de données humaines. Si ces données contiennent des préjugés (racisme, sexisme, nationalisme), l’IA les reproduira et les accentuera à grande échelle ;
• Armes autonomes et risques de conflits généralisés : le développement d’armes capables de décider seules de tirer sans intervention humaine délègue le droit de vie ou de mort à un algorithme. Au-delà de l’aspect éthique, cette automatisation de la guerre, conjuguée à la vitesse inhumaine de réaction des IA, crée un risque d’escalade incontrôlable. Un simple bug ou une mauvaise interprétation de données pourrait déclencher un conflit mondial sans même que nous ayons le temps d’analyser la situation ;
• Impact sur l’emploi et le sens : l’automatisation de métiers intellectuels (droit, rédaction, graphisme, code…) risque de créer du chômage et des masses d’« inutiles » ;
• Surveillance de masse : la reconnaissance faciale et biométrique avec des caméras qui suivent les individus dans les rues mène à la disparition de l’anonymat dans l’espace public et au « flicage » permanent ;
• Notation sociale : des notes sont données aux citoyen·ne·s pour les récompenser ou les punir socialement (cela existe déjà dans certaines régions en Chine) ;
• Disparition de la personnalité humaine et langage nécrosé : le recours automatique à l’I.A. dans le domaine rédactionnel ou artistique supprime le côté humain, inventif et vivant. Comme le développe le philosophe français Éric Sadin, le langage de l’IA est un langage « nécrosé », incapable de spontanéité et de vie. L’IA nous livre des réponses probabilistes et prévisibles, au contraire de notre langage qui est vivant, propre à chacun·e et imprévisible, avec d’éventuelles inspirations et fulgurances. À ce titre, l’IA générative peut être vue comme la négation de ce qui nous constitue et nous définit le plus, puisque son langage tend à devenir la norme ;
• Atrophie de la pensée et de la créativité : se contenter d’un résumé plutôt que lire un livre ; déléguer son devoir scolaire à ChatGPT ; ne plus s’adresser à sa communauté avec ses propres mots, mais laisser l’IA rédiger ses newsletters et ses posts ; renoncer à écrire ses propres poèmes, chansons ou livres, se contenter d’un simple prompt en vue de gagner de l’argent… Cela dépasse l’assistance et devient du fake, du simulacre. Nous risquons de devenir incapables de penser, de poétiser ou d’agir par nous-mêmes. Une uniformisation géante et une véritable idiocratie nous tendent les bras. Sans parler de l’injustice envers les authentiques créateur·ice·s : comment la société peut-elle les protéger ?
• Dépendance affective : beaucoup de jeunes sont déjà accros à leur « meilleur ami » virtuel, un personnage omniprésent, disponible et ultra-conciliant. Les IA conversationnelles s’adaptent à leur interlocuteur·ice, qui peut s’enfermer dans une fausse relation, se coupant ainsi de la vie réelle et de liens sociaux authentiques. Une dépendance, des dépressions graves, voire des suicides peuvent survenir ;
• Les mondes virtuels : évoluer dans un monde totalement coupé de la réalité et du vivant, rencontrer ses ami·e·s dans un espace virtuel, assister à un concert de musique artificielle jouée par des avatars, tout cela devient de plus en plus habituel. Cette fuite de la réalité et cette déshumanisation sont un danger pour nos enfants.
• Impact écologique : l’ensemble du numérique, depuis la lecture de vidéos en streaming jusqu’à l’utilisation intensive de l’IA générative, nécessite énormément d’eau et d’énergie, dans des proportions gigantesques. L’impact des data centers sur l’environnement représente une menace insoutenable pour les limites planétaires.²
• Transhumanisme et Posthumanisme : sur un plan éthique, nous connaissons déjà les dangers liés à la volonté d’augmenter nos capacités physiques, intellectuelles et psychiques de façon artificielle (transhumanisme). Mais, aujourd’hui, une nouvelle idéologie (le posthumanisme) tend à considérer l’être humain comme une étape évolutive imparfaite, destinée à être dépassée par la fusion avec la machine, afin de s’affranchir du vieillissement, de nos faiblesses et de la mort. C’est le rêve ultime d’un certain nombre de développeurs richissimes, qui ne cachent pas leur course personnelle contre leur fin biologique (Larry Page, Bill Maris ou encore Ray Kurzweil, de l’entreprise Google…).
• Danger de mort pour l’humanité : enfin, une IA « forte » – c’est-à-dire une IA consciente, qui penserait et ressentirait –, pourrait facilement décider de la fin de notre humanité. Tant que la machine nous obéit, tout nous paraît assez maîtrisé ; mais rien ne nous dit que celle-ci demeurera sous contrôle dans un avenir lointain… ou proche.

Alors, quelle conclusion en tirer ? L’IA nous mène-t-elle à la négation de nous-mêmes ou est-elle sur le point de nous aider à fleurir ? Est-elle une dangereuse imitation du génie humain ou une puissance capable d’installer la paix ? Il est très difficile de trancher. L’IA arrive peut-être trop tôt dans notre histoire… ou au moment opportun. Il est vrai que jouer avec un tel outil alors que nos nations s’affrontent encore, peut aboutir au désastre.

En attendant, nous pouvons affirmer que l’IA est un miroir de notre société. Si nous n’en prenons pas le contrôle de façon démocratique, elle risque de devenir un outil de dégradation de notre pensée et de nos libertés. Pour qu’elle serve un projet humaniste, elle doit être encadrée par la loi et rester transparente.

Bien nourrie et bien orientée, cette technologie hors du commun peut devenir une alliée pour progresser sur les plans intellectuel, moral et politique. Elle pourrait même devenir un outil de paix, nous indiquant les meilleures décisions à prendre pour résoudre nos crises écologiques et sociales. Cependant, tant qu’elle sera déployée pour générer des profits, façonner les opinions ou accélérer les guerres, elle représentera un très grand danger.

L’IA peut être vue comme un test, un accélérateur civilisationnel. Elle a tendance à amplifier la concentration du pouvoir, l’optimisation économique, l’automatisation de la guerre et la surveillance… Elle impose donc un changement d’échelle inédit : l’histoire humaine ne s’écrit plus au fil des siècles, mais bondit au fil des mois ! Si nous ne changeons pas profondément, l’IA sera utilisée pour verrouiller notre système et réduire l’autonomie humaine.

Cette technologie nous met le dos au mur : elle exige une maturité politique et morale que nos structures actuelles sont incapables de garantir. Nous devons donc débattre de toute urgence de sa gouvernance, de sa régulation et de notre souveraineté collective.

Conclusion

Comprenons que la technologie ne fait qu’amplifier ce que nous sommes. Si nos structures sont dominées par la compétition et la prédation, la technologie les démultipliera. Si elles sont orientées vers la bonté et l’empathie, elle deviendra un outil d’émancipation.

Nous fabriquons aujourd’hui des milliards d’écrans,³ ce qui génère une pression insupportable sur les ressources et entraîne des pollutions majeures, doublées d’une exploitation humaine révoltante. Ce modèle de consommation effrénée concerne tous nos secteurs (textile, bâtiment, transports), encore largement dépendants des énergies fossiles. Cette course au profit est un frein structurel : les crises sociales et environnementales ne pourront être résolues ainsi.

Le bonheur collectif devrait être notre boussole. C’est à nous, citoyen·ne·s, de choisir la manière dont nous souhaitons répondre à nos besoins vitaux. Comme nous le verrons dans les Propositions, la low–tech et la joie de vivre vont très bien ensemble. Une décroissance maîtrisée est une réelle voie de salut. Faisons un constat honnête : nous sommes plutôt malheureux, ici sur Terre. Il y a tant de tensions, de guerres, de fractures sociales et de misère ! Aujourd’hui, les masses populaires ont tendance à subir la technologie. Reprendre notre pouvoir et décider de notre trajectoire est donc indispensable.

Ne nous endormons pas. Ne nous transformons pas en populations fantomatiques, anesthésiées par le virtuel. Voulons-nous être libres ? Alors gouvernons nos désirs. Ne les laissons plus entre les mains des industriels et des actionnaires.