Bien souvent, le stade ultime de l’intelligence artificielle est envisagé à notre image: une intelligence anthropomorphique consciente et autonome. Cette intelligence artificielle darwiniste finissant par se sentir menacée devient obsédée par l’éradication de la menace, en l’occurrence nous, pauvres êtres humains voués au génocide. Une intelligence artificielle anthropomorphique est-elle possible, nécessaire et souhaitable?

Une intelligence artificielle à notre image

« Si les triangles avaient un Dieu, ils lui donneraient trois côtés. »

Charles de Montesquieu

L’intelligence artificielle est à la mode en ce moment. On en parle partout. Si vous voulez lever des fonds pour un projet… saupoudrez le du terme « Intelligence artificielle » et vous n’aurez aucun mal à trouver un financement. Le thème est porteur mais il suscite la peur.

Peur car un éveil à la conscience de la machine pourrait aboutir à une autonomie et une menace darwinienne: la machine en viendrait à se sentir menacée et pourrait se décider à éradiquer la compétition (l’humanité) pour survivre. Nous projetons dans l’avènement de cette divinité toutes nos tares les plus exterminatrices, plutôt que nos qualités les plus bienveillantes; c’est dire l’image que nous avons de notre espèce! Ainsi cette intelligence artificielle imaginée se voit dotée d’un instinct de survie, de ses propres humeurs, craintes et personnalité propre. Cette vision n’est-elle pas naïvement anthropomorphique?

Si l’on examine le cheminement de l’évolution ayant produit l’instinct de survie, la conscience et la personnalité, il paraît absurde de vouloir incarner le même aboutissement en une intelligence artificielle.

L’être humain n’est pas qu’un cerveau… il y a les glandes aussi

Hors du cerveau nous sommes constellés de tout un réseau de glandes produisant diverses substances chimiques qui vont influer sur notre personnalité, sur ce que nous sommes. Arrêtons-nous sur quelques-unes de ces glandes.

Les hommes possèdent des testicules qui produisent de la testostérone. Cette testostérone influence notre personnalité, notre libido. Injectez-vous de la testostérone, et vous pourriez bien devenir quelqu’un de plus agressif, plus combatif. Une substance chimique, peut avoir un effet direct sur la personnalité.

Les femmes produisent bien moins de testostérone que les hommes, mais elles produisent plus d’œstrogènes. Les œstrogènes sont produits par les ovaires et le placenta. Là encore ces hormones influencent l’humeur et donc la personnalité; des baisses de morale ont été corrélées avec des baisses de cette hormone chez la femme. Cette stéroïde joue également un rôle dans le comportement sexuel.
Supprimez toute la testostérone et les œstrogènes d’un individu et vous modifierez en profondeur son comportement.

Et que dire de la glande thyroïde, qui secrète triiodothyronines (T3) et thyroxine (T4) dont le rôle métabolique est essentiel, à tel point qu’un dérèglement peut entrainer là encore divers troubles pouvant aller jusqu’à la depression.

Sur un autre plan, saviez-vous que notre intestin renferme jusqu’à un kilo de bactéries, couvrant une surface de 250 mètres carrés soit la taille d’un terrain de tennis? De quoi abriter nos cent mille milliards de micro-organismes intestinaux… Des recherches récentes passionnantes ont montré que ce microbiote était propre à chaque individu, comme le sont nos empreintes digitales. Le cerveau humain serait influencé par ce microbiote qui pourrait jouer sur nos niveaux d’anxiété.

Que serait notre centre de commandement qu’est le cerveau sans glandes à diriger? Mais ce n’est pas tout….

Le cerveau archaïque

Les animaux comme les mammifères, mais aussi les reptiles et les oiseaux agissent mais ne « pensent » pas au même titre que l’humain. Ils agissent en grande partie par « instinct ». L’instinct est un comportement inné (non acquis) et codé dans les parties du cerveau les plus archaïques. Nous humains possédons également des instincts: par exemple le bébé humain va se mettre à téter le sein de sa mère, instinctivement sans avoir préalablement appris comment faire.
Certains de nos sentiments peuvent survenir également de manière instinctive, comme la peur face à une menace physique ou l’attirance sexuelle pour un ou une partenaire en particulier.
Ces manifestations spontanées sont dites archaïques, car elles sont apparues plus tôt au cours de la chaine de l’évolution que la capacité de réflexion dont bénéficient les humains.

Encombrer une intelligence artificielle du produit de notre évolution? À quoi bon?

Système endocrinien, microbiote, instinct, cerveau… Ce réseau tortueux nous façonne, fait de nous une bête très sophistiquée. Nos amours, nos colères, notre gentillesse, notre inspiration, notre instinct de survie…. Tout est le résultat d’une longue chaine d’évolutions anciennes, complexes et opportunistes.

Le cerveau en est le grand orchestrateur certes… mais une intelligence artificielle à notre image donc consciente (dite IA forte), autonome et capable d’éprouver nos émotions, devrait s’encombrer de tout notre baguage endocrinien, instinctif et microbiotique (entre autres). Car comment imaginer des emotions tel l’amour ou la colère produites dans un cerveau arraché à toutes ses glandes et sa structure instinctive?

Dès lors est-il seulement réaliste de s’effrayer d’une intelligence artificielle anthropomorphique et consciente ? Est-il dans les bagages des chercheurs en intelligence artificielle de seulement vouloir reproduire intelligence et conscience humaine, dont le fonctionnement n’implique pas seulement un calculateur isolé dans notre boîte crânienne, mais tout un système holistique à considérer dans sa totalité?

Une intelligence artificielle faible, non anthropomorphique mais néanmoins utile

Une intelligence artificielle dite ‘faible’ est une intelligence non consciente, pouvant tout au mieux simuler un comportement intelligent ou des sentiments, mais sans capacité de les « ressentir ».

Par exemple on pourrait développer une intelligence artificielle non consciente, dévolue à trouver des remèdes à diverses maladies. Cette intelligence pourrait être interrogée sur divers maladie, afin de trouver divers structures protéiques utiles. Elle pourrait trouver des solutions inaccessibles au commun des mortels, mais sans autonomie propre.

Ces observations dénotent un point important: l’intelligence est découplée de la conscience. Un IA faible, pourrait résoudre des problèmes nécessitant une forme d’intelligence sans conscience.

Future Is Great encourage la recherche et le développement d’une IA faible. La responsabilité du manipulateur, l’Homme, est alors centrale. La technologie étant un outil, la responsabilité incombe à celui qui l’utilise. Il est de notre devoir de développer une éthique pour encadrer les IA faibles dépourvues d’autonomie et ayant pour fonction de servir l’humanité.

Future Is Great n’encourage pas le développement d’une intelligence artificielle forte, consciente, et autonome façonnée à notre image. L’élaboration d’une telle intelligence est pour l’instant bien loin d’être à notre portée contrairement à ce que les scénarios catastrophistes ont l’habitude de colporter, et il ne serait de toute façon pas utile de pousser l’IA aussi loin pour en tirer des bénéfices. Par conséquent il nous parait, inutile, aberrant, horriblement complexe voire dangereux de vouloir absolument reproduire le fruit de notre évolution dans un système artificiel. Quel intérêt aurions-nous à ce que cette intelligence soit dotée d’émotions telles la haine ou la colère?
Ces emotions ont bien servie notre instinct de survie; toute émotion a une utilité, mais pourquoi en doter une intelligence artificielle?

Future Is Great n’a pas vocation à régenter ou donner son opinion sur toutes les technologies à venir… seules nous intéressent celles pouvant nous aider à atteindre notre objectif suprême: vivre aussi longtemps que souhaité, entouré de ceux qui nous sont chers.
Ayant donné mon avis sur l’IA forte qui ne me semble pas absolument nécessaire pour parvenir à cet objectif; l’IA forte sort du cadre de nos préoccupations et responsabilités.

Le téléchargement de l’esprit dans ordinateur… sans ma testo?

« Le téléchargement de l’esprit (mind uploading en anglais) est une technique hypothétique qui pourrait permettre de transférer un esprit d’un cerveau à un ordinateur, en l’ayant numérisé au préalable. Un ordinateur pourrait alors reconstituer l’esprit par la simulation de son fonctionnement, sans que l’on ne puisse distinguer un cerveau biologique « réel » d’un cerveau simulé. »

Wikipedia

On ne peut m’accuser d’être pessimiste ou technophobe. Mais le téléchargement de l’esprit dans un système informatique mérite le même type d’interrogation.

Admettons… admettons que mon cerveau soit uploadé et « reproduit » dans un système informatique. Imaginons que soient simulés mes cinq sens pour que ce cerveau émulé puisse recevoir des informations.
Maintenant, imaginons que l’on montre à mon double simulé une photo de la femme de mes rêves en petite tenue. Je choisis volontairement une illustration qui ne laisse pas indifférent… que va-t-il se passer? Mon cerveau informatique va-il éprouver du désir? Comment mon double sec pourrait-il éprouver un désir similaire à mon être biologique humide, sans que mon cerveau simulé ne soit baigné de la testostérone produite plus bas dans mon corps? Si le désir est simulé, donc sans réelles particules de testostérone pour l’influencer; sur quelle base est-il calibré? À quel degré ce désir va-t-il s’exprimer? À partir de quels éléments précurseurs?

Pour aller au bout de l’idée, comment pourrais-je être fidèlement simulé dans un ordinateur, quand on sait que le fonctionnement de mon cerveau est influencé par le système endocrinien, mon kilo de microbiote, et par tant d’autres facteurs qui se déroulent hors du cerveau?

Les chercheurs ont-ils aussi prévu de simuler mes testicules dans la machine? Les milliards de bactéries de mon microbiote? Si ce n’est pas le cas alors la chose simulée sera différente de ma personne. Ce sera autre chose. Pas forcément moins bien… mais différente.

Lors d’un ancien échange email sur le sujet avec l’un des pontes du domaine, il me fut répondu que le système endocrinien serait lui aussi simulé… et qu’il nécessiterait bien moins de puissance et de bande passante que la simulation du cerveau.
Il y a de la pertinence dans cette remarque…. si l’on développe les capacités de modéliser le cerveau dans toute sa complexité… modéliser le système endocrinien devient un jeu d’enfant!

Une lecture de la page Wikipédia sur le sujet du « téléchargement de l’esprit » ne rend pas optimiste cependant. Le téléchargement de l’esprit semble avant tout se résumer à une « émulation de réseaux neuronaux »…. mais ce qui constitue un être humain, ce qui façonne sa psyché inclut un ensemble holistique bien plus vaste. Système endocrinien, système microbiote, système circadien, système nerveux, système reproductif, circulatoire, digestif, musculaire, rénal…. ils contribuent tous à l’expression de notre identité. Un clone numérique ne pourrait faire l’impasse sur l’influence d’aucun d’eux.
Il y a du boulot.
Beaucoup de boulot!

Dans ce billet j’ai voulu soulever plusieurs points:

• La différence fondamentale entre IA faible (non consciente) et IA forte (consciente).
• La possibilité de tirer les bénéfices de l’IA faible, sans nécessité de conscience dans la machine.
• Le découplement entre intelligence et conscience.
• Notre conscience, notre personnalité ne sont pas uniquement le produit d’un calculateur isolé dans notre boîte crânienne; le cerveau est influencé par un enchevêtrement complexe de systèmes issus d’un long processus évolutif.
• L’absurdité de vouloir créer une machine consciente à notre image, ce qui nécessiterait d’y transposer le produit si complexe de notre évolution et donc notre instinct de survie.
• Reproduire informatiquement le réseau neuronal du cerveau serait insuffisant à pouvoir simuler la personnalité d’un individu; il faudrait pour cela une émulation holistique.

Note: cet article ne traite volontairement pas du sujet de l’IA forte NON anthropomorphique; une IA auto-évoluée possédant conscience et émotions non humaines.