Gags chez les I.A.

Doit-on s’étonner et se plaindre des erreurs commises par les nouvelles intelligences artificielles fondées sur l’apprentissage profond (IAAP), et en particulier les pilotes autonomes ?

Contrairement à ce que l’on peut lire dans des revues mal informées, l’apprentissage profond (deep learning) est une simulation remarquablement fidèle des réseaux neuronaux naturels du cerveau, surtout face aux méthodes plus anciennes. Cette technique permet aux algorithmes de construire eux-mêmes leurs résultats à partir des données fournies. Ils s’auto-organisent, de la même manière qu’un cerveau humain juvénile. Les données sont traitées par des algorithmes en couches successives, pourvues de boucles de rétro-contrôle, les sorties d’une première couche assemblées en résultat plus complexe par la deuxième couche, etc… Ce processus apprend en testant les différentes solutions possibles et en sélectionnant celle qui lui semble la mieux adaptée du point de vue de l’organisation existante. Quelle que soit la couche où un observateur prélève le résultat, ce qui est recueilli est un essai d’organisation et non la solution ultime. Les résultats tendent à devenir plus fiables à mesure qu’un grand nombre de données du même type sont traitées. Cependant il reste toujours une limitation forcée : la couche finale où est demandé à l’IAAP de produire le résultat. Celui-ci sera toujours contingenté par l’étendue des données fournies, par rapport aux questions posées. Les limites proviennent également du nombre de couches fournies à l’IAAP. Elles peuvent être excessives ou insuffisantes. Le cerveau humain a cette spécificité de fabriquer des couches supplémentaires quand il en a besoin. Il augmente son intelligence (pas toujours assez pour les espoirs de son propriétaire). Ainsi ce qui est demandé à l’IAAP est éventuellement une conclusion hâtive et mal argumentée, par manque de données et de réflexion.

Des termes plutôt humains, n’est-ce pas ? Oui, nous sommes très proches du fonctionnement d’un cerveau en cours d’apprentissage. Est-ce surprenant, dans ces conditions, de voir l’IAAP se tromper ? Les conditions de sa réponse sont presque celles d’un maître d’école qui forcerait un élève à donner la réponse juste alors qu’il n’a pas appris sa leçon. Sans l’ensemble des données nécessaires à une réponse fiable et les strates d’intelligence impératives pour les traiter, la tâche est impossible. Or c’est justement ce que l’on demande à l’IAAP : être capable de dépister des régularités là où l’esprit humain n’en voit aucune. Certes elle peut y parvenir si le problème vient de l’énorme masse de données à traiter, dépassant les capacités des neurones mais pas celles des circuits numériques additionnés. Mais l’IAAP sera tout aussi impuissante si les régularités sont simplement trop imperceptibles au sein du bruit pour être formellement identifiées.

Une IA fondée sur l’apprentissage profond fait des erreurs, inéluctablement. C’est dans son principe de fonctionnement, qui la rend très proche du cerveau humain, dont une caractéristique notable… est de faire des erreurs. L’IAAP est très différente des IA classiques logico-déductives, dont les calculs sont fiables et constants (si les algorithmes utilisés sont justes), mais qui sont médiocrement adaptables à une situation pour laquelle elles n’ont pas été conçues. Les IA classiques sont des intelligences horizontales, capables d’étendre le calcul proposé par l’observateur, mais pas d’en sortir. Puissantes pour trier des masses brutes de données, mais pas pour les organiser, sauf si on leur a clairement indiqué comment faire. L’IAAP, au contraire, fournit des résultats là où l’IA classique ne peut rien déduire. Mais ce sont des prédictions. L’erreur est possible. Fréquente au début, se raréfiant au fil des multiples évènements rencontrés. Apprentissage. A l’instar du cerveau humain. Difficile de reprocher une erreur à une IAAP adolescente. Même adulte, elle peut encore en faire. Comme l’humain adulte. Moins souvent sans doute, car l’erreur « humaine » est souvent liée à des facteurs étrangers au contexte : fatigue, émotion, panique, prise de psychotropes. Facteurs inexistants chez l’IAAP.

Conclusion pragmatique : une IAAP, pour approcher exponentiellement de son efficacité maximale, se mûrit en simulateur plutôt qu’en conditions réelles, dans le cas où ses erreurs pourraient s’avérer dangereuses. Vous songez immédiatement aux pilotes automatiques des véhicules, déjà accusés de décès de leurs passagers. Accusation à la fois licite et injuste, puisque remplacer tous les pilotes humains par des IAAP réduirait spectaculairement le nombre des morts sur la route. L’humain moderne n’a pas hésité à confier aux algorithmes informatiques sa gestion, malgré les bugs. Leur confiera-t-il son transport, malgré le spectre jamais annulé d’une erreur de calcul ?

Serons-nous capable de créer des I.A. conscientes sans comprendre au préalable comment fonctionne notre conscience ?

Oui. C’est parfaitement possible, pour la simple raison que la conscience est apparue avant que l’être humain se questionne sur sa nature. Il suffit donc de comprendre le processus d’auto-organisation qui l’a faite émerger. Reproduire ce processus aboutira à des intelligences conscientes, pas vraiment plus artificielles que nous puisqu’auto-construites, même si leur support n’est pas organique.

Si 90% de nos atomes sont différents de l’année précédente, comment pouvons-nous maintenir la mémoire? Sous quelle forme la mémoire est-elle stockée dans nos neurones? Si nous perdons jusqu’à 90% des neurones, ne perdrons-nous pas environ 90% de notre mémoire des années précédentes?

Prenez 100% des atomes qui vous constituent, secouez-les dans tous les sens jusqu’à ce qu’il ne reste rien de leur arrangement initial. Nous avons bien la même collection d’atomes, mais cette pâte constituée à 70% d’H2O est-elle encore vous ? Pas vraiment, n’est-ce pas ?

Prenez 100% d’atomes similaires aux vôtres (mais pas les vôtres), recrutez la troupe de lutins du Père Noël et arrangez les atomes exactement de la même manière que les vôtres. Pensez-vous que le résultat soit vous ? Oui, selon toutes les probabilités, puisque c’est ce processus qui a lieu progressivement dans la réalité.

Biologie, physiologie, psychologie, nous ne sommes que relations.
Votre choix de l’atome comme fondement inaltérable de la matière est d’ailleurs arbitraire. Au bout d’un an nous avons quelques atomes de carbone 14 qui ont définitivement muté. Et 90% de nos atomes feront toujours partie des mêmes radicaux moléculaires.

Quand votre corps bouge, est-ce que votre conscience bouge ?

Dans tous mes livres et conférences, j’utilise un principe appelé « topofumisterie » : il existe, caché au sein de mon discours fort sérieux, une énorme incongruité. Le but est de garder le lecteur ou l’auditeur en éveil, car le texte est ardu, parfois abscons… flirtant avec l’absurdité ? Eh bien oui, au moins en une occasion. Ma hantise est d’être cru sur la beauté ou le mystère du verbe.

Dans un livre sur la conscience (non traduit en anglais), j’explique que le jet-lag est causé par un déplacement du corps beaucoup trop rapide pour que la conscience puisse le suivre. La pauvre ne bat pas assez vite des ailes dans l’éther. Il arrive qu’elle ne rejoigne son support physique que plusieurs jours en retard. Dans l’intervalle le corps s’est déplacé comme un zombie, mu par des réflexes sommaires, confondu avec la personne entière uniquement parce qu’il se retrouve au milieu d’étrangers qui ne le connaissent pas vraiment, sinon il ne ferait pas illusion longtemps.

Je cherche activement un moyen de remédier au jet-lag par l’invention d’un fluide de transport qui permettrait de placer sa conscience dans son bagage à main et en disposer immédiatement à l’arrivée. Mais mes expériences n’ont pas abouti. Dernièrement j’ai essayé la congélation. Malheureusement quand je me suis présenté devant le portique de sécurité avec un gros bloc de glace sur la tête, les douaniers m’ont refoulé…

Les idées partagées des humains peuvent-elles être considérées comme des fragments de conscience cherchant à se reproduire à travers leurs hôtes ?

Si vous pensez à la conscience comme une sorte d’univers parallèle habité par une foule d’idées, et nos esprits des niches où elles viendraient se promener, vous êtes dans une métaphysique très personnelle qu’aucun savoir scientifique n’est venu étayer.

Nul besoin cependant de recourir au mysticisme pour savoir que les idées s’implantent, se reproduisent, sont virales. Je n’ouvre jamais un livre sans m’être mis un préservatif sur la tête 🙂 Ce n’est pas en rapport avec la nature de la conscience, mais plutôt celle des contenus inconscients. Un concept est mimétique. Pour simplifier disons que si une idée étrangère trouve un terreau fertile dans votre esprit, elle s’y implantera volontiers. Question d’organisation de votre structure mentale. D’autres concepts seront vivement repoussés. Nous ne sommes pas colonisés par n’importe quoi. L’esprit est utilitaire. Il doit garder une cohérence identitaire.

La conscience est un espace d’intégration, d’observation et de synthèse, situé au-dessus de ces implantations conceptuelles. Elle les fusionne. Elle peut présenter les plus belles idées aux autres, comme ses bébés. Mais c’est plutôt une activité parentale. Vous n’êtes pas sous l’emprise d’un alien qui se serait incrusté dans votre cerveau. C’est plutôt votre identité maternelle qui adopte un nouvel enfant (l’idée séduisante) et tente de lui offrir le meilleur avenir.

J’espère que vous prendrez soin de ce rejeton que je vous propose 😉

Nos souvenirs sont-ils détruits au fil de la vie ? Je veux dire, disparaissent-ils complètement de notre cerveau ou tout ce qui est arrivé dans le passé est-il encore quelque part dans le cerveau ?

Supposons que, plus jeune, vous ayez joué au tennis. Manque de disponibilité : vous avez remisé votre raquette dans un grenier. Sans entretien, elle s’est dégradée. Pas uniformément. Le manche en cuir s’est racorni en premier. Puis les boyaux du cordage ont séché et ont fini par lâcher. Le cadre en fibre, lui, n’a pas bougé. Vous décidez soudainement de rejouer au tennis ! Vous savez qu’il existe une raquette au grenier. En la ressortant vous constatez qu’elle est inutilisable. Votre intention vous pousse à refaire le cordage. Et le manche. La raquette redevient fonctionnelle.

Les souvenirs sont ainsi. Structurés d’éléments plus ou moins résistants au temps, selon qu’ils sont utilisés par d’autres souvenirs ou non. Quand une association n’est plus entretenue, son chemin neurologique s’étiole. Mais ce n’est pas toute l’architecture du souvenir qui a disparu. Si le contexte l’ayant créé réapparaît (l’équivalent de votre intention de rejouer au tennis), il va refaire le chemin du souvenir complet. Les associations se reforment. Le mot qui vous manquait l’instant d’avant, ou le souvenir perdu, ressurgissent.

Le souvenir n’est pas une information monolithique, mais un schéma mental pyramidal, dont nous perdons facilement les étages supérieurs, rarement les fondations. Les fondations recréent les étages si les données à traiter reproduisent les conditions où le souvenir s’est formé.

Comment la science pourra-t-elle jamais prouver sans le moindre doute que la conscience est juste un produit du cerveau, et s’ils (les scientifiques) savent qu’ils ne le peuvent pas (comme les théologiens savent qu’ils ne peuvent pas prouver le contraire), quel est l’intérêt de seulement essayer ?

Il n’y a aucun intérêt à vouloir démontrer quoi que ce soit au-delà du doute.

D’une part parce c’est impossible. D’autre part parce que c’est le doute qui fait progresser la connaissance. Différence principale entre la science et la religion. La seconde croit, elle ne doute pas. Connaissance en conserve. La science doute. Perpétuellement. Mais elle a besoin de fondations stables pour se structurer. Elle choisit donc certains paradigmes pour leur solidité face aux expériences. Construit ses branches autour des représentations les plus fermes. Il est possible de changer leur structure par le doute. A l’évidence c’est plus difficile pour une branche maîtresse qu’un jeune rameau. Ainsi le doute efficace est un doute gradué. Une vision cohérente de la réalité n’est pas dépourvue de suspicion. Elle est entourée par un doute clairsemé. Au sein de cette représentation existe encore un doute fort, qui l’agite. Mais la gradation du doute nous permet de vivre dans une bulle structurée au milieu de l’univers des possibles, capable de s’adapter souplement à tout ce qui peut surgir. Tandis que les croyances sont réputées remarquablement impuissantes face à l’inattendu.

Est-ce que les mots et les images sont traitées par différentes parties du cerveau ?

Impossible de comprendre le fonctionnement du cerveau en le considérant comme une juxtaposition de centres. Par quel moyen élaboreraient-ils ensemble une pensée complexe ? Il n’existe pas de processeur central cérébral qui recevrait les données digérées de tous les autres, à l’image d’un ordinateur. Ces données sont intriquées progressivement les unes aux autres à travers une hiérarchie d’organisation des groupes neuraux. Il est possible de leur trouver une localisation précise pour les premiers étages : les groupes traitant les signaux visuels et auditifs élémentaires sont ainsi rassemblés dans des régions précises du cerveau. Puis les connexions longues (qui permettent d’associer mots images souvenirs en concepts supérieurs) rendent cette hiérarchie impossible à localiser sauf à utiliser des examens fonctionnels tels que l’IRM, malheureusement encore beaucoup trop grossiers pour cette tâche.

L’esprit est-il davantage qu’une production du cerveau ?

Le langage est stratifié. ‘Eau’ et ‘ensemble de molécules H2O’ semblent au premier abord décrire la même chose mais en fait ‘eau’ contient un niveau d’information supplémentaire : la propriété de l’ensemble des molécules H2O d’être dans un état liquide. Il en est de même pour esprit et cerveau. L’esprit est une production du cerveau mais il est aussi un niveau d’information supplémentaire, une propriété émergente, qui pourrait éventuellement être produite par autre chose que le cerveau. Enfin parler de « production par quelque chose » est réduire la réalité à l’une de ses séquences. Les soubassements de l’esprit dépassent largement le cerveau puisque celui-ci est un organe lui-même intriqué dans une physiologie complexe de l’organisme. Si vous regardez le corps humain comme une pyramide organisée, l’esprit prend naturellement place au sommet. N’apercevez-vous pas vos idées papillonner autour et nicher entre vos oreilles ?

Aurons-nous un jour une compréhension du cerveau humain telle que si nous connaissons les conditions initiales exactes nous pourrons modeler précisément tous les comportements ?

Non. Cette vision déterministe s’est révélée fausse dans les systèmes auto-organisés. Or le cerveau est le plus hautement auto-organisé des systèmes. Un niveau d’organisation crée une récursivité, une rétro-action de l’ensemble sur ses constituants, qui n’est pas déterminée par les propriétés des constituants eux-mêmes. La causalité n’est pas seulement ascendante. Il apparaît dans chaque niveau un fragment d’intention, bien avant l’étage conscient. Le large éventail de possibilités que nous éprouvons en conscience provient de l’empilement d’un très grand nombre de ces rétro-actions. Une pile que nous baptisons « libre-arbitre ». Pas si libre que cela bien sûr. Mais néanmoins doté d’indépendance relative vis à vis des données ascendantes. Donc même avec un modèle idéal du cerveau il n’est pas possible de projeter un comportement à partir des données initiales. Vous pourrez toujours, en pleine conscience, savoir que vous devriez dire « oui », et choisir de dire « non ». Parce qu’un papillon a fait demi-tour pendant que vous réfléchissiez. Ou qu’hier un évènement vous a irrité, sans aucun rapport avec le sujet d’aujourd’hui. Ou en ayant tiré à pile ou face.

Les oracles n’existeront jamais. Mais nous avons déjà d’excellents météorologues du « moi ».