On pourra toujours jouer l'objectivité, et dire que le bleu est un rayonnement dont la longueur d'onde varie entre 450 et 500 nanomètres : la vérité c'est que cette définition, ainsi que le mot même de bleu sont des concepts plaqués sur une expérience qu'il est impossible de partager. Je ne sais pas à quoi ressemble le bleu de mon voisin, et si un aveugle me demandait de lui expliquer ce que c'est exactement, je n'aurais aucun moyen de le faire. Je pourrais théoriser mille ans qu'il n'en serait pas plus avancé. « Le bleu c'est ça », peut-on seulement dire, en désignant un ciel d'été. « Ce truc, cette qualité du ciel, tu vois bien. »
C'est à dire que le bleu est une sensation ; et comme toute sensation, il est impossible de la communiquer. Elle m'appartient, je ne peux ni la transmettre ni la sortir de moi. Elle n'existe que pour moi, à la seule condition que j'existe moi-même. En dehors de ma conscience, le bleu, comme la musique, n'ont aucune signification.
En revanche, ce qui peut se transmettre, c'est le concept de couleur, le concept de musique ; c'est à dire une réduction de l'expérience, une simplification destinée à la rendre manipulable. On en fait ainsi un petit paquet bien fermé, qu'on peut enseigner à d'autres : quand j'utilise les mots de musique ou de bleu, vous savez de quoi je parle, même si les mots en eux-mêmes n'en disent rien. Si vous voulez comprendre en profondeur ce que je dis, vous ne pouvez pas en rester là : vous devez rattacher ces concepts à l'expérience que vous en avez déjà eue.
Pour le dire plus simplement : le bleu ne s'enseigne pas, il se vit.
A la différence des couleurs et des sons, nous n'avons aucune sensation de ce que sont les objets mathématiques. Personne n'a jamais vu un point mathématique, une droite ou un plan, objets à zéro, une ou deux dimensions. Ces objets ne sont que des concepts : on en a des définitions exhaustives, qui suffisent à en dire le tout. Un point mathématique est « l'unique intersection entre deux droites sécantes » : c'est tout ce que vous avez besoin de savoir, et tout ce que vous saurez jamais sur le point. Dans ce cas, l'esprit humain n'est pas parti d'une sensation pour aller vers un concept, mais a inventé un concept qui n'existe pas dans la réalité.
Imaginons ce que cela signifierait que la couleur soit, pour nous, comme un point mathématique. Cela voudrait dire que le concept de longueur d'onde suffit à en circonscrire la totalité. Autrement dit, nous ne la verrions pas : nous serions comme des aveugles-nés à qui on enseigne la physique ondulatoire. Nous ne ferions que raisonner sur la couleur, sans jamais la ressentir. Mais aussi, nous aurions l'impression qu'il n'y a aucun mystère en elle, rien d'insaisissable : puisque la sensibilité nous en manquerait, nous penserions que le concept et la chose sont absolument identiques.
Étendons maintenant ce postulat à l'ensemble de nos sensations, et imaginons que chaque élément du monde nous soit compréhensible et saisissable de part en part, comme une équation mathématique. Nous pourrions alors prétendre à une connaissance totale des choses : nous saurions tout du monde, ou plutôt du concept-monde, que nous croirions être la chose-monde, mais sans nous apercevoir de la prison aveugle, de l'abstraction mentale où nous serions coincés. En réalité nous n'aurions aucun contact avec le monde : privés de sens, nous serions des esprits purs, sans chair, manipulant des pensées comme un ordinateur manipule des règles de calcul, sans aucun accès à l'extérieur, sans prise sur la réalité.
C'est exactement ce que nous faisons avec les intelligences artificielles.
On pourra se raconter ce qu'on veut : une machine est, et restera totalement coupée du monde, pour la seule raison que nous n'avons aucun moyen de lui enseigner ce qu'est une sensation. Il est impossible à l'esprit humain de faire entrer dans un concept l'expérience de la couleur bleue, pas plus que l'expérience de la joie, de la passion amoureuse, de la beauté, de la satisfaction, etc. Les concepts sont des papillons morts, punaisés sur un tableau en liège, qu'on peut examiner de tous les côtés, dont on peut observer l'anatomie, la texture des ailes, qu'on peut analyser, transmettre, etc. L'expérience est le fait d'être un papillon.
Il ne nous est possible que de fournir des règles logiques. Et pour ce que nous ne comprenons pas, nous gavons actuellement les algorithmes avec du big data, en espérant qu'ils finiront par en dégager des règles qui nous échappent encore. Mais projeter un milliard de photos de ciel bleu à un aveugle-né ne lui donnera pas la vue. L'ordinateur enregistre les choses de la façon dont vous lui avez appris à enregistrer : avec des concepts ; longueur d'onde, teinte, couleur, saturation. Mais offrez donc les mêmes données à un aveugle, et voyez si subitement, il comprend l'expérience du bleu.
A un algorithme de traitement du son, jouez mille fois l'intégrale des Beatles, et voyez s'il lui suffit d'assembler tout ce qu'elle en a retenu (hauteur du son, progression harmonique, compression audio...) pour faire naître une expérience sensorielle concernant... cette chose que nous ne savons que nommer sans la dire... la musique. L'algorithme sera parfaitement capable de simuler la perception du rythme, et un robot pourra dodeliner de la tête et taper du pied : illusion troublante, mais bel et bien illusion ; celle d'un sourd regardant défiler un graphe sonore, et à qui on a expliqué le concept de tempo.
Percevoir n'est pas entendre. Percevoir est enregistrer une suite de données sans les expérimenter. Entendre est inexplicable. Tout ce que perçoivent et percevront les machines sera codé par la manière simplifiée que nous avons de manipuler l'expérience du monde. Elles n'auront jamais accès à une expérience de la lumière : mais à des mesures de longueur d'onde.
Or, retirez la sensation et il n'y a plus de vie.
Plus le temps passe et plus je crois que l'idée de singularité technologique, ce moment où nous serons capables de passer de l'autre côté, de créer une véritable conscience, est un mirage que l'humanité n'atteindra jamais.
En revanche, ce qui peut se transmettre, c'est le concept de couleur, le concept de musique ; c'est à dire une réduction de l'expérience, une simplification destinée à la rendre manipulable. On en fait ainsi un petit paquet bien fermé, qu'on peut enseigner à d'autres : quand j'utilise les mots de musique ou de bleu, vous savez de quoi je parle, même si les mots en eux-mêmes n'en disent rien. Si vous voulez comprendre en profondeur ce que je dis, vous ne pouvez pas en rester là : vous devez rattacher ces concepts à l'expérience que vous en avez déjà eue.
Pour le dire plus simplement : le bleu ne s'enseigne pas, il se vit.
A la différence des couleurs et des sons, nous n'avons aucune sensation de ce que sont les objets mathématiques. Personne n'a jamais vu un point mathématique, une droite ou un plan, objets à zéro, une ou deux dimensions. Ces objets ne sont que des concepts : on en a des définitions exhaustives, qui suffisent à en dire le tout. Un point mathématique est « l'unique intersection entre deux droites sécantes » : c'est tout ce que vous avez besoin de savoir, et tout ce que vous saurez jamais sur le point. Dans ce cas, l'esprit humain n'est pas parti d'une sensation pour aller vers un concept, mais a inventé un concept qui n'existe pas dans la réalité.
Imaginons ce que cela signifierait que la couleur soit, pour nous, comme un point mathématique. Cela voudrait dire que le concept de longueur d'onde suffit à en circonscrire la totalité. Autrement dit, nous ne la verrions pas : nous serions comme des aveugles-nés à qui on enseigne la physique ondulatoire. Nous ne ferions que raisonner sur la couleur, sans jamais la ressentir. Mais aussi, nous aurions l'impression qu'il n'y a aucun mystère en elle, rien d'insaisissable : puisque la sensibilité nous en manquerait, nous penserions que le concept et la chose sont absolument identiques.
Étendons maintenant ce postulat à l'ensemble de nos sensations, et imaginons que chaque élément du monde nous soit compréhensible et saisissable de part en part, comme une équation mathématique. Nous pourrions alors prétendre à une connaissance totale des choses : nous saurions tout du monde, ou plutôt du concept-monde, que nous croirions être la chose-monde, mais sans nous apercevoir de la prison aveugle, de l'abstraction mentale où nous serions coincés. En réalité nous n'aurions aucun contact avec le monde : privés de sens, nous serions des esprits purs, sans chair, manipulant des pensées comme un ordinateur manipule des règles de calcul, sans aucun accès à l'extérieur, sans prise sur la réalité.
C'est exactement ce que nous faisons avec les intelligences artificielles.
On pourra se raconter ce qu'on veut : une machine est, et restera totalement coupée du monde, pour la seule raison que nous n'avons aucun moyen de lui enseigner ce qu'est une sensation. Il est impossible à l'esprit humain de faire entrer dans un concept l'expérience de la couleur bleue, pas plus que l'expérience de la joie, de la passion amoureuse, de la beauté, de la satisfaction, etc. Les concepts sont des papillons morts, punaisés sur un tableau en liège, qu'on peut examiner de tous les côtés, dont on peut observer l'anatomie, la texture des ailes, qu'on peut analyser, transmettre, etc. L'expérience est le fait d'être un papillon.
Il ne nous est possible que de fournir des règles logiques. Et pour ce que nous ne comprenons pas, nous gavons actuellement les algorithmes avec du big data, en espérant qu'ils finiront par en dégager des règles qui nous échappent encore. Mais projeter un milliard de photos de ciel bleu à un aveugle-né ne lui donnera pas la vue. L'ordinateur enregistre les choses de la façon dont vous lui avez appris à enregistrer : avec des concepts ; longueur d'onde, teinte, couleur, saturation. Mais offrez donc les mêmes données à un aveugle, et voyez si subitement, il comprend l'expérience du bleu.
A un algorithme de traitement du son, jouez mille fois l'intégrale des Beatles, et voyez s'il lui suffit d'assembler tout ce qu'elle en a retenu (hauteur du son, progression harmonique, compression audio...) pour faire naître une expérience sensorielle concernant... cette chose que nous ne savons que nommer sans la dire... la musique. L'algorithme sera parfaitement capable de simuler la perception du rythme, et un robot pourra dodeliner de la tête et taper du pied : illusion troublante, mais bel et bien illusion ; celle d'un sourd regardant défiler un graphe sonore, et à qui on a expliqué le concept de tempo.
Percevoir n'est pas entendre. Percevoir est enregistrer une suite de données sans les expérimenter. Entendre est inexplicable. Tout ce que perçoivent et percevront les machines sera codé par la manière simplifiée que nous avons de manipuler l'expérience du monde. Elles n'auront jamais accès à une expérience de la lumière : mais à des mesures de longueur d'onde.
Or, retirez la sensation et il n'y a plus de vie.
Plus le temps passe et plus je crois que l'idée de singularité technologique, ce moment où nous serons capables de passer de l'autre côté, de créer une véritable conscience, est un mirage que l'humanité n'atteindra jamais.
Aucun commentaire:
Enregistrer un commentaire