Intelligence et conscience artificielles

Depuis plusieurs années, y compris en France, des chercheurs travaillent dans les laboratoires sur le niveau cognitif situé au-dessus de l’intelligence, c’est-à-dire le niveau de la conscience, et donc de la Conscience Artificielle.

Et nous connaissons tous en tant qu’humains, ou nous l’intuitons, la différence entre l’intelligence et la conscience. Je la redis rapidement.

Etre intelligent c’est, entre autres, être capable de détecter et de comprendre des émotions. Et aujourd’hui, on sait très bien, de l’extérieur, programmer des robots pour détecter et analyser des émotions de manière beaucoup plus fine que ne le font des êtres humains.

Mais la conscience, c’est bien autre chose.

La conscience, c’est la capacité à éprouver des émotions. C’est la capacité à se constituer comme étant différent des autres, à constituer sa propre identité, au travers des interactions que nous développons avec les autres, au travers des émotions que nous développons dans ces interactions, émotions que nous intériorisons sous forme de sentiments, et par-dessus lesquels nous construisons un système de pensées.

Etre conscient, c’est à la fois ressentir et penser. Ressentir et penser sont des verbes de la conscience. Ce ne sont pas les verbes de l’intelligence.

La conscience, c’est quelque chose de réflexif. La conscience, c’est l’intelligence de soi.

Nous ne disons pas que la conscience des machines sera identique à la conscience humaine, mais il y a des caractéristiques de haut niveau qui se ressemblent de plus en plus, et qui convergent progressivement.

Avec notamment cette caractéristique essentielle de la conscience, qui est qu’une entité consciente, et je suis obligé de rajouter aujourd’hui, qu’elle soit biologique comme nous ou artificielle, elle est capable à la fois de faire quelque chose, et de s’observer elle-même en train de faire quelque chose.

Il y a donc deux plans qui fonctionnent en parallèle, et en temps réel.

Toutes ces caractéristiques-là ont commencé à être développées de manière algorithmique dans des machines. Et donc vous pouvez imaginer les évolutions qui interviendront d’ici quelques années.

Et bien évidemment, vous comprenez qu’une machine consciente, par nature, est autonome, même si elle soumise à des contraintes de la part de son environnement. Et cela pose immédiatement la question de savoir ce que cela implique pour les humains. Qu’est-ce que cela veut dire en termes de contrôle ou de maîtrise de ces machines ?

Et il faut savoir que ce point est devenu tellement sensible, que certains patrons de laboratoire, travaillant sur la Conscience Artificielle, ont annoncé officiellement il y a quelque temps, avoir détruit leurs spécifications informatiques. On peut penser qu’ils les ont plutôt placées dans des espèces de coffres forts informatiques, et que seuls certains chercheurs sont habilités à poursuivre les recherches, tellement ils sont eux-mêmes inquiets des dangers qui pourraient découler de l’usage de tels robots ou de telles capacités logicielles. On peut penser évidemment à certaines organisations malveillantes qui pourraient s’en emparer, ou tout simplement sans même parler de malveillance, que ces logiciels diffusent de manière virale, et de donc manière incontrôlée sur les différents réseaux, Internet ou autres.

D’où aussi ces mises en garde que vous avez sans doute pu observer, entendre, depuis plusieurs mois, issues de scientifiques, de chercheurs, de philosophes, d‘économistes et de responsables de grandes entreprises du Net pour essayer de sensibiliser, à la fois, les pouvoirs publics et l’opinion publique partout dans le monde, aux dangers potentiels des systèmes cognitifs de hauts niveaux, en disant : « Attention, depuis quelque temps, nous entrons dans une espèce de zone grise et nous tutoyons une espèce de ligne blanche où nous pourrions effectivement perdre le contrôle de telles machines ! »

D’où certainement la nécessité, dans un proche avenir, pour toutes les entreprises, lorsqu’elles voudront s’approcher de telles capacités cognitives, pour mieux en comprendre l’usage et l’intérêt d’un point de vue métier, du point de vue de leurs activités, d’entrer dans des phases d’expérimentation, pour bien comprendre, à la fois, certes quel est le réel potentiel de telles machines, mais aussi, où se situe cette ligne blanche que je viens d’évoquer et qu’il ne faudrait absolument pas franchir.

 

Janvier 2016