Matthieu Vergne

Ayant un attrait tout particulier pour l'intelligence artificielle au sens propre du terme (pas en tant que simple technique, comme l'apprentissage profond), j'ai effectué mes propres recherches sur la définition de la notion d'intelligence et comment la lier à l'intelligence artificielle. Ceux souhaitant quelque chose d'un tant soit peu rigoureux pourront regarder le résultat de mon post-doc, qui pose les bases de ma réflexion :
http://www.aaai.org/ocs/index.php/WS...per/view/15148 (en anglais)

C'est un article de recherche publié en conférence avec comité de lecture, ce qui permet déjà de valider le raisonnement.

Plus récemment (le 7 mai 2018), j'ai contacté une personne préparant un séminaire sur la super-intelligence, en lui parlant de mon parcours et de mon intérêt pour le concept. Il en a profité pour me faire la demande suivante :

en deux mots quelle définition de l’intelligence fait consensus (ou à défaut laquelle vous défendez) ; c’est effectivement un problème apparent sur le sujet que de ne pas trouver de définition claire et bien acceptée.

Je met ci-dessous la copie de ma réponse, qui se découpe en 2 parties : une version courte et une détaillée. Cette réponse est plus accessible que l'article de recherche et en français. Je la met car j'estime qu'elle offre à la fois un point de départ pertinent à la réflexion (elle s'appuie sur l'article précédent) ainsi que des sources pour creuser davantage le concept, ce qui lui donne un certain intérêt pédagogique. Donc autant la publier pour en faire profiter tout le monde.

---

TLDR:

Bonjour,

Une définition qui fait consensus en deux mots ? Facile !

Aucune, hélas.

Pour ce qui me concerne, l'intelligence d'un individu m'apparaît comme :

l'ensemble des connaissances et compétences de l'individu communes à l'ensemble des domaines d'expertise.

Ces connaissances et compétences sont celles sur l'individu lui-même : se percevoir lui-même, percevoir son environnement, et raisonner sur ses interactions avec celui-ci. De telles capacités lui permettraient alors de comprendre comment interagir avec son environnement pour atteindre son objectif. Là où le niveau d'expertise dans un domaine donné se mesure en terme de performance à un moment donné dans ce domaine, le niveau d'intelligence peut être vu comme la capacité à améliorer son niveau d'expertise dans n'importe quel domaine.

Je laisse à vos réflexions, si le temps et l'intérêt sont de votre côté, un raisonnement plus détaillé ci-dessous. Il se termine sur une réflexion sur ma vision de la super-intelligence et contient notamment des questions que j'aurais aimé vous poser lors de votre séminaire. J'espère donc que vous aurez l'occasion d'en aborder lors de celui-ci, une vidéo future ou une discussion avec Lé.

Cordialement.

Matthieu

-----

Intelligence Humaine

Pour ce que j'ai pu voir jusque là, il n'y a visiblement pas de consensus quant à la définition de l'intelligence. On peut notamment consulter les travaux de Gottfredson sur le sujet pour un constat rapide :

Gottfredson, Linda S. « Mainstream Science on Intelligence: An Editorial with 52 Signatories, History, and Bibliography ». Intelligence 24, no 1 (janvier 1997): 13‑23. https://doi.org/10.1016/S0160-2896(97)90011-8.

Si on peut trouver grand intérêt dans le fait que ces travaux convient plusieurs dizaines de spécialistes du domaine pour tenter de dessiner les contours du concept d'intelligence, je ne peux qu'être déçu d'obtenir pour définition une énumération à la fois longue, abstraite, et ouverte :

Intelligence is a very general mental capability that, among other things, involves the ability to reason, plan, solve problems, think abstractly, comprehend complex ideas, learn quickly and learn from experience. It is not merely book learning, a narrow academic skill, or test-taking smarts. Rather, it reflects a broader and deeper capability for comprehending our surroundings-“catching on,” “ making sense” of things, or “figuring out” what to do.

De quoi laisser chacun y trouver son interprétation, mais difficilement exploitable en l'état. Sans oublier que ces travaux se limitent principalement aux considérations psychométriques (i.e. tests de QI). On pourra avoir une vision plus générale et plus récente en lisant des ouvrages plus complets tel que celui de Sternberg & Kaufman :

Sternberg, Robert J., et Scott Barry Kaufman, éd. The Cambridge Handbook of Intelligence. Cambridge: Cambridge University Press, 2011. http://www.cambridge.org/us/academic...k-intelligence.

Le chapitre 4 décrit notamment, en plus des modèles psychométriques, les modèles physiologiques (i.e. le cerveau et les effets micro), sociaux (i.e. jugements sociétaux et les effets macro) ainsi que quelques hybrides. La conclusion de ce chapitre est, hélas, désolante et récurrente :

The Latin root for the word intelligence roughly translates as “to understand.” Do the contemporary models reviewed in this chapter help us understand what it means for one person to be more intelligent than another? Not exactly, in that each level of research has its own answer to the question.

Expertise Humaine

Un chapitre de l'ouvrage précédent est dédié à la comparaison entre expertise et intelligence :

Ackerman, Phillip L. « Intelligence and Expertise ». In The Cambridge Handbook of Intelligence, édité par Robert J. Sternberg et Scott Barry Kaufman, 847--860. Cambridge: Cambridge University Press, 2011. http://www.cambridge.org/us/academic...k-intelligence.

On y trouvera le récurrent échec de la définition de l'intelligence :

for intelligence, it is largely impossible to provide a coherent discussion without a stipulative definition [NDT: définition libre prise par l'auteur].

On appréciera tout de même que le concept qui lui fait face n'y soit pas sujet :

For expertise, we can rely on a lexical definition [NDT: définition de dictionnaire]

La notion d'expertise est en effet bien plus stable et dispose d'un vrai consensus. La plus complète et précise que j'ai pu trouver à ce jour est la définition d'expert donnée par Merriam Webster :

having, involving, or displaying special skill or knowledge derived from training or experience.

Si on peut lui reprocher l'usage du terme vague "spécial", une lecture plus riche d’œuvres sur le sujet permet néanmoins de lui donner une interprétation plus précise, à savoir des compétences ou connaissances pertinentes pour le domaine d'expertise ciblé. On pourra par exemple jeter un coup d’œil à l'ouvrage d'Ericsson pour s'en convaincre :

Ericsson, K. Anders, éd. The Cambridge Handbook of Expertise and Expert Performance. Cambridge ; New York: Cambridge University Press, 2006. http://www.cambridge.org/us/academic...rt-performance.

Expertise & Intelligence Humaine

S'il est une chose que j'ai remarqué en lisant ces ouvrages, c'est à quel point les ponts sont nombreux entre les deux. Si celui sur l'intelligence dispose même d'un chapitre dédié sur l'expertise, celui sur l'expertise mentionne 919 fois le terme d'intelligence (sur 901 pages, soit plus d'une fois par page). Les références allant et venant sont nombreuses, et leurs chapitres 1 respectifs, donnant l'histoire des concepts, décrivent globalement la même histoire vue de deux perspectives différentes. Après une telle lecture, il est évident que les deux notions se croisent pour évaluer la performance d'un individu. La principale séparation entre les deux concepts me semble être de deux ordres :

• là où l'expertise se spécialise dans un domaine, l'intelligence se généralise à leur ensemble.
• là où la définition d'expertise a atteint un consensus, celle d'intelligence n'y est pas arrivé.

C'est pourquoi je m'appuie sur la définition d'expertise, qui a fait ses preuves, et sur la perception de cette complémentarité spécialiste-généraliste pour établir ma définition d'intelligence. Si la définition de l'expertise d'un individu est :

l'ensemble des connaissances et compétences de l'individu pertinentes dans le domaine d'expertise ciblé.

L'intelligence d'un individu est alors :

l'ensemble des connaissances et compétences de l'individu communes à l'ensemble des domaines d'expertise.

C'est là mon point de départ, et il convient dès lors d'identifier quelles peuvent être ces connaissances et compétences, censées être partagées par l'ensemble des domaines d'expertise. Pour ce que j'en vois, au moins un élément me semble évidemment commun : si on parle de l'expertise d'un individu dans de nombreux de domaines, le point d'achoppement est l'individu lui-même. Ces connaissances et compétences couvrent donc sa capacité à se percevoir lui-même, à percevoir ce qui l'entoure et ses interactions avec son environnement. Une sorte d'"expertise de soi". Une expertise non-généralisable, car elle ne s'applique qu'à lui-même, et n'a donc que peut d'intérêt à être partagée a contrario d'un domaine d'expertise classique. Un usage du terme expertise qui dévie un peu de l'usage usuel du terme (*), mais c'est une description qui me semble facile à comprendre et qui offre un bon résumé de la définition.

De telles connaissances/compétences permettraient à l'individu de comprendre son propre fonctionnement, celui de son environnement, et ainsi de les mettre à profit pour monter en expertise dans un domaine quelconque (choisi ou subit). Là où le niveau d'expertise dans un domaine se mesure en terme de performance à un moment donné dans ce domaine (sur la base de critères pertinents pour ce domaine), le niveau d'intelligence peut être vu comme la capacité à améliorer son expertise, et donc la variation du niveau d'expertise dans tous domaines confondus.

(*) Si je m'en réfère à la définition d'expertise de Merriam Webster, celle-ci est acquise par l'expérience, la pratique. Or l'intelligence telle qu'on la conçoit usuellement ne me semble pas être assujettie à une telle contrainte (nombreux sont les travaux sur l'intelligence à partir de caractères génétiques). Une capacité innée, au moins en partie, n'est donc pas choquante, ce qui nous interdit dès lors de l'appeler "expertise de soi". Mais comme on peut tout à fait concevoir que ce qui est inné n'est qu'un point de départ et qu'on l'enrichit avec l'expérience que nous offre la vie (les travaux sur l'intelligence influencée par l'environnement sont aussi nombreux), une partie de cette capacité peut alors être appelée expertise. L'abus de langage qui réduirait à ce terme ne me semble pas choquant ici, tant qu'on en reste conscient que ce n'est qu'un raccourci.

Expertise & Intelligence Artificielle

Dès lors que nous avons cette base, nous pouvons se pencher sur leur version "artificielle". Pour éviter les débats de forme, plutôt que de parler de connaissances, nous parlerons alors de données ou d'information (j'utiliserai ce dernier, dans le même esprit que la théorie de l'information), et plutôt que de parler de compétences, nous parlerons de fonctions.

On parle dès lors de l'expertise d'un agent artificiel comme étant :

l'ensemble des informations et fonctions de l'agent pertinentes dans le domaine d'expertise ciblé.

et son intelligence :

l'ensemble des informations et fonctions de l'agent communes à l'ensemble des domaines d'expertise.

Deux choses sont alors à noter :

• ces définitions s'adaptent naturellement autant aux agents humains qu'artificiels, ce qui permet en fait de généraliser à des définitions d'expertise et d'intelligence générale, et non spécifiquement humaines ou artificielles.
• la première définition décrit très bien ce qu'on peut trouver aujourd'hui dans le domaine de l'IA : des agents qui, de par leurs conceptions, disposent d'informations et de fonctions particulièrement efficace pour les tâches visées.

Le second point, en particulier, me semble très éclairant sur le fait que nombre de personnes se refusent à parler d'agents artificiels doués d'intelligence à l'heure actuelle : ils sont juste bien trop spécialisés pour pouvoir déceler la moindre intelligence. Il s'agit là d'experts artificiels avant tout. L'IA a d'ailleurs démarrés avec la conception de "systèmes experts", ce qui en dit long sur l'ADN du domaine. Mais je ne parlerai pas d'histoire ici. Je laisserai les intéressés se documenter, l'ouvrage de Keith & Ramsey étant un bon début :

Frankish, Keith, et William M. Ramsey, éd. The Cambridge handbook of artificial intelligence. Cambridge, UK: Cambridge University Press, 2014.

Ce qu'il convient de retenir est que, en général, quand on parle d'IA, on parle plus d'expertise que d'intelligence. Seuls certains travaux en intelligence artificielle générale me semblent associés à une réelle recherche d'agents artificiels doués d'intelligence.

Super-expertise & Super-intelligence

Cela m'amène finalement à la notion de super-intelligence. Une petite mise en bouche avant le séminaire de l'EPFL, pour le coup. Pour une question évidente de temps, je vais tenter de rester très succinct car les points à aborder sont nombreux.

Tout d'abord, il convient de noter qu'être expert dans un domaine consiste à avoir des connaissances et compétences "pertinentes", ce qui nécessite de filtrer ce qui ne l'est pas. Ainsi, un très bon joueur d'échec est attendu sur sa capacité à gagner des parties, et non pas à imaginer de nouvelles règles de jeu. De manière plus subtile, un domaine tel que la physique se résume à quelques modèles communément admis, les nouveaux en cours de travaux, mais avec l'idée générale de converger vers une théorie du tout, capable d'expliquer tous les phénomènes physiques grâce à un modèle unique et fini. Il est donc, en pratique, commun qu'un domaine soit limité par nature. Ce qui n'est pas limité est en revanche le nombre de domaines.

De par cette limite, le niveau d'expertise maximal est lui-même limité, dès lors deux cas peuvent se produire. Dans le cas où le maximum est atteignable, les meilleurs experts ont tous l'ensemble des connaissances et compétences (et donc les même). Par exemple, dans un jeu pour enfant où il faut être capable d'associer un ensemble fini de mots à des images, une fois l'ensemble des associations connues par cœur, l'expertise maximale dans ce jeu est atteinte, et tous les joueurs ayant atteint ce niveau sont alors aussi compétent les uns que les autres. Dans le cas où le maximum n'est pas atteignable, cela veut dire qu'on se situe dans un cas de convergence infinie mais bornée, telle une suite croissante majorée : on peut toujours s'améliorer, mais sans jamais dépasser la limite. C'est notamment le cas des jeux d'adresse ; on peut toujours être meilleur en allant encore plus vite, mais difficile d'atteindre une vitesse infinie. On pourra toujours essayer d'atteindre la vitesse de la lumière, mais je laisse cela aux plus motivés.

Toutes les présentations de super-intelligence que j'ai pu voir (qui parlent en fait de super expertise ou de super multi-expertise) ont brillé par cet absence : par la seule raison que l'intelligence augmente, potentiellement au travers d'un cercle vertueux (plus intelligent -> crée une machine plus intelligente -> plus intelligent encore), forcément celle-ci devrait croître de manière exponentielle. Or, non seulement une telle évolution peut être linéaire, voire logarithmique, mais elle peut même être bornée. Nous l'oublions trop souvent.

Point que je n'ai pas encore couvert, c'est les expertises multiples : si un domaine est limité, on peut croître indéfiniment en étant expert dans toujours plus de domaines. Or, les travaux sur l'expertise montrent que devenir expert dans un domaine nécessite d'acquérir des biais spécifiques à ce domaine, rarement généralisables, et potentiellement opposés à d'autres. Par exemple, un coureur de 100m doit apprendre à maximiser son déploiement d'énergie pour minimiser son temps, alors qu'un coureur de marathon doit faire l'inverse pour tenir sur la durée. Les muscles ne sont pas sollicités de la même manière, et ainsi un expert en 100m, ayant développé son corps pour ce sport, aura beaucoup de mal à atteindre le niveau d'un expert en marathon sans perdre son niveau en 100m (et inversement). Il me semble donc difficilement justifiable de considérer qu'une seule et même entité puisse maîtrisée tous les domaines à leur plus haut niveau. Celle-ci devra nécessairement faire un choix entre spécialisation et généralisation.

La seule manière rationnelle pour obtenir un dépassement exhaustif me semble alors être la performance collective, impliquant plusieurs machines expertes (j'associe les ajouts de composants à une collectivité de machines). Dans ces conditions, cela ne change pas d'une collectivité d'humains : il s'agit d'avoir les meilleurs experts et les meilleurs méthodes d'organisation pour exploiter leurs complémentarités. Une "machine" super-experte n'a donc rien d'inconcevable en ce sens, et c'est comme cela que fonctionne Watson d'IBM (en bref : des tas d'outils différents, finement sélectionnés et paramétrés, derrière un système de vote).

Un bémol sur ce raisonnement est que j'ai parlé de super-expertise, car c'est le sens que je comprends quand j'entends parler de super-intelligence autour de moi. Mais quid d'une super-intelligence si je me base sur ma propre définition ? L'intelligence étant la capacité à gagner en expertise, cela peut se voir sur plusieurs dimensions : la rapidité d'acquisition d'une expertise donnée et le nombre d'expertises acquises. Comme je l'ai mentionné précédemment, chercher à acquérir toutes les expertises possibles ne me semble pas rationnel. La machine atteindra un moment où il faudra perdre ici pour gagner là. Ce qui me semble pertinent de considérer pour une super-intelligence est alors cette capacité à s'adapter rapidement : augmenter rapidement dans les expertises les plus utiles, quitte à perdre dans les expertises les moins utiles si nécessaire. Une super-intelligence serait donc, tout comme un major de promo, une machine capable d'acquérir rapidement les connaissances et compétences nécessaires pour atteindre son objectif, quel qu'il soit. Mais encore une fois, cela ne me semble en rien inconcevable : il s'agit d'identifier et d'intégrer les connaissances et compétences pertinentes, comme ce que fait tout un chacun. Cela dépend entièrement des ressources à disposition, et une machine peut donc avoir un certain avantage en terme d'échelle, mais cela n'est en rien différent de ce que peut faire un être humain.

Je me permettrai un dernier point, qui me semble être au cœur de votre séminaire du 16 mai (ce que je confirmerai quand je le visionnerai) : l'acquisition de connaissances et de compétences encore inconnues pour l'être humain. De telles capacités rendraient effectivement difficile de concevoir une telle "intelligence". Or, si je m'en tiens à ma définition, l'intelligence est une question de rapidité d'acquisition, le contenu n'étant au final que peu pertinent. Ce point concerne donc l'intelligence au sens expertise. Or, on juge de l'expertise des individus en fonction des connaissances et compétences "pertinentes" pour le domaine ciblé. Et celles-ci doivent donc être jugées comme pertinentes pour l'objectif à atteindre (qui diffère selon chaque domaine, mais est tout à fait concevable). Par conséquent, à moins que la machine ne cherche à atteindre un objectif tout à fait nouveau, il ne me semble pas rationnel de considérer qu'elle offre un "point aveugle". Et dans le cas où celle-ci tenterai effectivement d'atteindre un nouvel objectif, si celui-ci est difficile à comprendre pour l'être humain, plusieurs comportements me semblent concevables :

• la peur de l'humain, du fait de ne pas savoir à quoi s'attendre, et par la même l'arrêt de la machine. Celle-ci, ne l'oublions pas, n'est qu'un outil, au moins à l'heure actuelle.
• la curiosité de l'humain, ce qui nous sort totalement du contexte de jugement du niveau d'intelligence/expertise. Il s'agit alors de voir ce que ça donne, sans être réellement capable de juger du niveau de performance. Utile en laboratoire, ce ne sera en revanche considéré que comme du hors sujet dans une réelle tentative d'évaluation de performance. Ce sera davantage utile dans une évaluation de créativité, ce qui est un tout autre sujet (et ramène donc à d'autres ouvrages).
• le changement de cap de la machine, car si celle-ci a effectivement pour objectif de montrer sa supériorité sur l'humain, elle ne peut échapper à la nécessité d'être jugée comme telle par celui-ci, et donc ne peut se permettre d'avoir un comportement qui engendrerai l'un des points précédents.

En bref, si la machine devait avoir des comportements inconcevables, cela ne pourrait pas être qualifié de super-expertise, et donc de super-intelligence au sens usuel du terme. À moins de lui accorder l'autorité pour juger par elle-même de sa propre performance sans confirmation extérieure, ce qui va à l'encontre de toute analyse scientifique. Mais cela n'empêche en rien d'y réfléchir de manière philosophique, bien entendu. {^_°}