L’Intelligence Artificielle, c’est complexe

Quand j’ai commencé mon doctorat sur les Systèmes Multi-Agents (SMA), j’ai dû bien évidemment me plonger dans le domaine scientifique. Mais juste avant, j’ai lu un tout petit livre que m’avait conseillé un ami. Il m’en avait vanté longuement les mérites et m’avait assuré que cela m’aiderait à considérer les choses d’une toute autre manière. J’ai donc commencé la lecture de l’Introduction à la pensée complexe d’Edgar Morin.

Que dit Edgar Morin ?

Même si ce livre peut se parcourir rapidement, il n’est pas facile à appréhender quand on n’a que de simples bases en philosophie. Certains paragraphes me semblaient tellement obscurs que je devais m’y reprendre à plusieurs fois pour tenter d’en trouver le sens. Toutefois, cet ouvrage m’a permis de comprendre la différence entre une chose compliquée et une chose complexe.

Au premier abord, la complexité est un tissu (complexus : ce qui est tissé ensemble) de constituants hétérogènes inséparablement associés : elle pose le paradoxe de l’un et du multiple. Au second abord, la complexité est effectivement le tissu d’événements, actions, interactions, rétroactions, déterminations, aléas, qui constituent notre monde phénoménal. Mais alors la complexité se présente avec les traits inquiétants du fouillis, de l’inextricable, du désordre, de l’ambiguïté, de l’incertitude… D’où la nécessité, pour la connaissance, de mettre de l’ordre dans les phénomènes en refoulant le désordre, d’écarter l’incertain, c’est-à-dire de sélectionner les éléments d’ordre et de certitude, de désambiguïser, clarifier, distinguer, hiérarchiser.

(Edgar Morin – Introduction à la pensée complexe)

Quelle interprétation ?

L’auteur nous explique que la complexité vient finalement du paradoxe entre la connaissance intime d’une entité identifiée et l’impossibilité de comprendre les phénomènes induits par un ensemble de ces mêmes entités évoluant dans un environnement commun. En effet, toutes les interactions (événements, actions, rétroactions, etc) entre ces entités provoquent une évolution non-prédictive du système. En d’autres termes : ce n’est pas parce que nous connaissons parfaitement une entité que nous comprenons le système composé de ces entités en interaction.

La complexité semble être un fouillis inextricable. Nous cherchons donc à le comprendre en modélisant et en simulant des environnements reprenant les caractéristiques de ces entités avec le but principal d’augmenter notre capacité de compréhension générale d’un phénomène mais également d’accroître notre capacité d’anticipation en mettant en lumière de possibles comportements émergents, tel est l’un des objectifs des SMA.

Et l’IA dans tout ça

Par extension, force est de constater que l’Intelligence Artificielle n’est pas un concept simple et monobloc. La discipline est tentaculaire et sous-tend de nombreux domaines scientifiques. Au premier abord, c’est un empilement de techniques, un agencement étudié pour répondre à des problématiques données. Dans ce cas précis, nous pourrions y voir quelque chose de compliqué seulement, chaque bloc est totalement explicable et l’organisation est connue. Au risque d’être caricatural, prenons l’exemple d’un système expert qui analyse des données structurées et applique des règles. Les algorithmes sont bien connus, l’arborescence de décision est bien définie. Cela peut être compliqué mais en aucune façon complexe.

Mais si nous considérons maintenant des Intelligences Artificielles pouvant remplir plusieurs objectifs dans un environnement dynamique, interagissant avec d’autres entités (humaines ou artificielles), nous tombons dans la complexité. Les échanges successifs d’informations viennent augmenter, modifier et influencer les comportements de ces programmes intelligents. Je pense par exemple aux problématiques liées aux véhicules autonomes.

Et si nous descendons encore plus profondément dans les arcanes de ces IA, nous pouvons aisément imaginer les interactions au sein des différents modules de perception, d’interprétation et de décision. Chaque nouvelle perception pourrait avoir plusieurs interprétations (valables ou non). Chaque interprétation conduit à des prises de décision. Ces décisions se traduiront par des comportements. Et ces comportements influenceront les autres entités dans l’environnement. Nous retrouvons la fameuse boucle de « perception – décision – action » avec tous les effets rétroactifs induits.

Allons toujours plus loin, quelles perspectives ?

Pour concevoir ces systèmes, les scientifiques s’inspirent très souvent de la nature humaine. Ils cherchent à mieux comprendre comment nous percevons, décidons, arbitrons et agissons. L’objectif est de traduire ces mécanismes afin de créer des entités artificielles toujours plus intelligentes (pouvant s’adapter à de nouvelles situations inconnues et faire preuve d’imagination) et flexibles. Cependant, même si la science a fait de nombreux progrès, nous ne sommes pas encore à l’aube de la création d’une IA forte, universelle et omnipotente.