La question de la confiance est récurrente lorsque l’on parle d’intelligence artificielle. Pourquoi questionne-t-on autant la crédibilité et la fiabilité de l’IA ?

P. Leray Ces dernières années, le Deep learning s’est révélé comme un type d’algorithmes d’apprentissage hyper performant, lorsqu’il dispose d’une grande quantité de données. Mais, dans un monde ouvert, le fait de ne s’appuyer que sur des données ne permet pas d’obtenir des outils automatiques parfaits, juste des outils qui vont reproduire parfaitement ce que nous faisons, erreurs comprises… Il n’y a qu’à voir le chatbot de Microsoft Tay, qui était conçu pour discuter de tout et de rien avec les utilisateurs, en se servant des phrases des utilisateurs pour s’améliorer. Ce chatbot a très vite reproduit l’attitude d’un néo-nazi machiste, à l’image des utilisateurs qui s’étaient « amusés » avec cette IA.

Au niveau éthique, ces interrogations sont encore plus marquées lorsque l’on utilise l’IA pour nous accompagner dans des prises de décision qui ont de lourdes conséquences, telles qu’un traitement médical ou une décision de justice. A-t-on envie en tant qu’usager de faire confiance à des IA boîtes noires ? Nous pouvons expliquer pourquoi nous avons fait tel ou tel choix et, dans certains cadres légaux, nous en avons même le devoir. L’IA devrait être capable de faire la même chose.

À quelles conditions l’expert pourrait-il avoir confiance dans des systèmes basés sur l’IA ?

P. Leray Je travaille depuis plus de 20 ans sur une famille de modèles graphiques probabilistes qui répond à cet enjeu de confiance : les réseaux bayésiens. Il s’agit d’un outil graphique de représentation des connaissances, par définition interprétable. Un expert peut porter un regard métier sur ce qui a été appris par le modèle graphique sous l’angle statistique, et donner du sens à la représentation qu’il lui donne.

Pouvez-vous nous en dire plus sur ce modèle d’IA ? Comment fonctionne-t-il ?

P.H. Joalland Les réseaux bayésiens sont des modèles graphiques probabilistes. Ils formalisent les connaissances sous une forme très riche.

La partie graphique permet de décrire des connaissances. Prenons un exemple, absurde mais parlant : il pleut, il est possible que je glisse. Grâce à la partie probabiliste du modèle, je vais pouvoir décrire des incertitudes. Je reprends l’exemple de la glissade sous la pluie : on va décrire le fait je ne glisse pas systématiquement quand il pleut, mais que j’ai aussi peu de risque de glisser s’il ne pleut pas.

Pour cela, je créé des dépendances entre des événements, c’est-à-dire un lien qui affirme pluie = glissade. Ensuite, je créé une probabilité conditionnelle sur l’événement glissade. Le modèle ainsi construit me permet de gérer beaucoup d’incertitudes. Je vais ainsi pouvoir poser des questions incluant de l’incertain, du type – et ce sera mon dernier exemple pluvieux – si la météo annonce de la pluie dans les prochains jours, mais avec une certaine probabilité, quels sont les risques que je glisse finalement ?

Pour quelles applications, cette gestion des incertitudes peut-elle être utile ?

P. Leray Les réseaux bayésiens sont des modèles qui permettent de représenter des connaissances, et que l’on peut interroger « dans tous les sens » : nous pouvons aussi bien partir d’une observation que d’un événement. À ce titre, on utilise souvent les réseaux bayésiens pour modéliser des systèmes complexes, car ils permettent à la fois de faire de la prédiction, de la recommandation, et du diagnostic, en fonction du système modélisé et des questions qui sont posées au modèle. Pour vous donner quelques exemples, cela peut servir dans le diagnostic médical : vous connaissez des symptômes et vous allez interroger la maladie. Ou pour faire du service après-vente : vous savez qu’un système est cassé et vous recherchez la cause du problème.

De quelles données ont besoin les réseaux bayésiens ?

P.H. Joalland Les réseaux bayésiens peuvent être mis en œuvre même lorsqu’on dispose de peu de données, voire aucune. Les connaissances devront alors provenir d’experts, avec qui il faudra travailler pour les formaliser, reproduire leur raisonnement, probabiliser les relations de causes à effets et ainsi produire un modèle graphique explicite.

Concrètement, comment exploitez-vous les données pour établir des prédictions grâce aux réseaux bayésiens ?

P.H. Joalland Il y a trois cas de figure. S’il n’y a pas de données disponibles, nous échangeons avec un expert et nous représentons son raisonnement sous forme graphique. Si nous avons accès à un peu plus de données, nous aurons là encore besoin du regard de l’expert pour identifier les dépendances entre les événements, mais les probabilités seront estimées à partir des données. Enfin, si nous avons beaucoup de données, nous pourrons utiliser des approches automatiques qui trouveront d’elles-mêmes les dépendances entre les événements et les probabilités.

Quelle confiance l’expert peut-il accorder aux résultats obtenus ?

P.H. Joalland Pour s’assurer de la validité d’un modèle, nous produisons des observations fictives et nous les confrontons aux observations attendues. En somme, nous vérifions que le modèle parvient au même résultat que l’expert. Dans le cas où l’adéquation n’est pas satisfaisante, les écarts constatés restent précieux, parce qu’ils seront pris en compte à l’occasion d’un réapprentissage, de sorte à finalement converger vers un modèle amélioré. L’utilisateur peut alors avoir confiance dans le modèle qu’il a « co-construit » avec notre équipe.

Les réseaux bayésiens semblent particulièrement adaptés à des domaines sensibles pour lesquels le risque d’erreur est intolérable. Avez-vous déjà travaillé pour de tels secteurs, la santé ou la sécurité par exemple ?

P.H. Joalland Dans le domaine médical, nous avons récemment développé avec le Pr. Bonnot, psychiatre au CHU de Nantes, un moteur d’intelligence artificielle destiné à prévenir la récidive des tentatives de suicide. Le moteur reproduit fidèlement le raisonnement du médecin, qui peut vérifier à tout moment la pertinence des réponses apportées. Le système abouti aux mêmes résultats que le psychiatre, qui peut donc l’utiliser en confiance.

Autre exemple, dans le domaine de la sécurité urbaine, nous avons travaillé pour un éditeur de logiciel, pour lequel nous avons modélisé l’interdépendance entre une grande variété d’événements tels que des manifestations ou des embouteillages. Pour cela, nous avons construit une architecture générique, que des experts métiers peuvent eux-mêmes instancier d’après leurs connaissances. Sur cette base, nous avons déployé un réseau bayésien relationnel décrivant toutes les interdépendances entre événements. Cet outil prédictif calcule les probabilités qu’un événement se produise, en fonction des événements passés. Les experts gardent la main sur le modèle et peuvent l’exploiter en confiance pour de multiples applications.

Ces exemples illustrent bien le double enjeu auquel répondent les réseaux bayésiens : construire un modèle d’IA à partir de peu – voire pas du tout – de données ; et conserver la maîtrise du raisonnement, de façon à l’utiliser en toute confiance. L’expert est au cœur de la construction du modèle, développé à partir de ses connaissances métier. Cette co-construction favorise son acceptabilité par les spécialistes comme par les utilisateurs. Aussi, les champs d’application de cette IA « boîte blanche » sont nombreux. Cependant, elle s’avère particulièrement pertinente pour des secteurs pour lesquels le risque d’erreur est inadmissible, tels que la santé, la sécurité, le droit ou encore la finance. Pour en savoir plus sur notre expertise en réseaux bayésiens, découvrez notre page dédiée à la data science et à l’IA ou contactez-nous directement.