u003cstrongu003eLa question de la confiance est récurrente lorsque l’on parle d’intelligence artificielle. Pourquoi questionne-t-on autant la crédibilité et la fiabilité de l’IA ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP. Lerayu003c/strongu003e Ces dernières années, le Deep learning s’est révélé comme un type d’algorithmes d’apprentissage hyper performant, lorsqu’il dispose d’une grande quantité de données. Mais, dans un monde ouvert, le fait de ne s’appuyer que sur des données ne permet pas d’obtenir des outils automatiques parfaits, juste des outils qui vont reproduire parfaitement ce que nous faisons, erreurs comprises… Il n’y a qu’à voir le chatbot de Microsoft Tay, qui était conçu pour discuter de tout et de rien avec les utilisateurs, en se servant des phrases des utilisateurs pour s’améliorer. Ce chatbot a très vite reproduit l’attitude d’un néo-nazi machiste, à l’image des utilisateurs qui s’étaient « amusés » avec cette IA.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnAu niveau éthique, ces interrogations sont encore plus marquées lorsque l’on utilise l’IA pour nous accompagner dans des prises de décision qui ont de lourdes conséquences, telles qu’un traitement médical ou une décision de justice. A-t-on envie en tant qu’usager de faire confiance à des IA boîtes noires ? Nous pouvons expliquer pourquoi nous avons fait tel ou tel choix et, dans certains cadres légaux, nous en avons même le devoir. L’IA devrait être capable de faire la même chose.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eÀ quelles conditions l’expert pourrait-il avoir confiance dans des systèmes basés sur l’IA ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP. Lerayu003c/strongu003e Je travaille depuis plus de 20 ans sur une famille de modèles graphiques probabilistes qui répond à cet enjeu de confiance : les réseaux bayésiens. Il s’agit d’un outil graphique de représentation des connaissances, par définition interprétable. Un expert peut porter un regard métier sur ce qui a été appris par le modèle graphique sous l’angle statistique, et donner du sens à la représentation qu’il lui donne.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003ePouvez-vous nous en dire plus sur ce modèle d’IA ? Comment fonctionne-t-il ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP.H. Joallandu003c/strongu003e Les réseaux bayésiens sont des modèles graphiques probabilistes. Ils formalisent les connaissances sous une forme très riche.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnLa partie graphique permet de décrire des connaissances. Prenons un exemple, absurde mais parlant : u003cemu003eil pleut, il est possible que je glisseu003c/emu003e. Grâce à la partie probabiliste du modèle, je vais pouvoir décrire des incertitudes. Je reprends l’exemple de la glissade sous la pluie : on va décrire le fait u003cemu003eje ne glisse pas systématiquement quand il pleut, mais que j’ai aussi peu de risque de glisser s’il ne pleut pasu003c/emu003e.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnPour cela, je créé des dépendances entre des événements, c’est-à-dire un lien qui affirme u003cemu003epluie = glissadeu003c/emu003e. Ensuite, je créé une probabilité conditionnelle sur l’événement u003cemu003eglissadeu003c/emu003e. Le modèle ainsi construit me permet de gérer beaucoup d’incertitudes. Je vais ainsi pouvoir poser des questions incluant de l’incertain, du type – et ce sera mon dernier exemple pluvieux – u003cemu003esi la météo annonce de la pluie dans les prochains jours, mais avec une certaine probabilité, quels sont les risques que je glisse finalement ?u003c/emu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003ePour quelles applications, cette gestion des incertitudes peut-elle être utile ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP. Leray u003c/strongu003eLes réseaux bayésiens sont des modèles qui permettent de représenter des connaissances, et que l’on peut interroger « dans tous les sens » : nous pouvons aussi bien partir d’une observation que d’un événement. À ce titre, on utilise souvent les réseaux bayésiens pour modéliser des systèmes complexes, car ils permettent à la fois de faire de la prédiction, de la recommandation, et du diagnostic, en fonction du système modélisé et des questions qui sont posées au modèle. Pour vous donner quelques exemples, cela peut servir dans le diagnostic médical : vous connaissez des symptômes et vous allez interroger la maladie. Ou pour faire du service après-vente : vous savez qu’un système est cassé et vous recherchez la cause du problème.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eDe quelles données ont besoin les réseaux bayésiens ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP.H. Joallandu003c/strongu003e Les réseaux bayésiens peuvent être mis en œuvre même lorsqu’on dispose de peu de données, voire aucune. Les connaissances devront alors provenir d’experts, avec qui il faudra travailler pour les formaliser, reproduire leur raisonnement, probabiliser les relations de causes à effets et ainsi produire un modèle graphique explicite.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eConcrètement, comment exploitez-vous les données pour établir des prédictions grâce aux réseaux bayésiens ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP.H. Joallandu003c/strongu003e Il y a trois cas de figure. S’il n’y a pas de données disponibles, nous échangeons avec un expert et nous représentons son raisonnement sous forme graphique. Si nous avons accès à un peu plus de données, nous aurons là encore besoin du regard de l’expert pour identifier les dépendances entre les événements, mais les probabilités seront estimées à partir des données. Enfin, si nous avons beaucoup de données, nous pourrons utiliser des approches automatiques qui trouveront d’elles-mêmes les dépendances entre les événements et les probabilités.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eQuelle confiance l’expert peut-il accorder aux résultats obtenus ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP.H. Joallandu003c/strongu003e Pour s’assurer de la validité d’un modèle, nous produisons des observations fictives et nous les confrontons aux observations attendues. En somme, nous vérifions que le modèle parvient au même résultat que l’expert. Dans le cas où l’adéquation n’est pas satisfaisante, les écarts constatés restent précieux, parce qu’ils seront pris en compte à l’occasion d’un réapprentissage, de sorte à finalement converger vers un modèle amélioré. L’utilisateur peut alors avoir confiance dans le modèle qu’il a « co-construit » avec notre équipe.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eLes réseaux bayésiens semblent particulièrement adaptés à des domaines sensibles pour lesquels le risque d’erreur est intolérable. Avez-vous déjà travaillé pour de tels secteurs, la santé ou la sécurité par exemple ?u003c/strongu003ernrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eP.H. Joallandu003c/strongu003e Dans le domaine médical, nous avons récemment développé avec le Pr. Bonnot, psychiatre au CHU de Nantes, un moteur d’intelligence artificielle destiné à prévenir la récidive des tentatives de suicide. Le moteur reproduit fidèlement le raisonnement du médecin, qui peut vérifier à tout moment la pertinence des réponses apportées. Le système abouti aux mêmes résultats que le psychiatre, qui peut donc l’utiliser en confiance.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnAutre exemple, dans le domaine de la sécurité urbaine, nous avons travaillé pour un éditeur de logiciel, pour lequel nous avons modélisé l’interdépendance entre une grande variété d’événements tels que des manifestations ou des embouteillages. Pour cela, nous avons construit une architecture générique, que des experts métiers peuvent eux-mêmes instancier d’après leurs connaissances. Sur cette base, nous avons déployé un réseau bayésien relationnel décrivant toutes les interdépendances entre événements. Cet outil prédictif calcule les probabilités qu’un événement se produise, en fonction des événements passés. Les experts gardent la main sur le modèle et peuvent l’exploiter en confiance pour de multiples applications.rnrnu003c!u002du002d /wp:paragraph u002du002du003e u003c!u002du002d wp:paragraph u002du002du003ernrnu003cstrongu003eCes exemples illustrent bien le double enjeu auquel répondent les réseaux bayésiens : construire un modèle d’IA à partir de peu u003c/strongu003e–u003cstrongu003e voire pas du tout u003c/strongu003e–u003cstrongu003e de données ; et conserver la maîtrise du raisonnement, de façon à l’utiliser en toute confiance. L’expert est au cœur de la construction du modèle, développé à partir de ses connaissances métier. Cette co-construction favorise son acceptabilité par les spécialistes comme par les utilisateurs. Aussi, les champs d’application de cette IA « boîte blanche » sont nombreux. Cependant, elle s’avère particulièrement pertinente pour des secteurs pour lesquels le risque d’erreur est inadmissible, tels que la santé, la sécurité, le droit ou encore la finance. u003c/strongu003eu003cstrongu003ePour en savoir plus sur notre expertise en réseaux bayésiens, découvrez notre page dédiée à la u003c/strongu003eu003ca href=u0022https://capacites.fr/expertises/data-science-intelligence-artificielle/u0022u003eu003cstrongu003edata science et à l’IAu003c/strongu003eu003c/au003eu003cstrongu003e ou u003c/strongu003eu003ca href=u0022https://capacites.fr/contact/u0022u003eu003cstrongu003econtactez-nousu003c/strongu003eu003c/au003eu003cstrongu003e directement.u003c/strongu003e
