Les limites de l'intelligence artificielle en santé
Seance of wednesday 15 may 2019 (Innovation et croisement des savoirs en matière de santé)
DOI number : 10.26299/pd1q-av36/emem.2019.17.05
Abstract
En essayant de comprendre ce qui caractérise l'homme dans sa conscience propre et sa perception du monde, notamment dans son approche artistique et intuitive, nous explorerons certaines notions philosophiques (conscience de soi et intuition créatrice, Homme-machine, durée, temps, espace et mémoire, Nature naturante et Nature naturée, etc) qui permettent d'affirmer que l'intelligence artificielle, même si elle augmentera significativement les capacités de l'homme dans sa vie quotidienne et son travail physique et intellectuel, jamais, ne pourra remplacer l'homme pour penser et prendre des décisions avec une part de risque impactant la vie humaine dans toutes ses dimensions ou le devenir du monde.
C'est pour cela que le problème de l'acceptabilité du risque directement ou indirectement causé par l’ IA reste et restera intangible tant bien même nous approcherions d'une intelligence de plus en plus humaine, et plus assurément encore pour gérer des situations imprévues, comme il en arrive parfois en bloc opératoire à l’occasion de complications chirurgicales ou dans des situations également similaires (aéronautique, automobile, assurances, finance, robotique).
Il faudra donc bien parler d'une intelligence augmentée, plutôt qu'artificielle, et appréhender les mythes et réalités autour de l'IA. Une IA encore fantasmagorique pour longtemps même si l'IA dite faible est déjà largement pratiquée dans des applications précises et extrêmement concrètes avec des jeux de données relativement homogènes, accessibles et cohérents, de qualité et durablement exploitables.
Cependant, les progrès considérables ces dernières années des technologies dits de rupture (IA, Big Data, Internet des Objets ou IoT, Cloud computing) semblent aiguiser de plus en plus les appétits des GAFA ou BATX tout particulièrement dans le secteur de la santé et posent des dilemmes éthiques inédits aux grands blocs souverains où l’Europe doit jouer son rôle pour (im)poser un cadre éthique en IA de santé autour des finalités (notamment RGPD compatibles) et des usages, et apporter de sérieuses garanties (transparence, algorithmes non biaisés et explicabilité, vie privée, liberté de penser) aux citoyens, patients éclairés et médecins augmentés.
En cela il faut, rien moins que cela, suivre Pascal au sujet de l’esprit de finesse, afin de «pénétrer vivement et profondément les conséquences des principes» pour faire œuvre de justesse.
C'est pour cela que le problème de l'acceptabilité du risque directement ou indirectement causé par l’ IA reste et restera intangible tant bien même nous approcherions d'une intelligence de plus en plus humaine, et plus assurément encore pour gérer des situations imprévues, comme il en arrive parfois en bloc opératoire à l’occasion de complications chirurgicales ou dans des situations également similaires (aéronautique, automobile, assurances, finance, robotique).
Il faudra donc bien parler d'une intelligence augmentée, plutôt qu'artificielle, et appréhender les mythes et réalités autour de l'IA. Une IA encore fantasmagorique pour longtemps même si l'IA dite faible est déjà largement pratiquée dans des applications précises et extrêmement concrètes avec des jeux de données relativement homogènes, accessibles et cohérents, de qualité et durablement exploitables.
Cependant, les progrès considérables ces dernières années des technologies dits de rupture (IA, Big Data, Internet des Objets ou IoT, Cloud computing) semblent aiguiser de plus en plus les appétits des GAFA ou BATX tout particulièrement dans le secteur de la santé et posent des dilemmes éthiques inédits aux grands blocs souverains où l’Europe doit jouer son rôle pour (im)poser un cadre éthique en IA de santé autour des finalités (notamment RGPD compatibles) et des usages, et apporter de sérieuses garanties (transparence, algorithmes non biaisés et explicabilité, vie privée, liberté de penser) aux citoyens, patients éclairés et médecins augmentés.
En cela il faut, rien moins que cela, suivre Pascal au sujet de l’esprit de finesse, afin de «pénétrer vivement et profondément les conséquences des principes» pour faire œuvre de justesse.