Une inquiétante question est sur le point d’être formulée : elle s’adresse à tous mais prend une ampleur toute particulière pour le monde médical étant donnés les rapports que ce dernier entretient avec les progrès de la technicité. S’il se produit une faute dans le diagnostic, la surveillance, l’application du traitement, le traitement lui-même, à qui en revient la responsabilité ? ( Who’s liable when AI treats patients?). Il existait déjà ce qui peut être considéré comme une approche pédagogique auprès des cliniciens en herbe ou confirmés, intitulé « Evidence based diagnosis » ou Diagnostic fondé sur les preuves » visant à fournir aux lecteurs les outils nécessaires pour évaluer les tests, décider de leur pertinence et de leur indication, et interpréter les résultats. En fait le praticien restait seul maitre à bord au regard de son diagnostic, mais il trouvait une aide dans une liste, qui en croisant les différentes entrées, avait pour rôle de l’orienter. Lorsque l’IA est au commande, la touche humaine semble avoir totalement disparu surtout quand le fonctionnement de la machine échappe à son utilisateur. Par exemple, quelles sont les données qui lui ont été fournies et comment sont-elles exploitées. Et donc la question est : que devient le patient lorsqu’il n’existe pas de règles de sécurité ? Il est donc nécessaire (mais sera-ce suffisant ?) d’établir des cadres de responsabilité et c’est ce dont traite l’article. Il n’est que temps de s’en préoccuper avant de délivrer un permis d’autonomie tel que l’homme pourrait ne plus intervenir, non pas de son fait mais parce que, à l’image de 2001 Odyssée de l’espace, HAL 9000 aurait pu prendre le contrôle.
L’intelligence artificielle, dite aussi (pour les initiés) AI (en anglais, bien sûr !) également titre éponyme d’un film de Steven Spielberg vieux déjà de 15 ans, compte parmi l’un des nouveaux croque-mitaines en charge de faire frémir au moins une partie de la société. Depuis l’utilisation des pointes taillées, l’homme ne semble avoir parmi ses besoins immédiats que l’envie de soulager sa peine quand pour certains il ne serait sur terre que pour y travailler « à la sueur de son front ». Ainsi le progrès a-t-il au minimum comme but de soulager, d’améliorer les conditions de vie de la société humaine. Si l’idéologie du progrès de nature scientiste, héritée du XIX° siècle réussit à imposer cette idée majeure selon laquelle le salut réside dans la maitrise totale du future, le XXI° siècle a lui inventé l’heuristique de la peur selon laquelle, après H. Jonas, les avancées technologiques induisent sur la nature des bouleversements inexistants jusqu’alors, qui mettent en péril l’humanité elle-même d’où l’émergence du principe de responsabilité. Le robot qui n’était jusqu’à récemment que science fiction, s’est installé dans les chaines de montage et ce n’est pas le Charlot des temps modernes qui s’en serait plaint ! Néanmoins le temps est certainement venu de faire la part du vrai et du faux dans ce nouvel épouvantail à moineaux. Ce qui ne pourra être fait que dans la mesure où d’une part ses bienfaits non seulement seront supérieurs à ses méfaits mais aussi d’autre part où ses bienfaits profiteront à l’ensemble de la société. En médecine il existe déjà des applications telles qu’il ne viendrait (plus) à l’idée de personne de les rejeter. Mais il existe au moins deux domaines où cette intrusion non contrôlée peut être imaginée comme plus redoutable pour la société : le remplacement et le contrôle de l’homme par la machine. C’est alors que pour éviter un post modernisme où se fragmentent société et individu, il est urgent de pouvoir et savoir anticiper (Anticipating artificial intelligence! 