Une inquiétante question est sur le point d’être formulée : elle s’adresse à tous mais prend une ampleur toute particulière pour le monde médical étant donnés les rapports que ce dernier entretient avec les progrès de la technicité. S’il se produit une faute dans le diagnostic, la surveillance, l’application du traitement, le traitement lui-même, à qui en revient la responsabilité ? ( Who’s liable when AI treats patients?). Il existait déjà ce qui peut être considéré comme une approche pédagogique auprès des cliniciens en herbe ou confirmés, intitulé « Evidence based diagnosis » ou Diagnostic fondé sur les preuves » visant à fournir aux lecteurs les outils nécessaires pour évaluer les tests, décider de leur pertinence et de leur indication, et interpréter les résultats. En fait le praticien restait seul maitre à bord au regard de son diagnostic, mais il trouvait une aide dans une liste, qui en croisant les différentes entrées, avait pour rôle de l’orienter. Lorsque l’IA est au commande, la touche humaine semble avoir totalement disparu surtout quand le fonctionnement de la machine échappe à son utilisateur. Par exemple, quelles sont les données qui lui ont été fournies et comment sont-elles exploitées. Et donc la question est : que devient le patient lorsqu’il n’existe pas de règles de sécurité ? Il est donc nécessaire (mais sera-ce suffisant ?) d’établir des cadres de responsabilité et c’est ce dont traite l’article. Il n’est que temps de s’en préoccuper avant de délivrer un permis d’autonomie tel que l’homme pourrait ne plus intervenir, non pas de son fait mais parce que, à l’image de 2001 Odyssée de l’espace, HAL 9000 aurait pu prendre le contrôle.
Tags: AI, médecine, responsabilité