Isaac Asimov n’en finit pas de se retourner dans sa tombe ! Les lois de la robotique ont sombré dans un puits si profond qu’il est peu probable qu’elles refassent surface spontanément. C’est l’homme et lui seul qui pourrait y apporter remède grâce à la surveillance de tous les instants de ses créations qui sont en passe de devenir démoniaques. En cause ; la chaîne de pensée qui » guide les modèles d’IA pour qu’ils raisonnent étape par étape, ce qui les aide à résoudre des tâches complexes avec plus de précision que la simple prédiction du mot suivant ». Le problème vient, en ce qui concerne les systèmes les plus élaborés, que certaines des étapes empruntés par la machine peuvent échapper à la surveillance humaine (AI could soon think in ways we don’t even understand — evading our efforts to keep it aligned — top AI scientists warn). Dans la mesure où une IA sophistiquée est alimentée par d’innombrables données, elle peut fort bien sauter l’étape chaîne de pensée, tout autant que des étapes intermédiaires. Il ne faut pas non plus négliger le fait que en fonction de leur « alimentation », elles peuvent également générer des informations inexistantes et donc fausses, il s’en suit l’erreur de fin de course, erreur que rien n’empêche d’être préjudiciable à l’opérateur. Il est donc évident que si l’on ne peut pas avoir connaissance de toutes les étapes, il va être indispensable d’inclure dans le système lui-même un moyen de surveillance que l’IA ne sera pas en mesure de détecter ! Il ne s’agit encore que de suppositions de la part des concepteurs et des utilisateurs mais il semble bien que la vision humaine de la machine soit devenue particulièrement sombre quand il fut un temps où la technique était l’avenir de l’homme !
Tags: chaîne de pensée, IA, malveillance