HAL 9000 est un robot qui n’a pas connu Isaac Asimov ! Quand il se trouve devant une situation qui oppose ses deux programmations, réussir sa mission et ne pas mentir, le conflit auquel il est soumis lui fait choisir sa propre protection contre celle de son équipage, « Je suis désolé Dave, mais je ne peux pas accéder à votre demande« , ce qui est totalement inacceptable au regard des lois de la robotiques. Mais en 1968, Stanley Kubrick et Arthur C. Clarke, mettent en scène un ordinateur félon dont on peut se demander s’il n’est pas l’ancêtre de ceux dont parle l’article ‘The best solution is to murder him in his sleep’: AI can learn violent tendencies from each other despite zero references to violence in training data. Il y est question des déviations que peuvent entretenir les grands modèles de langage (LLM). Il s’agit d’un mode d’apprentissage profond qui repose sur une immense quantité de données qui à partir » d’une architecture de réseaux de neurones appelée Transformer , excelle dans la gestion des séquences de mots et la capture des schémas dans le texte« . L’exemple proposé concerne le sous entrainement d’une machine sous élève, connu sous le nom d’apprentissage subliminal, mais dont les scientifiques ne comprennent pas encore totalement le mécanisme, d’où de probables/possibles problèmes ! Et ce d’autant plus qu’il existe une possibilité de transmission de ce que les scientifiques nomment un désalignement même après des procédures de vérification de l’homme. Il existe donc un réel pouvoir de nuisance quand des données d’entrainement auront été polluées par des informations perverses. Qu’il s’agisse d’une volonté affirmée ou d’erreurs non intentionnelles, le jeu s’apparente à celui dont s’amuse, mais seulement pour un temps, l’apprenti sorcier !
Tags: apprentissage subliminal, données d'entraienement, LLM