Archive for janvier, 2025

J’hallucine dit l’IA !

lundi, janvier 27th, 2025

Si selon le dictionnaire de l’Académie Française, l’hallucination est « Une fausse perception qui se forme chez un sujet éveillé » comment l’IA peut-elle avoir des hallucinations ? En réalité, c’est plutôt l’utilisateur de l’IA qui hallucine quand il découvre, incrédule, les réponses inventées que lui donne sans vergogne, son système intelligent préféré (Can we curb AI’s hallucinations?). Quelles soient ou non qualifiées d’hallucinations ou d’erreurs leur pourcentage peut être particulièrement élevé selon les auteurs. Il est de fait que ces erreurs pourraient être assimilées à des hallucinations dans la mesure où le système les a non seulement inventées mais encore ne les reconnaît aucunement comme fausses voire même persiste dans ses erreurs. Le problème est donc de savoir si ce défaut peut être éliminer autrement que par des systèmes de vérification externes. Il n’est pas impossible que ces dérapages soient la contrepartie de ce dont se nourrit le système selon la paraphrase « Trop de données tue les données » assertion à laquelle il convient d’ajouter la personnalité du/ des donneurs d’informations. D’où la règle intangible, ne jamais faire une confiance aveugle à la machine, et savoir garder un œil averti sur ses résultats. Mais comme on n’arrête pas le progrès il convient d’ajouter à ces hallucinations, son nouveau pouvoir, celui d’autoréplication (AI can now replicate itself — a milestone that has experts terrified), car on entre alors dans une autre dimension ! L’homme serait alors confronté à un taux de réplication incontrôlable pouvant mener par le biais de mécanismes d’autosurveillance à des comportements malveillants envers l’utilisateur avec pour finalité l’autoconservation du système ! A bas le monde dystopique, bienvenue dans la réalité !

Quand vérité et mensonge se croisent

dimanche, janvier 19th, 2025

Un jour vérité et mensonge se croisèrent. Le premier ayant émis quelques paroles justes, car vérifiables, à propos du temps et de la température de l’eau d’un puits, la seconde accepta de se baigner avec lui. Mais ce dernier sortant de l’eau avant elle, s’empara de ses vêtements. La vérité refusant de se couvrir des habits du mensonge, retourna dans le puits : « En réalité nous ne savons rien, car la vérité est au fond de l’abîme » (Démocrite, 460 av. J.-C, 370 av. J.-C). Le sujet est pleinement d’actualité quand aujourd’hui la désinformation, un des principaux vecteur du mensonge, parcourt l’univers à la vitesse V et l’accélération Γ. Quand la société Méta, mère de Facebook, annonce son intention de supprimer son programme de vérification, c’est à la question « Est-ce grave, Docteur ? » qu’essaie de répondre l’article Does fact-checking work? What the science says. Il semble bien qu’une vérification ait tendance à réduire les perceptions erronées, néanmoins les biais cognitifs n’en sont pas pour autant supprimés et ces précautions ne peuvent en aucun cas pénétrer la sphère des irréductibles. Une des raisons pour laquelle cette suppression pourrait intervenir repose sur la subjectivité supposée des vérificateurs. Or cette dernière ne disparaitrait pas si chaque texte était accompagné de remarques additionnelles provenant de différentes catégories de lecteurs ! Ce qui est d’autant plus vrai que par ailleurs cette quête d’une vérité de l’information se fracasse sur la dimension temporelle de sa saisie et de sa mise à disposition. D’où cette deuxième question « L’absence de solution doit-elle être un frein à la recherche de LA solution ? »


Le laboratoire et la vraie vie !

lundi, janvier 13th, 2025

Si l’espèce murine a beaucoup donné à la science depuis des décennies, il s’agit essentiellement de ceux que l’on appelle, les rats de laboratoire, issus d’une souche ou d’une lignée sélectionnée, élevée et reproduite à la demande des établissements d’expérimentation animale. Les utilisateurs étaient ainsi assurer d’une continuité telle que les résultats pouvaient être comparés entre les laboratoires qui s’adressaient à des lignées produites par sélection à partir de reproducteurs choisis par les éleveurs au sein d’élevages de rats  bruns, dont les premiers individus provenaient de l’espèce sauvage Rattus norvegicus. Pourtant on aurait également pu se souvenir du couple Ésope/ La Fontaine et qui avait bien différencier le rat des villes et le rat des champs. Car si le rat de laboratoire est un animal docile il ne possède pas certaines des caractéristiques de son parent sauvage, le Peromyscus. C’est chez ce dernier qu’il existe deux espèces particulières, le P. polionotus et le P. californicus. Elles sont toutes deux monogames (ce qui est exceptionnel chez les mammifères) construisent des nids d’une grande complexité et manifestent vis à vis de leur descendance un intérêt tout à fait particulier, digne des mammifères supérieurs voire de la gente humaine ! Ces qualités sont héréditaires et on a mis en évidence des régions génomiques (hypothalamiques) en rapport avec les différences comportementales. La paternité/maternité s’accompagne ainsi de modifications au niveau cellulaire, mais aussi au niveau tissulaire, au niveau physiologique et au niveau sensoriel. Ce qui permet d’effectuer des études comportementales d’une autre portée que celles attribuées aux rats de laboratoires élevés en batteries. Il est certain que la diversité qui existe dans ces populations la rapproche de celle des individus ce qui ne pouvait être le cas des études faites sur des populations rendues artificiellement homogènes (On a Wild Mouse Chase to Understand Parenting, Love, and Fear)!