Posts Tagged ‘IA’

Attention : danger

lundi, juin 1st, 2026

Si la vérité est accord de la pensée (ou du discours) avec la réalité, la réalité elle, est un fait, indépendant de la pensée. Le danger (extrême) est donc de mettre sur un même niveau un concept et ce qui existe en dehors de toute perception. On a par le passé (pas encore si ancien) accordé le statu de vérité aux images véhiculées par les systèmes de prise de vue, ce qui avait permis la formule si célèbre du magazine Paris-Match en 1978 Le choc des mots, le poids des photos. En 2026, rien ne va plus, AI-generated images are making it impossible to distinguish truth from fiction. We need laws and AI watermarks to protect our shared reality. ! La distinction entre le vrai et le faux est devenue IMPOSSIBLE ! Les conséquences en sont incommensurables à commencer par le devenir de la société en général au regard de ses gouvernants. Quand le terme de démocratie illibérale évoque les réductions de liberté individuelle et publique, il est urgent de ne pas s’exposer/être exposé à des outils liberticides à moins que ceux-ci ne soient encadrés par une démarche volontaire et réfléchie de la société elle-même. Mais corollaire non moins pervers, la possibilité existe de discréditer une image véridique puisque l’image est falsifiable ! Qui croire et que croire ? C’est le dividende du menteur qui pointe du doigt les vulnérabilités cognitives humaines. Si la discussion reste indispensable elle n’est possible qu’à partir d’un socle commun de faits et d’expériences. Il est donc urgent de ne pas attendre une catastrophe programmée.

Paroles d’évangile

vendredi, mai 1st, 2026

Quand l’IA est en but à toutes les critiques (le mot est faible !) un article entrevoit un tout autre aspect la concernant. Paroles d’évangile n’est peut-être pas la meilleure des expressions dans la mesure où on peut se poser la question de savoir si elle est énonciatrice de « propos indiscutables, et de vérité absolue« . Mais c’est pourtant la question qui pourrait être posée quand une médaillée Fields rapporte « qu’un amateur vient de résoudre un problème mathématique vieux de a cinquante ans — en interrogeant une IA : « L’IA de ChatGPT a prouvé une conjecture grâce à une méthode à laquelle aucun humain n’avait pensé (Fields medallist: AI makes us rethink maths),  Erdős problem #1196 as a notable success story) ». D’où l’idée pas si absurde selon laquelle « les experts estiment qu’elle pourrait avoir d’autres applications« , car il est évident que dans cette occurrence, l’IA a bien émis un propos indiscutable, une vérité absolue. Et plus même puisqu’elle autorise à repenser le concept de démonstration en mathématiques, ce qui n’est pas rien d’autant plus que la démarche suivie par l’IA pourrait être appliquée à d’autres problèmes encore non solutionnés. Alors que va-t-il se passer quand deux IA conversent entre elles sans intervention humaine (Be quiet, the AIs are talking) ? Vont-elles pouvoir s’échanger ce qu’elles auront découvert comme par exemple la démonstration décrite dans l’exemple précédent ? Au quel cas auront-elles l’outrecuidance de se gausser de leurs concepteurs ? Quand la réalité dépasse la fiction !

Les images aussi !

vendredi, avril 10th, 2026

Comme tout texte peut être illustré, se poser la bonne question, c’est à dire chercher à établir la véracité du propos n’est plus suffisant. Il est en effet devenu tout aussi indispensable de poser la même question à propos de l’image. Il n’y a en effet aucune raison pour qu’existât une différence de traitement entre un texte et une image en ce qui concerne l’IA. Si l’homme est bien à l’origine de ses connaissances, il n’en reste pas moins vrai qu’elle a dépassé le premier stade, celui de l’apprentissage pour aborder les rives du raisonnement. Si l’introduction de fausses références dans un texte par exemple, est aujourd’hui parfaitement connue, la forme parfaite mais imaginaire donnant naissance à des réponses est maintenant à l’ordre du jour. Or il existe plusieurs domaines, dont celui de la médecine n’est pas le moindre, qui adossent leurs résultats à la description de l’image (AI ‘mirages’ mean tools used to analyze medical scans could fabricate their findings). En fait l’IA utiliserait plus volontiers les schémas en sa possession pour résoudre le problème posé, que les éléments factuels qui devraient lui permettre d’apporter la solution à la question posée. L’illusion d’optique humaine résulte de façon similaire d’une interprétation erronée des information qui lui parviennent. Le danger est que la réponse de l’IA est tenue pour plus péremptoire qu’ouverte à discussion et qu’elle aurait ainsi tendance à faire foi, il est donc urgent d’être en mesure de vérifier l’intégration intermodale régissant le fonctionnement de l’IA.

Imposture intellectuelle

jeudi, avril 9th, 2026

En 1996, la revue de sciences humaines Social Text publie un article scientifique Transgresser les frontières : vers une herméneutique transformative de la gravitation quantique. Le but des auteurs n’était pas tant de dévaloriser certains travaux scientifiques contemporains que de montrer la vacuité de l’utilisation de différents concepts portés par le postmodernisme à propos des discours scientifique et philosophique. En France il initia des discours passionnés surtout dans la mesure où il fut pris au pied de la lettre et non pas comme un pastiche scientifico-philosophique. Dans la deuxième moitié de XVIIIème siècle une autre supercherie avait aussi enflammé les milieux littéraires à propos d’un barde écossais du IIIème siècle Ossian, et de ses poèmes qui s’avérèrent être des faux, ce qui devait grandement troubler les tenants d’une identité gréco-romaine et non pas celtique. C’est pourquoi, si en l’an de grâce 2026, des scientifiques inventent une nouvelle maladie, la bixonimanie ( Why scientists made up a fake disease), il n’y a vraiment aucune raison de s’inquiéter ! Les auteurs avaient dissimulés dans l’article, tels des signes de piste, des informations qui permettaient de conclure à la contrefaçon, mais tels des lecteurs antérieurs l’IA reproduisit l’article qu’elle référença tout à fait comme un humain lambda dans des travaux ultérieurs. En réalité ce qui est important dans les trois exemples précédents n’est pas l’intrusion de l’IA dans le paysage, mais que dans toute situation, il faut savoir poser la BONNE QUESTION, savoir interroger la réalité du propos. Même si les erreurs de l’IA ne reposent pas sur les mêmes processus que l’erreur humaine, in fine elles peuvent avoir la même traduction !

Introspection

mardi, février 3rd, 2026

Tout regard sur soi-même est une plongée dans UN intime en quête de ses motivations, mais en réalité une démarche peu sûre car celui qui s’y adonne en connaît mal les cheminements profonds et tout aussi mal le résultat de la dite démarche. Néanmoins, il est presque certain que seul l’homme en est capable, dans la mesure où peu nombreux sont les animaux qui se reconnaissent comme entité pensante. En fait la première question concerne le besoin qu’aurait l’IA d’avoir et d’accéder à SA conscience or la réponse concerne l’utilisateur de la dite IA et non pas l’IA en propre. C’est au vu et au su d’erreurs qui lui seraient imputables et dont pâtirait l’utilisateur que cette dernière aurait besoin de réfléchir sur elle-même. (Giving AI the ability to monitor its own thought process could help it think like humans) ? Mais pour y arriver il semble bien qu’il n’existe que des méthodes humaines pour y parvenir et dans ces conditions il ne reste plus qu’à insuffler à la machine les réseaux neuronaux pour y accéder. La machine n’y est pour rien, l’homme est toujours son souffle de vie même si la multiplication des réseaux lui permet d’apprendre et de donner des réponses dans un temps qui se rapproche de l’immédiateté et de la vérité si cette dernière est considérée comme en adéquation avec la réalité ! Un deuxième article (AI has already won the ‘imitation game’) vient compléter le précédent dans la mesure où il permet de verser au dossier des arguments à partir du test de Turing (1950). Ne reste plus qu’à définir l’intelligence humaine, ce qui constitue déjà un vaste projet, pour affirmer ou nier l’existence d’une réelle « intelligence » artificielle telle que définie par Turing. L’homme a peut-être dévoilé (Heidegger), un nouveau type d’intelligence tel que « Notre rôle dans le monde et notre compréhension de l’esprit en seront transformés« .

Vivifiant ou délétère ?

vendredi, janvier 16th, 2026

Le biais cognitif se caractérise par la propension qu’un sujet à de chercher, voir, retenir tout ce qui s’inscrit dans un schéma, son schéma, qui a quitté la réalité pour être perçu à sa façon. Si cette description semble un peu facile sinon simpliste elle traduit néanmoins une distorsion de la réalité, une atteinte de la rationalité de l’individu qui en fait montre. Or aujourd’hui les applications courantes des acquisitions scientifiques se sont accélérées à un point tel que leur perception s’apparente plus à de la magie inexplicable qu’à la normalité. C’est la raison pour laquelle après avoir loué « trop tôt » les services qu’allait rendre l’IA, il est devenu de bon ton de la vouer au gémonies, voire à imaginer de l’interdire sans autre forme de procès ! C’est pourquoi si l’on désire regarder en face ce nouveau produit démoniaque, on pourrait lire un article récent qui traite du sujet pour le démystifier : AI can spark creativity — if we ask it how, not what, to think. L’idée est simplissime et universelle : tout nouvel outil requiert un nouveau mode d’emploi qui lui soit spécifique, c’est à dire dont la finalité ne soit pas dévoyée. Le marteau a été créé pour taper sur un clou par sur la tête de son voisin ! Et donc savoir utiliser l’IA, c’est savoir lui poser les bonnes questions, pas lui demander de répondre à la place de celui qui l’a créée mais de lui fournir les éléments de réponse qui ne sont pas tous simultanément et dans l’instant en sa possession.

Socrate et l’IA

mardi, septembre 30th, 2025

Parce que l’esclave du Ménon (qui n’a pas de nom !) ne connaît rien de la géométrie, Socrate démontre par le biais de la maïeutique que «  la vérité des choses est en nous « . La question qu’il lui a posé « comment faire pour doubler la surface d’un carré » il y a presque deux mille cinq cents ans est justement celle qui a été choisie pour être posée à l’IA, (Scientists asked ChatGPT to solve a math problem from more than 2,000 years ago — how it answered it surprised them). Si « Socrate parvient finalement à faire accoucher l’esclave de la connaissance des propriétés géométriques » qu’en est-il de la machine, quand on ne sait pas trancher entre l’inné et l’acquis ! Et imaginer que la machine pourrait apporter une réponse peut sembler assez cocasse ! Néanmoins il est vrai que la réponse de la machine exprime sa capacité à utiliser ses données, soit directement car elle a déjà la réponse, soit par un jeu de réseaux neuronaux. Réponse de la machine : il n’y a pas de solution géométrique à la question posée. S’il est ainsi prouvé que l’innéité n’est pas le propre de la machine, le résultat invite surtout à apprendre aux utilisateurs des différentes IA que savoir poser la question est le temps essentiel de la démarche, et qu’il faut ne jamais perdre de vue que ses réponses peuvent être fausses. Méfiance et circonspection !

La malveillance est partout !

vendredi, août 1st, 2025

Isaac Asimov n’en finit pas de se retourner dans sa tombe ! Les lois de la robotique ont sombré dans un puits si profond qu’il est peu probable qu’elles refassent surface spontanément. C’est l’homme et lui seul qui pourrait y apporter remède grâce à la surveillance de tous les instants de ses créations qui sont en passe de devenir démoniaques. En cause ; la chaîne de pensée qui  » guide les modèles d’IA pour qu’ils raisonnent étape par étape, ce qui les aide à résoudre des tâches complexes avec plus de précision que la simple prédiction du mot suivant ». Le problème vient, en ce qui concerne les systèmes les plus élaborés, que certaines des étapes empruntés par la machine peuvent échapper à la surveillance humaine (AI could soon think in ways we don’t even understand — evading our efforts to keep it aligned — top AI scientists warn). Dans la mesure où une IA sophistiquée est alimentée par d’innombrables données, elle peut fort bien sauter l’étape chaîne de pensée, tout autant que des étapes intermédiaires. Il ne faut pas non plus négliger le fait que en fonction de leur « alimentation », elles peuvent également générer des informations inexistantes et donc fausses, il s’en suit l’erreur de fin de course, erreur que rien n’empêche d’être préjudiciable à l’opérateur. Il est donc évident que si l’on ne peut pas avoir connaissance de toutes les étapes, il va être indispensable d’inclure dans le système lui-même un moyen de surveillance que l’IA ne sera pas en mesure de détecter ! Il ne s’agit encore que de suppositions de la part des concepteurs et des utilisateurs mais il semble bien que la vision humaine de la machine soit devenue particulièrement sombre quand il fut un temps où la technique était l’avenir de l’homme !


L’IA et le subliminal

mercredi, juillet 23rd, 2025

Subliminal : Se dit d’une perception qui ne dépasse pas le seuil de la conscience. Ainsi les messages subliminaux ont-ils été voués aux gémonies en raison de leur possible force de persuasion lorsque leur teneur peut être préjudiciable à soi-même tout autant qu’à autrui. L’effet repose sur des stimulus sensoriels, essentiellement visuels et auditifs. Il est certain que l’effet est d’autant plus marqué que le stimulus s’inscrit dans un contexte favorable chez le sujet comme par exemple l’image subliminale d’un liquide perçue par un individu assoiffé ou ayant un accès facilité à l’obtention de ce liquide ! Il se pourrait qu’existât une nouvelle preuve de la proximité entre l’humain et l’IA, puisque cette dernière se révèle sensible aux messages subliminaux ! (https://www.nature.com/articles/d41586-025-02172-y?). Mais horribile visu, ce sont les humains qui ont introduit ces messages pour tromper d’autres humains ! De quelle manœuvre s’agit-il et surtout dans quel but ? « Ethiquement parlant », un article proposé à la publication doit être revu et jugé par une commission d’experts auxquels est attribué le qualificatif de pairs ce qui sous entend à la fois leur compétence et leur indépendance dans le domaine traité. Actuellement d’aucuns ont pu confier ce travail à l’IA ce qui implique de lui attribuer un rôle équivalent à celui des pairs. Dans cette occurrence il ne reste plus qu’à introduire dans le texte soumis à vérification un/des messages subliminaire/s : ceux-ci ayant évidemment pour rôle d’infléchir les résultats de la machine, pour s’assurer de sa bienveillance ! Comme le soulignent les auteurs de l’article sus cité, les individus (en général) font preuve d’une grande ingéniosité dans ce domaine celui de la tromperie ! Culpabilité et responsabilité ont plusieurs dimensions !

La machine qui questionnait le vivant

mercredi, juillet 9th, 2025

Parce que le centaure de la mythologie était un animal fabuleux mi homme/mi cheval, il n’est peut être pas étonnant de l’avoir choisi comme intitulé d’un système performant d’IA. Et ce d’autant plus que le plus sage d’entre eux (mais ils ne l’étaient pas tous !) Chiron, fut l’éducateur de nombreux et célèbres personnages parmi lesquels, Achille, Heracles, Asclepios. Était-ce parce qu’il était sage parmi les sages qu’il préféra la mort a l’éternité, l’histoire ne le dit pas. Toujours est-il que ce nouveau Centaure se démarque des autres systèmes d’IA puisqu’il est en mesure de traiter plusieurs tâches simultanément, ce qui jusqu’à présent restait une prérogative de l’espèce humaine (AI knows what you’ll do before you do). Plus encore il a été capable de prédire « les choix des individus dans des tâches pour lesquelles il n’avait pas été entrainé ». Ces résultats reposent sur l’utilisation d’un nombre exceptionnel de données qui lui ont été fournies et qu’il est en mesure de traiter. Si ces résultats peuvent dans le futur être source d’une aide dans le domaine de la psychologie humaine, ils posent aussi une question de taille : jusqu’à quel point le comportement humain est-il structuré ?