Comme tout texte peut être illustré, se poser la bonne question, c’est à dire chercher à établir la véracité du propos n’est plus suffisant. Il est en effet devenu tout aussi indispensable de poser la même question à propos de l’image. Il n’y a en effet aucune raison pour qu’existât une différence de traitement entre un texte et une image en ce qui concerne l’IA. Si l’homme est bien à l’origine de ses connaissances, il n’en reste pas moins vrai qu’elle a dépassé le premier stade, celui de l’apprentissage pour aborder les rives du raisonnement. Si l’introduction de fausses références dans un texte par exemple, est aujourd’hui parfaitement connue, la forme parfaite mais imaginaire donnant naissance à des réponses est maintenant à l’ordre du jour. Or il existe plusieurs domaines, dont celui de la médecine n’est pas le moindre, qui adossent leurs résultats à la description de l’image (AI ‘mirages’ mean tools used to analyze medical scans could fabricate their findings). En fait l’IA utiliserait plus volontiers les schémas en sa possession pour résoudre le problème posé, que les éléments factuels qui devraient lui permettre d’apporter la solution à la question posée. L’illusion d’optique humaine résulte de façon similaire d’une interprétation erronée des information qui lui parviennent. Le danger est que la réponse de l’IA est tenue pour plus péremptoire qu’ouverte à discussion et qu’elle aurait ainsi tendance à faire foi, il est donc urgent d’être en mesure de vérifier l’intégration intermodale régissant le fonctionnement de l’IA.
Tags: hallucination, IA, image