le mensonge requiert une intentionnalité dont il me semble que l'IA est totalement dépourvue
Intentionnalité de l’IA, peut-être pas, mais intentionnalité des fournisseurs d’IA à nous faire croire que l’IA est infaillible, certainement.
J’utilise des verbes comme mentir, comme on utilise « répondre », « analyse », ou d’autres comme « contenus haineux » ou « contenu raciste ».
Par habitude, on prête à nos artefacts des « intentions » qui ne sont que pures appositions de nos comportements, ce qui permet à tout le monde de comprendre de quoi il est question. C’est d’autant plus utilisé avec les IA puisque certains leur attribuent de réelles capacités cognitives (les IA comprennent-elles les questions qu’on leur pose ?).
Bref, ce que j’ai ressenti après une dizaine de prompt était plus du mensonge que l’ignorance : j’aurais tout à fait accepté une réponse du genre : « je n’ai pas de réponse à cette question ». La réponse donnée était une réponse fausse « sourcée » par des références inventées.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: IA, DFSORT et « hallucination
Posté par PhRæD . En réponse au sondage Les IA génératives et le code. Évalué à 7.
Intentionnalité de l’IA, peut-être pas, mais intentionnalité des fournisseurs d’IA à nous faire croire que l’IA est infaillible, certainement.
J’utilise des verbes comme mentir, comme on utilise « répondre », « analyse », ou d’autres comme « contenus haineux » ou « contenu raciste ».
Par habitude, on prête à nos artefacts des « intentions » qui ne sont que pures appositions de nos comportements, ce qui permet à tout le monde de comprendre de quoi il est question. C’est d’autant plus utilisé avec les IA puisque certains leur attribuent de réelles capacités cognitives (les IA comprennent-elles les questions qu’on leur pose ?).
Bref, ce que j’ai ressenti après une dizaine de prompt était plus du mensonge que l’ignorance : j’aurais tout à fait accepté une réponse du genre : « je n’ai pas de réponse à cette question ». La réponse donnée était une réponse fausse « sourcée » par des références inventées.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »