Je tourne la question: qu'est ce qui te fait croire que les boites à travers le monde qui ont, ou qui sont en train, de passer leur support niveau 1 à de l'IA vont faire marche arrière ?
Cela peut dépendre de ce qui se passe, notamment du côté de l'accueil par le public et l'aspect juridique.
Si l'IA hallucine des conneries et que la justice considère que ce qui est énoncé / affirmé par l'automate doit être appliqué même si c'est absurde, ça peut coûter cher pour celui qui s'en sert.
Surtout que le prompt engineering malveillant peut produire aussi des résultats inattendus et exploiter ainsi des faiblesses de cette approche.
Ce n'est pas un sujet simple et je ne trouve pas que ce soit trivial de sauter à cette étape de manière généralisée. Il ne semble pas que des solutions généralistes et totalement robustes aient été trouvées, il y a eu régulièrement des petits malins qui ont trouvé et trouvent encore moyen de bypasser les restrictions imposées à l'IA par ses concepteurs.
C'est d'ailleurs comme souvent une limitation pour pas mal de technos de passer de l'effet cool en démo ou éventuellement dans un contexte bienveillant et le passer à l'échelle en tenant compte des situations imprévues par les concepteurs mais aussi parce qu'il y a des acteurs qui ne sont pas bienveillants. Cela limite en tout cas aujourd'hui certaines possibilités, et cela ne semble pas si facile d'y remédier.
[^] # Re: Acceleration
Posté par Renault (site web personnel) . En réponse au journal Quoi penser de l'IA dans mon monde de linuxien .... Évalué à 4.
Cela peut dépendre de ce qui se passe, notamment du côté de l'accueil par le public et l'aspect juridique.
Si l'IA hallucine des conneries et que la justice considère que ce qui est énoncé / affirmé par l'automate doit être appliqué même si c'est absurde, ça peut coûter cher pour celui qui s'en sert.
Surtout que le prompt engineering malveillant peut produire aussi des résultats inattendus et exploiter ainsi des faiblesses de cette approche.
Ce n'est pas un sujet simple et je ne trouve pas que ce soit trivial de sauter à cette étape de manière généralisée. Il ne semble pas que des solutions généralistes et totalement robustes aient été trouvées, il y a eu régulièrement des petits malins qui ont trouvé et trouvent encore moyen de bypasser les restrictions imposées à l'IA par ses concepteurs.
C'est d'ailleurs comme souvent une limitation pour pas mal de technos de passer de l'effet cool en démo ou éventuellement dans un contexte bienveillant et le passer à l'échelle en tenant compte des situations imprévues par les concepteurs mais aussi parce qu'il y a des acteurs qui ne sont pas bienveillants. Cela limite en tout cas aujourd'hui certaines possibilités, et cela ne semble pas si facile d'y remédier.