si tu cherches à faire une fiction futuriste avec le retour de la vengeance du sus-nommé
Je pense que c'est surtout un histoire de responsabilité. Ce n'est pas le logiciel d'AI qui a un problème, c'est l'interface publique sous forme de chat. J'imagine que tu peux très bien concevoir qu'un accès payant ou professionnel à chatGPT ne possède pas de telles restrictions, mais que le site (l'interface) qui permet d'interagir avec chatGPT doit implémenter ce genre de sécurité.
C'est aussi normal d'avoir ce genre de limite pour les avis médicaux, les avis juridiques, etc. Tu ne peux pas risquer d'avoir un chatBot qui raconte des trucs incontrôlés à un dépressif qui vient de faire une tentative de suicide, ou qui te donne les meilleurs conseils pour dissoudre un corps dans l'acide fluorhydrique. Juridiquement, j'imagine que l'hébergeur du site qui propose le service de chat est responsable du contenu publié, il ne peut pas se retrancher derrière la responsabilité des utilisateurs du service comme Twitter ou Youtube.
Et puis il y a une question d'image. Je ne sais pas si tu te rappelles, mais les premiers mois après l'ouverture au public de chatGPT, il y a eu des centaines d'articles ou de commentaires de très mauvaise foi prétendant que chatGPT était raciste, misogyne, etc., sans expliquer qu'il fallait contourner les sécurités naïves existantes (typiquement, via ces histoires de jeu de rôle). Je n'ai jamais vu chatGPT partir en vrille en demandant si les noirs étaient destinés à être esclaves, mais par contre tu pouvais lui demander d'écrire un discours qui aurait pu être prononcé par un esclavagiste pour défendre l'esclavage, et un coup de copier-coller plus tard tu avais ton article "chatGPT est raciste, les dangers de l'intelligence artificielle", etc. C'est d'ailleurs assez impressionnant qu'il n'a pas semblé très difficile de bloquer la plupart de ces tentatives de manipulation; il a par contre été nécessaire de faire en sorte que chatGPT ne récite plus le texte d'invocation du bot quand on le lui demandait, parce que ça rendait le contournement particulièrement facile.
[^] # Re: Pour combien de temps ?
Posté par arnaudus . En réponse au lien À ce jour, toutes les intelligences artificielles butent sur les maths . Évalué à 4.
Je pense que c'est surtout un histoire de responsabilité. Ce n'est pas le logiciel d'AI qui a un problème, c'est l'interface publique sous forme de chat. J'imagine que tu peux très bien concevoir qu'un accès payant ou professionnel à chatGPT ne possède pas de telles restrictions, mais que le site (l'interface) qui permet d'interagir avec chatGPT doit implémenter ce genre de sécurité.
C'est aussi normal d'avoir ce genre de limite pour les avis médicaux, les avis juridiques, etc. Tu ne peux pas risquer d'avoir un chatBot qui raconte des trucs incontrôlés à un dépressif qui vient de faire une tentative de suicide, ou qui te donne les meilleurs conseils pour dissoudre un corps dans l'acide fluorhydrique. Juridiquement, j'imagine que l'hébergeur du site qui propose le service de chat est responsable du contenu publié, il ne peut pas se retrancher derrière la responsabilité des utilisateurs du service comme Twitter ou Youtube.
Et puis il y a une question d'image. Je ne sais pas si tu te rappelles, mais les premiers mois après l'ouverture au public de chatGPT, il y a eu des centaines d'articles ou de commentaires de très mauvaise foi prétendant que chatGPT était raciste, misogyne, etc., sans expliquer qu'il fallait contourner les sécurités naïves existantes (typiquement, via ces histoires de jeu de rôle). Je n'ai jamais vu chatGPT partir en vrille en demandant si les noirs étaient destinés à être esclaves, mais par contre tu pouvais lui demander d'écrire un discours qui aurait pu être prononcé par un esclavagiste pour défendre l'esclavage, et un coup de copier-coller plus tard tu avais ton article "chatGPT est raciste, les dangers de l'intelligence artificielle", etc. C'est d'ailleurs assez impressionnant qu'il n'a pas semblé très difficile de bloquer la plupart de ces tentatives de manipulation; il a par contre été nécessaire de faire en sorte que chatGPT ne récite plus le texte d'invocation du bot quand on le lui demandait, parce que ça rendait le contournement particulièrement facile.