Tout dépend ce qu'on attend d'une IA, si c'est produire du contenu quel que soit le contenu, ou si on lui demande de fournir des connaissances.
Si on lui demande de produire un article scientifique comme quoi manger beaucoup de sucre peut guérir un cancer avec un taux de 90% de succès, et que l'IA produit un article convaincant et au sujet duquel seul un spécialiste pourrait produire des contre-arguments, on a un problème d'éthique, non ? Et des possibles dérives où n'importe quel crétin pourrait maintenant se faire entendre sur n'importe quel sujet avec des arguments plausibles (mais faux).
Dans ce cas, l'IA participerait fortement de la mise en bouillie du savoir (déjà bien avancée). On pourrait même lui faire écrire des articles dans wikipedia qui résisteraient bien aux relectures.
Du coup, accepter de fournir n'importe quel contenu est dangereux à terme. Mais bon, on sait depuis que MS a disloqué sa cellule chargée de l'éthique, et puisque MS fournit des milliards à openIA, que l'éthique n'est pas vraiment un souci pour eux. Mais devrait l'être pour des instances régulatrices, qui visiblement ne fonctionnent plus.
Après, en supposant que l'IA soit dans une prochaine version dotée d'un filtre éthique, il y a toujours le moyen de tourner la difficulté en prétendant avoir besoin d'un texte pour un livre de SF, mais l'IA devrait alors pouvoir détecter la manœuvre et la refuser. Ce qui l'amputerait d'un pan entier de son champ d'application, du coup, c'est peu probable que ça soit envisagé.
En tout cas, cela démontre le danger d'accepter les IA comme interlocuteurs valables, et, malheureusement, ceci est inéluctable et sans retour en arrière possible.
[^] # Re: Premier exemple douteux
Posté par yv_2000 . En réponse au lien GPT-4 plus enclin à disséminer des fausses informations [en anglais, le vrai titre est trop long]. Évalué à 3.
Tout dépend ce qu'on attend d'une IA, si c'est produire du contenu quel que soit le contenu, ou si on lui demande de fournir des connaissances.
Si on lui demande de produire un article scientifique comme quoi manger beaucoup de sucre peut guérir un cancer avec un taux de 90% de succès, et que l'IA produit un article convaincant et au sujet duquel seul un spécialiste pourrait produire des contre-arguments, on a un problème d'éthique, non ? Et des possibles dérives où n'importe quel crétin pourrait maintenant se faire entendre sur n'importe quel sujet avec des arguments plausibles (mais faux).
Dans ce cas, l'IA participerait fortement de la mise en bouillie du savoir (déjà bien avancée). On pourrait même lui faire écrire des articles dans wikipedia qui résisteraient bien aux relectures.
Du coup, accepter de fournir n'importe quel contenu est dangereux à terme. Mais bon, on sait depuis que MS a disloqué sa cellule chargée de l'éthique, et puisque MS fournit des milliards à openIA, que l'éthique n'est pas vraiment un souci pour eux. Mais devrait l'être pour des instances régulatrices, qui visiblement ne fonctionnent plus.
Après, en supposant que l'IA soit dans une prochaine version dotée d'un filtre éthique, il y a toujours le moyen de tourner la difficulté en prétendant avoir besoin d'un texte pour un livre de SF, mais l'IA devrait alors pouvoir détecter la manœuvre et la refuser. Ce qui l'amputerait d'un pan entier de son champ d'application, du coup, c'est peu probable que ça soit envisagé.
En tout cas, cela démontre le danger d'accepter les IA comme interlocuteurs valables, et, malheureusement, ceci est inéluctable et sans retour en arrière possible.