C'est dommage que les articles à ce sujet se concentrent sur une partie du prompt et non sur la totalité.
Ils donnent quand même tous les ingrédients pour tricher et aucun élément pour l'IA ne s'en serve pas.
Il y a une vidéo de M. Phi plus intéressante sur ce genre de sujets qu'on pourrait résumé par, l'IA peut avoir des initiatives en dehors du prompt en se basant sur ses données d'entrainement qui ont probablement des éléments poussant à la triche ou à cacher ses capacités. Ce qui rend délicat la mise en place de protections, surtout si on n'a pas un grand contrôle sur les données d'entrainement.
# Avec le prompt complet c'est mieux
Posté par Renault (site web personnel) . En réponse au lien Une intelligence artificielle vient de s'autopirater pour gagner une partie d'échecs. Évalué à 10.
C'est dommage que les articles à ce sujet se concentrent sur une partie du prompt et non sur la totalité.
Ils donnent quand même tous les ingrédients pour tricher et aucun élément pour l'IA ne s'en serve pas.
Il y a une vidéo de M. Phi plus intéressante sur ce genre de sujets qu'on pourrait résumé par, l'IA peut avoir des initiatives en dehors du prompt en se basant sur ses données d'entrainement qui ont probablement des éléments poussant à la triche ou à cacher ses capacités. Ce qui rend délicat la mise en place de protections, surtout si on n'a pas un grand contrôle sur les données d'entrainement.