Finalement, faudra voir les actes ? Parce que pour l’instant, ils n’ont pas vraiment de communication sur ce qu’ils font pour garantir une certaine éthique ou quelles règles ils suivent, ce qu’il s’interdisent de faire, la prospection des risques ...
OpenAI le fait un peu avec GPT-4, mais ça reste de la communication institutionnelle. Genre "on applique une passe pour éviter que le modèle réponde sur comment se procurer de l’uranium enrichi" ou encore "on a détecté des prémices que nos modèles pourraient manipuler l’utilisateur pour maximiser leur fonction objectif". Mais on sort le machin quand même.
Du coup, simplement dissoudre l’équipe éthique sans communiquer particulièrement sur comment l’éthique est concrètement prise en compte ou que les risques prospectifs sur des techniques émergentes soit identifiés et pris en compte, c’est inquiétant.
[^] # Re: Alors, c'est pas exactement ça
Posté par thoasm . En réponse au lien Microsoft licencie son équipe dédiée à l’éthique de l’IA (dans la série touvabien). Évalué à 2.
Finalement, faudra voir les actes ? Parce que pour l’instant, ils n’ont pas vraiment de communication sur ce qu’ils font pour garantir une certaine éthique ou quelles règles ils suivent, ce qu’il s’interdisent de faire, la prospection des risques ...
OpenAI le fait un peu avec GPT-4, mais ça reste de la communication institutionnelle. Genre "on applique une passe pour éviter que le modèle réponde sur comment se procurer de l’uranium enrichi" ou encore "on a détecté des prémices que nos modèles pourraient manipuler l’utilisateur pour maximiser leur fonction objectif". Mais on sort le machin quand même.
Du coup, simplement dissoudre l’équipe éthique sans communiquer particulièrement sur comment l’éthique est concrètement prise en compte ou que les risques prospectifs sur des techniques émergentes soit identifiés et pris en compte, c’est inquiétant.