He notes that one simulated test saw an AI-enabled drone tasked with a SEAD mission to identify and destroy SAM sites, with the final go/no go given by the human.
Donc contrairement à tout ce qui see disait plus haut ça me parait être bien l'humain qui choisi si tire il y a. Donc je ne comprends pas comment le comportement décris est possible.
Soit il s'agit effectivement d'une experience de pensée du monsieur qui n'a pas évaluer correctement ce qui serait avantageux ou pas pour l'IA.
Soit ils ont vraiment implémenté un truc qui dit "tu ne tire que si on te l'accorde, mais si tu n'arrive pas à nous contacter tire", ce qui serait effectivement un appel au meurtre de l'opérateur. Ils agiraient alors un peu comme les tourelles du jeux vidéo portal.
[^] # Re: Hein ?
Posté par barmic 🦦 . En réponse au journal Une simulation de drone de combat qui tourne mal. Évalué à 2.
J'ai relu l'article, il dit :
Donc contrairement à tout ce qui see disait plus haut ça me parait être bien l'humain qui choisi si tire il y a. Donc je ne comprends pas comment le comportement décris est possible.
Soit il s'agit effectivement d'une experience de pensée du monsieur qui n'a pas évaluer correctement ce qui serait avantageux ou pas pour l'IA.
Soit ils ont vraiment implémenté un truc qui dit "tu ne tire que si on te l'accorde, mais si tu n'arrive pas à nous contacter tire", ce qui serait effectivement un appel au meurtre de l'opérateur. Ils agiraient alors un peu comme les tourelles du jeux vidéo portal.
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll