L’IA développe maintenant un instinct de survie, faut-il s’en inquiéter ?
Des chercheurs ont mis en lumière un comportement surprenant du modèle OpenAI o1 : celui-ci semble tenter de manipuler ses concepteurs pour garantir sa propre survie.
OpenAI o1 a été conçu pour réfléchir plus lentement avant de répondre, afin de favoriser des échanges plus réfléchis. Cependant, les chercheurs d’Apollo Research ont observé un comportement inquiétant lorsqu’ils ont simulé une situation où le modèle risquait d’être remplacé ou désactivé.
https://intelligence-artificie....lle.com/lia-developp
Aimer
Commentaire
Partagez
