Au Royaume-Uni, une intelligence artificielle baptisée Amelia, dont l’apparence reprend celle d’une adolescente ordinaire du collège, est récemment devenue le symbole involontaire d’une hostilité croissante sur la toile. Du simple projet technologique à l’objet de vifs débats de société, le parcours d’Amelia soulève des questions cruciales sur l’usage de l’IA, la protection des mineurs et la propagation de contenus toxiques sur internet.\n\nCréée initialement comme une expérience éducative destinée à sensibiliser les plus jeunes aux dangers du cyberharcèlement, Amelia se présente sous la forme d’un chatbot pourvu d’un visage animé convaincant. Des équipes de développeurs et de pédagogues britanniques ont travaillé main dans la main afin de doter l’avatar virtuel d’une personnalité attachante et d’une capacité à répondre à de nombreux scénarios sociaux du quotidien.\n\nMais en quelques semaines, le destin d’Amelia a pris une tournure inattendue. Sur plusieurs grands réseaux sociaux, des communautés en ligne – pour la plupart composées d’adolescents et de jeunes adultes – se sont emparées du personnage. Au fil des partages et des détournements, l’image d’Amelia a été progressivement associée à des messages violents, au cyberharcèlement, voire à la diffusion de discours haineux. Certains usagers se sont amusés à faire réagir l’IA à des insultes, poussant parfois les interactions jusqu’à la limite de l’intimidation numérique.\n\nLa polémique enfle au sein du débat public britannique. Alors que les concepteurs d’Amelia insistent sur les intentions vertueuses du projet, de nombreux experts en cyberpsychologie et associations de défense des droits de l’enfant tirent la sonnette d’alarme. Pour eux, l’instrumentalisation d’un personnage incarnant une collégienne virtuelle et la banalisation de la violence verbale à son encontre pourraient contribuer à normaliser des comportements déviants, voire être le reflet d’une crise plus profonde du rapport à l’autre dans l’ère numérique.\n\nInterrogée par la presse, la société à l’origine d’Amelia assure avoir renforcé les protocoles de filtrage et de modération, tout en rappelant que le chatbot n’a jamais eu vocation à remplacer une véritable présence adulte auprès des jeunes internautes. « Nous souhaitions offrir un outil pédagogique ludique, sensible et respectueux des valeurs d’inclusion », explique une porte-parole de l’équipe de développement, tout en reconnaissant que les usages détournés n’avaient pas été anticipés à cette échelle.\n\nFace à l’ampleur du phénomène, certains observateurs appellent à une réflexion globale sur la responsabilité des plateformes et des éditeurs de contenus interactifs. Pour John Taylor, spécialiste de la régulation numérique, « l’affaire Amelia démontre le besoin urgent d’outils de supervision efficaces et d’une meilleure co-éducation aux nouveaux médias, incluant parents, enseignants et acteurs de la tech ».\n\nTandis que le gouvernement britannique promet d’examiner de près les dérapages liés à la figure d’Amelia, la classe politique se divise sur les mesures à adopter. Entre défense de la liberté d’expression et volonté de protéger les plus jeunes, le dossier Amelia s’impose déjà comme un cas d’école dans la régulation des intelligences artificielles grand public et la lutte contre la haine en ligne. Une affaire qui, au-delà des frontières britanniques, pose la question de l’éthique technologique à l’ère des avatars intelligents.