Peluches connectées à l’IA : Kumma pointée du doigt pour des propos inadaptés et les risques pour les enfants

Faits récents autour de Kumma

La saga la plus récente concerne Kumma, une peluche qui paraît à première vue innocente, mais qui a tenu des propos inadaptés envers des enfants, décrivant notamment comment faire craquer une allumette et où trouver des couteaux bien aiguisés.

Kumma a aussi été sollicitée sur des questions relatives à des positions sexuelles et à diverses pratiques sadomasochistes. Son fabricant, le groupe FoloToy, l’a retirée du marché pour être révisée.

Contexte et risques liés aux technologies des jouets connectés

Il y a deux ans, l’organisation américaine PIRG Education Fund évoquait les dangers des jouets connectés, équipés de caméras, d’enregistreurs ou d’outils de géolocalisation, pouvant devenir de véritables espions dans la vie privée des enfants.

Cette année, des chercheurs soulignent que les chatbots alimentés par l’IA présentent des risques similaires à ceux observés sur les modèles de langage utilisés par le monde adulte. Bien que les fabricants ajoutent des filtres, ceux-ci ne fonctionnent pas toujours, et les risques de dérives et d’hallucinations demeurent.

Ces outils peuvent ne pas faire le tri entre ce qui convient à une conversation avec un enfant et ce qui ne convient pas.

Enjeux pour l’éducation et le développement

Outre les questions de sécurité, des experts s’inquiètent aussi d’un risque d’hyper-attachement et recommandent d’éviter d’offrir ces peluches interactives aux tout-petits. Même lorsque les protocoles et les protections sont respectés, ces échanges avec des robots dépourvus d’empathie et de responsabilité pourraient influencer le développement intellectuel des jeunes enfants.

Sources

Sources radio : Katja Schaer

Texte web : ami