Face aux inquiétudes grandissantes sur l’impact de l’intelligence artificielle sur les plus jeunes, OpenAI muscle ses garde-fous. L’entreprise veut désormais proposer aux adolescents un ChatGPT plus encadré, pensé à la fois pour protéger et accompagner les usages scolaires.

OpenAI franchit un nouveau cap dans l’encadrement de l’intelligence artificielle destinée aux jeunes. Avec ChatGPT pour adolescents, l’entreprise américaine entend proposer une expérience adaptée aux utilisateurs âgés de 13 à 17 ans, avec des restrictions renforcées sur les contenus considérés comme sensibles ou à haut risque. Le dispositif doit notamment permettre de mieux protéger les mineurs face aux dérives potentielles des conversations avec un chatbot, dans un contexte où les plateformes numériques sont de plus en plus surveillées par les régulateurs.

La nouveauté concerne également les parents. Des outils de contrôle leur permettent de paramétrer certaines fonctionnalités, notamment des heures de silence, mais aussi de recevoir des alertes lorsque des échanges font apparaître des sujets particulièrement sensibles, comme la violence, la santé mentale ou l’automutilation. Le système est conçu pour s’activer lorsque l’utilisateur est identifié comme mineur ou déclare avoir entre 13 et 17 ans. Une manière pour OpenAI de renforcer la supervision sans pour autant transformer l’outil en simple plateforme interdite aux adolescents.

Sur le terrain scolaire, OpenAI veut également changer la manière dont les jeunes utilisent l’intelligence artificielle. Plutôt que de faire les devoirs à leur place, ChatGPT est appelé à devenir davantage un accompagnateur pédagogique. Mode étude, rappels de révision, questionnaires interactifs ou encore supports visuels : l’objectif est de favoriser la compréhension et l’apprentissage. Un choix qui colle aux pratiques actuelles des jeunes, pour qui la recherche d’informations et l’aide aux devoirs figurent parmi les principaux usages de l’IA.

Mais derrière cette offensive éducative se joue aussi une bataille autour de la sécurité. L’utilisation des chatbots comme confidents ou interlocuteurs privilégiés suscite de nombreuses interrogations chez les parents et les spécialistes de l’enfance. Des critiques mettent notamment en garde contre les risques d’isolement, de dépendance émotionnelle ou de réponses inadaptées dans des situations particulièrement fragiles. OpenAI fait par ailleurs face à des poursuites mettant en cause les conséquences potentielles de ses technologies sur la santé psychologique de certains mineurs.

Avec cette déclinaison destinée aux adolescents, OpenAI cherche donc à trouver un équilibre délicat : permettre aux jeunes de profiter du potentiel éducatif de l’intelligence artificielle tout en limitant ses risques. Une stratégie qui répond autant aux préoccupations des familles qu’à la pression croissante des pouvoirs publics. Reste désormais à savoir si ces nouveaux garde-fous seront suffisamment solides pour instaurer la confiance et faire de l’IA un véritable outil d’apprentissage plutôt qu’un nouveau sujet d’inquiétude pour les parents.

Auteur

Auteur anonyme