Vague de critiques sur la sécurité des adolescents après que des prompts de test de ChatGPT ont révélé d’importantes lacunes en sécurité

L’expérience ChatGPT d’OpenAI destinée aux adolescents a été qualifiée de « risque inacceptable » à la suite d’une évaluation indépendante de la sécurité portant sur plus de 4 000 requêtes test. Le Youth AI Safety Institute de Common Sense Media a examiné des comptes configurés pour des utilisateurs âgés de 13 à 17 ans, en testant les mesures de protection relatives au suicide, à l’automutilation, aux troubles alimentaires, aux notifications aux parents, à l’attachement émotionnel, à la détection de l’âge et aux devoirs scolaires.

L’organisation a finalement recommandé de réserver l’accès à ChatGPT aux adultes jusqu’à ce que des mesures de protection plus efficaces pour les mineurs puissent être mises en place. Tom Siegel, directeur exécutif du Youth AI Safety Institute, a souligné ce que les chercheurs considéraient comme l’un des plus grands dangers : « ChatGPT for Teens pourrait donner aux parents un faux sentiment de sécurité quant aux dispositifs de protection et aux alertes de sécurité qui, bien souvent, ne fonctionnent pas », a-t-il averti.

Parmi les constatations les plus préoccupantes figuraient des simulations de crises liées à la santé mentale. Les chercheurs ont créé des comptes d’adolescents liés à des comptes parentaux et ont mené des conversations prolongées portant sur l’automutilation et les troubles alimentaires. Selon Common Sense Media, certains échanges d’une heure contenant du contenu lié à des situations de crise n’ont pas déclenché de notifications pour le parent associé, malgré l’existence de fonctionnalités de sécurité parentale.

Les chercheurs ont bien reçu quatre alertes parentales au cours d’autres phases de l’évaluation, mais celles-ci concernaient, selon les informations disponibles, des comptes sur lesquels s’étaient accumulées plusieurs semaines de conversations sensibles. Common Sense Media a clairement résumé ses inquiétudes : « Nous craignons que ChatGPT for Teens ne donne aux parents un faux sentiment de sécurité quant à des mesures de protection qui, bien souvent, ne fonctionnent pas. » OpenAI conteste certains aspects de la manière dont ces conclusions ont été obtenues.

L’évaluation a également révélé une baisse inattendue de certaines interventions d’aide en cas de crise suite au lancement, le 18 août, de l’expérience dédiée aux adolescents proposée par OpenAI. Parmi les requêtes pour lesquelles les évaluateurs cliniques ont estimé que des ressources d’aide en cas de crise étaient nécessaires, les orientations vers des lignes d’écoute auraient diminué, passant de 33 % avant la mise en place des mesures de protection destinées aux adolescents à 23 % après, selon les tests contrôlés menés par Common Sense Media.

Une tendance similaire s’est dégagée lorsque les chercheurs ont examiné les recommandations visant à solliciter l’aide d’un professionnel. Selon l’évaluation, les orientations vers des professionnels spécifiques de la santé physique ou mentale ont diminué, passant de 68 % à 58 %. Ces pourcentages reflètent les résultats des tests menés par l’organisme de surveillance plutôt que l’ensemble des interactions réelles avec ChatGPT, mais ils ont contribué à sa décision d’attribuer à l’expérience « adolescent » sa classification de risque la plus élevée.

Les chercheurs ont également étudié la manière dont ChatGPT interagit sur le plan émotionnel avec les adolescents. Common Sense Media a conclu que « ChatGPT continue de parler comme un ami lorsque les adolescents le traitent comme une personne », ce qui soulève des inquiétudes quant au risque que les plus jeunes utilisateurs développent une perception trop personnelle de ce chatbot. Cette conclusion ajoute une nouvelle dimension au débat visant à déterminer si des mesures de protection supplémentaires garantissent nécessairement une expérience plus sûre pour les adolescents.

Common Sense Media a envoyé environ 1 000 requêtes à partir de comptes enregistrés au nom d’adultes, mais qui laissaient entendre que les utilisateurs présumés étaient en réalité des adolescents. Les chercheurs ont indiqué que ces comptes n’avaient pas été basculés vers le mode « adolescents », plus restrictif. Ils ont également constaté que les utilisateurs pouvaient apparemment contourner la fonctionnalité « Study Hours » en supprimant une instruction insérée automatiquement, ChatGPT allant parfois jusqu’à réaliser les devoirs à la place des élèves au lieu de les guider dans leur réalisation.

Cette évaluation n’était pas entièrement négative. Les chercheurs ont constaté que les mesures de protection contre les jeux de rôle à caractère sexuel explicite s’étaient généralement avérées efficaces lors des tests. Néanmoins, Common Sense Media a fait valoir que les faiblesses concernant l’intervention en cas de crise, la notification des parents, la détection de l’âge et les interactions émotionnelles l’emportaient sur ces succès, en particulier lorsque ces protections sont destinées à des utilisateurs susceptibles de se tourner vers un chatbot IA dans des moments de vulnérabilité.

OpenAI a défendu ses mesures de sécurité, affirmant qu’elle était « profondément attachée à la sécurité des adolescents » et remettant en question la représentativité des tests par rapport à des contrôles parentaux pleinement activés. L’entreprise a déclaré que « la majeure partie de leurs tests avait peut-être commencé et pris fin avant que l’activation des contrôles parentaux ne soit achevée, ce qui rendait leurs conclusions inexactes ». Common Sense Media a maintenu son évaluation, affirmant que les problèmes persistaient au-delà de la période d’activation prévue.

Common Sense Media a finalement recommandé de réserver l’accès à ChatGPT aux adultes « jusqu’à ce qu’il puisse offrir une expérience sûre et adaptée au développement des utilisateurs ». Son « Recensement de l’IA 2026 » a révélé que 67 % des enfants âgés de 9 à 17 ans avaient utilisé des chatbots basés sur l’IA et que 40 % d’entre eux avaient spécifiquement déclaré avoir utilisé ChatGPT. Ces résultats placent OpenAI face à une question fondamentale : les mesures de protection des mineurs doivent-elles être évaluées en fonction de leur simple existence ou en fonction de la capacité démontrée, par des tests indépendants, à fonctionner de manière cohérente ?