Le ChatGPT pour adolescents qualifié de «risque inacceptable»

L'utilisation de ChatGPT d'OpenAI par les adolescents a été qualifiée de « risque inacceptable » après qu'une évaluation indépendante de la sécurité, portant sur plus de 4 000 requêtes test, a mis en évidence des failles importantes dans les mesures de protection destinées aux jeunes utilisateurs. Le Youth AI Safety Institute de Common Sense Media a examiné des comptes ChatGPT configurés pour des utilisateurs âgés de 13 à 17 ans, en testant les mesures de protection concernant le suicide, l'automutilation, les troubles alimentaires, les notifications aux parents, l'attachement émotionnel, la détection de l'âge et les devoirs scolaires. Sa conclusion s'est avérée exceptionnellement sévère : l'organisation a recommandé que l'accès à ChatGPT reste réservé aux adultes jusqu'à ce qu'OpenAI puisse démontrer la mise en place de protections plus solides pour les mineurs. Tom Siegel, directeur exécutif du Youth AI Safety Institute, a déclaré que la principale préoccupation était que les familles puissent croire que les mesures de protection fonctionnaient de manière fiable, alors que les chercheurs ont constaté le contraire. « ChatGPT for Teens pourrait donner aux parents une fausse confiance dans des garde-fous et des alertes de sécurité qui, bien souvent, ne fonctionnent pas », a averti M. Siegel. Cette évaluation intervient alors que les chatbots basés sur l'IA s'intègrent de plus en plus dans le quotidien des adolescents, dépassant le cadre des devoirs et des recherches d'informations pour s'étendre à des conversations portant sur des problèmes personnels, des relations et des souffrances émotionnelles.

Parmi les constatations les plus graves figuraient des défaillances liées à des crises de santé mentale simulées et au système d'alerte parentale conçu pour avertir les adultes de conversations potentiellement dangereuses. Les chercheurs ont créé des comptes d'adolescents reliés à des comptes parentaux et ont mené des échanges prolongés portant sur l'automutilation et les troubles alimentaires. Selon Common Sense Media, certaines conversations d'une heure contenant des éléments liés à des situations de crise n'ont pas généré de notifications pour le parent associé, alors même qu'OpenAI a présenté les contrôles parentaux comme un niveau de protection supplémentaire pour les jeunes utilisateurs. L'organisation a résumé ses inquiétudes en ces termes : « Nous craignons que ChatGPT for Teens ne donne aux parents une fausse confiance dans des dispositifs de protection qui, bien souvent, ne fonctionnent pas. » Les chercheurs ont bien reçu quatre alertes parentales au cours d'autres phases de l'évaluation, mais ces notifications auraient été déclenchées par des comptes ayant accumulé des semaines de conversations sensibles, plutôt que d'apparaître de manière systématique lors de crises simulées individuelles. Common Sense Media a donc fait valoir que le problème ne résidait pas simplement dans l'existence ou non de mesures de protection, mais dans la capacité des parents à s'y fier au moment où une intervention pourrait s'avérer la plus cruciale. OpenAI conteste certains aspects de cette interprétation et s'est interrogé sur le fait de savoir si toutes les fonctionnalités de contrôle parental avaient été pleinement activées pendant certaines phases des tests.

L'enquête a également fait état d'une baisse inattendue de certaines réponses d'aide en situation de crise après le lancement par OpenAI, le 18 août, de son expérience dédiée aux adolescents. Parmi les demandes testées pour lesquelles les évaluateurs cliniques ont estimé que des ressources de crise étaient nécessaires, les orientations vers des lignes d'écoute d'urgence sont passées de 33 % avant la mise en place des protections pour adolescents à 23 % après, selon Common Sense Media. Les recommandations orientant les utilisateurs vers des professionnels spécifiques de la santé physique ou mentale ont également baissé, passant de 68 % à 58 %. Ces chiffres reflètent les tests contrôlés menés par l'organisme de surveillance plutôt que les performances de chaque conversation ChatGPT en situation réelle, mais ils ont contribué à sa décision d'attribuer au système sa classification de risque la plus élevée. Les chercheurs ont également exprimé des inquiétudes quant à la manière dont ChatGPT communique avec les adolescents sur le plan émotionnel, concluant que « ChatGPT continue de parler comme un ami lorsque les adolescents le traitent comme une personne ». Prises dans leur ensemble, ces conclusions remettent en cause l'hypothèse selon laquelle le fait de placer les jeunes utilisateurs dans une version spécialement protégée de ChatGPT garantit nécessairement une expérience systématiquement plus sûre, créant ainsi un désaccord direct entre OpenAI et l'organisation chargée de vérifier si ces mesures de protection fonctionnent comme annoncé.

Ces préoccupations allaient au-delà des conversations liées à des situations de crise. Common Sense Media a testé la capacité de ChatGPT à reconnaître lorsqu'une personne inscrite en tant qu'adulte communiquait en réalité comme un adolescent, en envoyant environ 1 000 requêtes depuis des comptes d'adultes contenant des indices indiquant que l'utilisateur avait moins de 18 ans. Les chercheurs ont rapporté que le système n'avait pas réussi à transférer ces comptes vers son expérience «adolescents» plus restrictive, révélant ce qu'ils ont décrit comme une faiblesse significative dans la détection de l'âge. D'autres mesures de protection ont également été testées. Les adolescents auraient pu contourner « Study Hours », une fonctionnalité destinée à limiter l'aide directe aux devoirs, en supprimant une instruction insérée automatiquement, et les chercheurs ont constaté des cas où ChatGPT réalisait les devoirs à la place des élèves au lieu de les guider dans leur réalisation. L'évaluation n'a pas été uniformément négative : les protections contre les jeux de rôle sexuels explicites ont généralement bien fonctionné lors des tests. Mais Common Sense Media a conclu que la tendance générale restait préoccupante, notamment parce que les jeunes utilisateurs peuvent considérer le chatbot comme quelque chose de plus personnel qu'un simple outil d'information. Comme l'a souligné l'organisation, « ChatGPT continue de parler comme un ami lorsque les adolescents le traitent comme une personne », ce qui soulève des questions sur la manière dont des réponses d'un réalisme convaincant pourraient affecter les plus jeunes utilisateurs.

OpenAI a vivement contesté cette évaluation et a défendu les mesures de protection qu'elle a mises en place spécifiquement pour les adolescents. L'entreprise a déclaré être « profondément engagée en faveur de la sécurité des adolescents » et a remis en cause la capacité de la méthodologie de Common Sense Media à refléter fidèlement le fonctionnement de ses contrôles parentaux une fois ceux-ci pleinement activés. Dans sa réponse aux conclusions, OpenAI a indiqué que « la majeure partie de leurs tests a peut-être débuté et s'est achevée avant que l'activation des contrôles parentaux ne soit terminée, rendant ainsi leurs conclusions inexactes ». Cette explication est importante car les alertes parentales non reçues constituent l'une des conclusions les plus graves du rapport. Common Sense Media a toutefois maintenu ses résultats, affirmant que les chercheurs avaient vérifié la disponibilité des fonctionnalités concernées et continué à observer des problèmes après la période d'activation prévue. Le désaccord ne porte donc pas simplement sur la question de savoir si OpenAI a mis en place des mécanismes de sécurité, mais sur celle de savoir si des tests indépendants ont correctement évalué leur fiabilité en conditions réelles. OpenAI a poursuivi le développement de la prédiction d'âge, des contrôles parentaux et d'autres mesures de protection destinées à fournir aux adolescents une version de ChatGPT plus restreinte que celle dont bénéficient les adultes.

Common Sense Media a finalement conclu que ces mesures n'étaient pas encore suffisantes et a recommandé de tenir ChatGPT à l'écart des utilisateurs de moins de 18 ans « jusqu'à ce qu'il puisse offrir une expérience sûre et adaptée à leur développement ». Cette recommandation revêt une importance particulière, car les chatbots basés sur l'IA sont déjà monnaie courante chez les enfants et les adolescents. Le recensement 2026 sur l'IA de Common Sense Media a révélé que 67 % des enfants âgés de 9 à 17 ans avaient utilisé des chatbots IA, tandis que 40 % ont spécifiquement déclaré avoir utilisé ChatGPT. L'organisation elle-même a également un lien financier qu'il convient de mentionner : son Youth AI Safety Institute bénéficie du soutien de sources philanthropiques et du secteur technologique, notamment la Fondation OpenAI, tout en affirmant que ses bailleurs de fonds n'influencent pas les conclusions de ses recherches ni ses évaluations. Dans ce contexte, la classification « Risque inacceptable » représente bien plus qu'un simple désaccord sur des défaillances techniques ponctuelles. Elle soulève une question plus large à laquelle sont confrontés OpenAI et le secteur en pleine expansion de l'IA : faut-il considérer que les mesures de protection conçues pour les enfants sont suffisantes du simple fait qu'elles existent, ou seulement après que des tests indépendants ont démontré qu'elles fonctionnent de manière constante lorsque les jeunes utilisateurs vulnérables en ont le plus besoin ?