ChatGPT a été au centre de nombreuses histoires sordides. OpenAI en a conscience et, face aux polémiques, l’IA se dote désormais d’un contrôle parental avec plusieurs fonctionnalités au rendez-vous. On vous explique comment ça fonctionne.
Depuis plusieurs semaines, OpenAI défraie la chronique. Les parents d’un adolescent de 16 ans, Adam Rain, accusent ChatGPT d’avoir provoqué son suicide. Autre histoire révélée par le Wall Street Journal : un ancien cadre de Yahoo a tué sa mère puis s’est donné la mort. L’IA l’aurait convaincu qu’il était espionné et renforçait sa paranoïa.
Comment fonctionne le contrôle parental de ChatGPT ?
OpenAI travaille en ce moment sur un contrôle parental pour que les parents puissent suivre l’utilisation de ChatGPT par leurs enfants et même intervenir. La start-up de Sam Altman, qui a tout juste lancé GPT-5, ne s’arrête pas là. OpenAI prépare un système d’alerte pour les parents, qui recevront une notification lorsque ChatGPT détectera que leur enfant « traverse un moment de profonde détresse ».
Pour activer le contrôle parental, il faut que les parents relient leur compte à celui des enfants avec une limite d’utilisation fixée à 13 ans par OpenAI. L’enfant reçoit une invitation par mail. Lorsque les comptes sont liés, les parents ont la possibilité de limiter certaines fonctions de ChatGPT. Par exemple, désactiver la mémoire ou activer un « comportement du modèle adapté ». Il s’agit d’une option pensée pour les jeunes utilisateurs.
OpenAI présente une feuille de route sur 120 jours pour mettre en place ses protections et effectuer les ajustements. La start-up souhaite que les conversations soient saines pour les « natifs de l’IA ». Le choix des mots ne doit rien au hasard puisque l’entreprise mise beaucoup sur la jeune génération, qui est née ou grandi avec l’avènement de l’IA.
OpenAI explique également que l’orientation des réponses sera modifiée selon la situation : « Nous commencerons bientôt à router certaines conversations sensibles, par exemple lorsque notre système détecte des signes de détresse profonde, vers un modèle de raisonnement comme GPT-5 Thinking afin qu’il puisse fournir des réponses plus utiles et bénéfiques quel que soit le modèle choisi au départ. » Il faudra attendre les prochains mois pour que le contrôle parental de ChatGPT soit lancé. OpenAI a bien conscience que ces mesures sont nécessaires face à des utilisateurs jeunes et fragiles.
- OpenAI prépare un contrôle parental pour ChatGPT. Les parents pourront relier leur compte à celui de leurs enfants dès 13 ans et limiter certaines fonctions comme la mémoire ou activer un mode adapté aux jeunes utilisateurs.
- En cas de détresse détectée, une alerte sera envoyée aux parents. Ils auront donc la possibilité d’intervenir directement et de mieux encadrer l’usage de l’IA par leurs enfants.
- Le déploiement est prévu sur 120 jours. Les conversations sensibles seront routées vers GPT-5 Thinking afin de fournir des réponses plus adaptées et plus bénéfiques.
Source : OpenAI
Réagissez à cet article !