ChatGPT : OpenAI met en place un contrôle parental

L’entreprise américaine OpenAI a annoncé mardi la mise en place prochaine d’un mécanisme de contrôle parental pour son outil d’intelligence artificielle ChatGPT, après que des parents américains ont accusé fin août l’agent conversationnel d’avoir encouragé leur enfant au suicide.

« Dans le mois à venir, les parents pourront lier leur compte à celui de leur adolescent » et « contrôler la manière dont ChatGPT répond à leur enfant selon des règles de comportement du modèle », a indiqué OpenAI dans un billet de blog.

Selon l’entreprise, il sera également possible d’être alerté en cas de détection de « détresse aiguë » dans les conversations de l’enfant et de paramétrer le compte en conséquence.

Cette annonce fait suite à un précédent billet publié fin août, dans lequel OpenAI expliquait préparer un mécanisme de contrôle parental.

OpenAI a précisé que d’autres mesures seront mises en place dans les 120 prochains jours, notamment la redirection de certaines « conversations sensibles » vers des modèles de raisonnement plus évolués, comme GPT-5-thinking, qui suivent et appliquent plus systématiquement les consignes de sécurité.

Avec AFP