OpenAI vient d’annoncer une mise à jour majeure de ChatGPT pour mieux accompagner les utilisateurs en détresse psychologique. Cette amélioration, développée en collaboration avec des experts en santé mentale, vise à créer un espace plus sûr et plus bienveillant pour les conversations délicates.
Un accompagnement renforcé pour les moments difficiles
La nouvelle version de ChatGPT a été spécialement entraînée pour mieux reconnaître les signes de détresse émotionnelle et orienter les utilisateurs vers une aide professionnelle appropriée. L’IA peut désormais :
- Détecter les conversations liées à des troubles mentaux comme la psychose ou la manie
- Identifier les signes d’automutilation ou d’idées suicidaires
- Reconnaître une dépendance émotionnelle excessive envers l’IA
Une approche scientifique en cinq étapes
Pour développer ces améliorations, OpenAI a suivi une méthodologie rigoureuse :
- Définir le problème : cartographier les différents types de risques potentiels
- Mesurer les situations : utiliser des évaluations et analyser les conversations réelles
- Valider l’approche : consulter des experts externes en santé mentale
- Réduire les risques : entraîner le modèle et mettre à jour les interventions
- Améliorer continuellement : valider les améliorations et ajuster si nécessaire
Des résultats encourageants
Les premières mesures montrent des progrès significatifs :
- 65% à 80% de réduction des réponses inappropriées dans les domaines liés à la santé mentale
- 39% à 52% d’amélioration selon l’évaluation des experts cliniciens
- Plus de 95% de fiabilité maintenue même dans les conversations longues
Des situations rares mais importantes
Bien que ces conversations sensibles restent exceptionnelles (moins de 0,2% des utilisateurs hebdomadaires), leur impact potentiel justifie pleinement ces investissements. OpenAI précise que :
- 0,07% des utilisateurs actifs montrent des signes de troubles mentaux graves
- 0,15% présentent des indicateurs de pensées suicidaires
- 0,15% développent un attachement émotionnel préoccupant envers l’IA
Un réseau mondial d’experts
Cette initiative s’appuie sur un réseau de près de 300 médecins et psychologues pratiquant dans 60 pays. Plus de 170 cliniciens ont directement contribué à cette recherche en évaluant les réponses du modèle et en fournissant des orientations cliniques.
Vers un avenir plus sûr
OpenAI reconnaît que ce travail n’est qu’un début. L’entreprise s’engage à continuer d’améliorer ses systèmes de détection et de réponse, tout en collaborant étroitement avec la communauté médicale internationale.
Cette évolution illustre parfaitement comment l’intelligence artificielle peut être développée de manière responsable, en plaçant le bien-être des utilisateurs au cœur des préoccupations techniques.
Source de cette information : OpenAI News
Vous avez aimé cet article ? Vous aimeriez nos formations !
Trouvez une veille quotidienne, des formateurs passionnés et curieux, les meilleurs niveaux sur des cas concrets. Cette passion qui nous anime nous permet de vous proposer LA formation qui répondra à VOS besoins.
Ces formations en lien avec cet article pourraient vous intéresser :
Poursuivez votre lecture avec ces articles :