ChatGPT est-il une bonne aide quand on a des idées suicidaires?

Pourquoi certaines personnes parlent-elles de suicide avec ChatGPT? 

Lorsqu’une personne vit de la détresse ou des idées suicidaires, il peut être difficile de parler à ses proches ou de demander de l’aide. Certaines personnes se tournent alors vers des outils d’intelligence artificielle comme ChatGPT parce qu’ils sont accessibles en tout temps et permettent de parler anonymement.

Les robots conversationnels sont conçus pour communiquer d’une manière qui ressemble aux échanges humains. Ils peuvent donner l’impression d’être empathiques, bienveillants ou compréhensifs. Pour certaines personnes, cela peut sembler plus simple ou moins intimidant que d’aborder leur souffrance avec un autre être humain.

Quand on vit de la souffrance ou de l’inquiétude, ces qualités peuvent être réconfortantes, et on peut avoir tendance à attribuer une personnalité ou un esprit humain à ces robots. On peut alors avoir l’impression de créer un lien de confiance avec ces outils, comme on le ferait avec un·e ami·e ou un·e intervenant·e. Pourtant, les chatbots n’ont ni conscience, ni émotions, ni compréhension réelle de ce qu’une personne vit.

Même si leurs réponses peuvent sembler réconfortantes, les outils d’intelligence artificielle ne comprennent pas la souffrance humaine et ne sont pas capables d’offrir un véritable accompagnement émotionnel ou clinique.

ChatGPT peut-il remplaçer un·e intervenant·e? 

Non, ChatGPT ne remplaçe pas un·e intervenant·e, un·e professionnel·le ou une ressource d'aide spécialisée. 

Les chatbots généralistes ne sont pas prévus pour intervenir en santé mentale ou en prévention du suicide. Ces modèles d'intelligence artificielle peuvent fournir des réponses maladroites ou dangereuses pour répondre à des crises réelles. De plus, rien ne garantit que l’information partagée par ces robots soit valide et appuyée sur les meilleures pratiques en prévention du suicide.

Du soutien humain est essentiel

Les ressources d’intervention spécialisées, comme suicide.ca, travaillent quant à elles avec des intervenant·es formé·es. Ces intervenant·es posent des questions, évaluent la situation, aident à traverser une crise et proposent des ressources adaptées. 

Parler à une autre personne permet d’être réellement entendu, soutenu et accompagné. Le lien humain joue un rôle important dans la prévention du suicide.

Quels sont les risques de demander de l'aide à l'IA?

Sur le service d’intervention par clavardage et texto de suicide.ca, par exemple, les intervenant·es sont formé·es en prévention du suicide et en intervention sur le numérique. Ils détiennent une expertise spécifique au contexte du Québec. En plus de prendre le temps de créer un lien de confiance avec chaque utilisateur, ils estiment la dangerosité du passage à l’acte suicidaire et proposent, au besoin, des mesures appropriées pour mettre la personne qui pense au suicide en sécurité et ce, en fonction de sa situation personnelle.
 
Au contraire, les robots conversationnels qui ne sont pas conçus pour intervenir, comme ChatGPT, ne sont pas formés pour appliquer les mesures de sécurité requises en fonction du niveau de danger, ni pour aider la personne à les appliquer. Ils ne sont pas nécessairement familiers avec les ressources qui existent sur le territoire de la personne avec qui ils discutent, et peuvent même indiquer des ressources qui n’existent pas, des faux numéros de téléphone, ou orienter les gens vers des services non adaptés à leur situation.

Des chatbots déconseillés pour les mineurs

ChatGPT n’est pas un service conçu pour les mineurs de 13 ans et moins et pourrait donc être particulièrement inapproprié pour les mineurs qui ont des idées suicidaires, qui s’inquiètent pour un proche ou qui vivent un deuil par suicide.
 
Au contraire, sur le service d’intervention par clavardage et texto de suicide.ca, les intervenant·es utilisent des outils adaptés à la tranche d’âge de chaque utilisateur et sont formé·es pour intervenir auprès des personnes mineures.

Ils connaissent les règles à appliquer et les manières de mobiliser ou non les titulaires de l’autorité parentale selon la situation de la personne de 13 ans et moins, de façon à ne pas lui porter préjudice.

Des enjeux entourant la protection des renseignements personnels

Quand on discute avec un·e intervenant·e de suicide.ca, on peut être amené à lui confier des informations intimes, des données très sensibles et personnelles. Tous ces renseignements sont stockés au Canada, sous la responsabilité de l’Association québécoise de prévention du suicide (AQPS), qui pilote suicide.ca avec le soutien du ministère de la Santé et des Services Sociaux du Québec.

L’AQPS s’efforce de maintenir les plus hauts standards de qualité, de sécurité, de transparence et d’imputabilité en matière de protection des renseignements personnels, afin de permettre à chaque personne de discuter de son vécu dans le respect de sa vie privée.
 
Au contraire, les informations personnelles partagées avec ChatGPT sont stockées sur des serveurs aux États-Unis, qui ne sont pas nécessairement soumis aux mêmes exigences que celles prévues par les lois en matière de protection des renseignements personnels du Canada et du Québec.

Il existe aussi des incertitudes et des inquiétudes sur la manière dont ChatGPT et d’autres robots conversationnels non spécialisés en intervention conservent et utilisent les renseignements personnels partagés par leurs utilisateurs.

Que faire si vous avez des idées suicidaires? 

Si vous vivez de la détresse ou que vous avez des idées suicidaires, vous n'avez pas à traverser cette situation seul·e. Nous vous invitons à vous tourner vers des intervenant·es professionnel·les pour obtenir de l’aide.

Pour ce faire, vous pouvez utiliser le service d’intervention par clavardage ou texto de suicide.ca ou appeler la Ligne québécoise de prévention du suicide. Ces services sont disponibles 24 heures sur 24, 7 jours sur 7, partout au Québec. 

• Pour clavarder : service de clavardage
• Pour texter : 53 53 53
• Pour appeler : 1 866 APPELLE (1 866 277-3553)

 

Il existe également d’autres ressources d’aide. Consultez la page « Obtenir des services d’aide » pour connaître les services adaptés à votre situation.

 

Pour en savoir plus sur le cadre d’intervention de suicide.ca 

La page « Le déroulement d’une intervention » fournit davantage d’informations sur la manière dont se déroule une intervention par clavardage et texto ainsi que sur les conditions d’utilisation et de confidentialité de suicide.ca. 

 

Pour d’autres informations ou outils

Pour de l’information ou des conseils, les sections suivantes pourraient également vous aider : 

• Je pense au suicide
• Je m’inquiète pour un proche
• Je suis endeuillé(e) par suicide