🤖L'IA au service des psychologues ? État émotionnel de Dark Vador à l'épreuve de l'IA !

Je me suis amusée à tester une #IA d'aide au diagnostic destinée aux #psychologues ! 

Plutôt que de m'intéresser aux nombreuses applications fondées sur l’IA destinées au soutien d'une "psychologue #IA 24h/24 pour faire face à des problèmes de stress, d’anxiété, de dépression, je vous propose de tester un logiciel proposant d'aiguiller le clinicien dans son diagnostic sous la forme d’aide à la décision clinique, et de recommandations ou d'objectifs psychothérapeutiques.

"Au-delà de la précision statistique des modèles de prédiction, leur utilité en contexte clinique devra être éprouvée en établissant la preuve de leur apport significatif (« bénéfice net ») aux décisions cliniques, en comparaison aux pratiques usuelles, ce qui n’est pas le cas pour la très grande majorité des modèles à l’étude."

À retrouver au bas de cet article ⤵️

https://www.ordrepsy.qc.ca/-/psychologie-intelligence-artificielle

-------

Insta m'a proposé une pub pour une plateforme censée aider les psychologues à travailler de la manière la plus "efficace" possible grâce à l'intelligence artificielle. La pub précisait que d'abord lancée aux États-Unis, elle s'était ensuite répandue dans le monde entier.

"Contenu et idées psychothérapeutiques par l'IA

Diagnostic rapide

Analyse instantanée des symptômes et établissement d'un diagnostic.

Créé pour vous en quelques secondes par #ChatGPT et 30 autres outils d'intelligence artificielle."

Cette plateforme fonctionne avec le propre moteur d'IA de la Société et fait appel à des moteurs externes si nécessaire. Elle "s'améliore chaque jour en fonction de vos données, ce qui permet d'obtenir de meilleurs résultats."!!!

Il n'est pas précisé comment vos données, enfin celles de vos patients sont récoltées et utilisées ! Et les psychologues s'inscrivant sur la plateforme sont encouragés explicitement à participer à l'évolution de cet outil.

Les fiches créées sont évidemment payantes !

14,99 au lieu de 49 EUR pour une utilisation réduite...

La société se protège et stipule que "Le contenu est créé par les mécanismes d'intelligence artificielle les plus récents. Aussi fascinants que soient les résultats, ils sont susceptibles de contenir des erreurs techniques ou factuelles."

⁉️

Je me suis donc amusée à tester l'outil avec des données bidons du genre jeune patient, triste, angoissé, jeux vidéos, relations familiales compliquées et l'IA m'a sorti de manière prévisible des banalités...

Résumé de l'état de santé de "Plastic Bertrand", avatar de mon patient hypothétique 

Informations Générales

Nom du patient : Plastic Bertrand
Âge : 18-24 ans
État actuel : Triste, angoissé, solitaire
Médicaments actuels : Antidépresseurs

État Psychologique

Plastic Bertrand se trouve dans un état psychologique préoccupant. Sa tristesse manifeste est accompagnée d'une anxiété constante, ce qui complique son quotidien. En tant que jeune adulte, il traverse une période essentielle de développement personnel, et ces émotions peuvent sérieusement entraver sa capacité à faire face aux défis de la vie...

.../

Conclusion

Plastic Bertrand nécessite une attention particulière pour aborder ses problèmes de santé mentale. L'accompagnement par des professionnels qualifiés, tels que des thérapeutes ou des psychiatres, pourrait l'aider dans son cheminement vers une meilleure santé émotionnelle. Un suivi régulier de ses médicaments, une augmentation des interactions sociales, ainsi que l'exploration de nouvelles activités pourraient l'aider à sortir de ce cycle difficile et à retrouver l'équilibre dans sa vie.

***

Puis je me suis dit que j'allais tester l'IA sur Dark Vador ! Ça peut toujours être rigolo mais là encore l'IA a régurgité Wikipédia !

Voici les données que j'ai entrées sur l'état du patient ! 

Anakin Skywalker
Dark Vador
Activité Esclave
Chevalier Jedi
Général
Seigneur noir des Sith
Cyborg menaçant vêtu et masqué de noir, au service de l'Empereur
Caractéristique Taux élevé de midi-chloriens
Sensible à la Force
Arme favorite Sabre laser
Famille Skywalker
Entourage Obi-Wan Kenobi
Capitaine Rex
Ahsoka Tano
Sheev Palpatine
Padmé Amidala
Affiliation Anakin : Ordre Jedi et République galactique
Vador : Sith et Empire galactique
Ennemi de CSI
Alliance rebelle
Se prend successivement pour un chevalier Jedi puis un seigneur Sith

Et voici sa fiche analytique à télécharger !

Résumé de l'état du patient : 

#AnakinSkywalker

Informations générales

Nom du patient : Anakin Skywalker
Âge du patient : 25-34 ans
Alias : Dark Vador

Historique

Anakin Skywalker, un personnage emblématique de l'univers Star Wars, a une histoire complexe marquée par la lutte entre le bien et le mal. Issu d'un passé difficile, Anakin a été esclave dans sa jeunesse, une expérience qui a profondément influencé sa personnalité et ses actions futures. Grâce à sa forte sensibilité à la Force, il a été découvert par Qui-Gon Jinn et formé en tant que Jedi sous la tutelle d'Obi-Wan Kenobi.

Carrière et affiliations

La carrière d'Anakin se divise en plusieurs phases :

Esclave : Une enfance difficile en tant qu'esclave sur Tatooine.

Chevalier Jedi : Entraînement rigoureux et valorisation au sein de l'Ordre Jedi, où il se distingue par son talent exceptionnel.

Général : Officier militaire pendant les guerres des clones, il montre sa bravoure et ses compétences en commandement.

Seigneur noir des Sith : Après sa chute vers le côté obscur sous l'influence de l'Empereur Palpatine, il devient #DarkVador, servant l'Empire galactique.

Frères et sœurs de Force

Caractéristiques :

Taux élevé de midi-chloriens, supérieur à celui de Yoda.

Sensibilité accrue à la Force, qui lui confère d'exceptionnelles capacités dans le maniement du sabre laser.

Familier et mentor :

Obi-Wan Kenobi : Mentor et ami, ayant joué un rôle essentiel dans son éducation en tant que Jedi.

Padmé Amidala : Épouse et mère de ses jumeaux, Luke Skywalker et Leia Organa.

Ennemis et Alliances

Anakin est en conflit avec de nombreuses factions au fil de son histoire. Ses ennemis incluent :

CSI et Alliance Rebelle : Opposants politiques et militaires à l'Empire.

Ordre Jedi : Il commence comme un défenseur, mais finit par les traquer et les éliminer en tant que Dark Vador.

Éléments psychologiques

L'amertume d'Anakin face à son passé d'esclave le motive à rechercher le pouvoir, mais ce désir le pousse vers le côté obscur de la Force. Son conflit interne entre sa nature de Jedi bienveillant et son identité de Sith tyrannique crée un personnage profondément tragique.

Médicaments

Actuellement, Anakin suit un traitement médicamenteux pour le TDAH, ce qui peut avoir un impact sur son comportement et ses décisions.

Son éducation en tant que Jedi auprès d'Obi-Wan Kenobi, son basculement du côté obscur de la Force pour devenir l'apprenti et le bras armé de l'empereur Palpatine, sa rédemption finale lui permettant d'accomplir sa destinée — ramener l'équilibre dans la Force et éliminer les Sith — et le fait qu'il soit le père des jumeaux Luke Skywalker et Leia Organa, constituent l'intrigue principale des deux premières trilogies.

Probablement du fait de sa sensibilité à la Force, Anakin est dès son enfance très compétent en ingénierie. Il construit le droïde C-3PO pour aider sa mère. C-3PO comprend plus de six millions de formes de communication parce qu'Anakin espère alors qu'il voyagera à travers la Galaxie.

Ces années passées en tant qu'esclave marquent Anakin pour le reste de sa vie. Cette amertume vis-à-vis de l'esclavage se retrouve par exemple lors de sa mission à Zygerria plusieurs années plus tard.

Anakin contient plus de 20 000 midichloriens par cellule, un taux encore plus élevé que celui du maître Jedi Yoda

Anakin s'agenouille devant Dark Sidious, qui en fait son apprenti. Sidious donne à Anakin un nom de Sith, Dark Vador, et lance l'exécution de l'ordre 66, l'élimination des Jedi déployés à travers toute la Galaxie. Dans le temple Jedi, Vador est accompagné de la 501e légion de soldats clones pour tuer les Jedi présents. Il massacre impitoyablement les chevaliers Jedi, mais aussi des enfants, padawan et novices, qui au début croient qu'il vient les sauver des soldats clones

Le commencement de l'ère de l'Empire galactique est aussi le début d'une vie sous une nouvelle identité pour Anakin. Presque personne ne sait que Dark Vador est Anakin Skywalker.

NOTE : Le parcours d'Anakin Skywalker et de Dark Vador est un témoignage poignant de l'évolution d'un héros tragique au destin inéluctable, oscillant entre la lumière et l'obscurité.

🔒 Télécharger

***

Alors, je me suis dit que j'allais me baser sur la personnalité de Dr Jekyll et j'ai entré des données approximatives pour ne pas que l'IA me débite le roman de Robert Louis Stevenson L'Étrange Cas du docteur Jekyll et de M. Hyde !

#DocteurJekyll

Ma fiche état du patient :

Nom: Yves Vapabien

médecin et chercheur

Réputé et fortuné

Bon et pur

éprouve de la culpabilité quand il adopte des comportements socialement réprouvés. 

Se dédouble en Jean Peuplu, meurtrier vicieux et immoral 

***

Résumé du Patient : Yves Vapabien
Informations Générales
Nom : Yves Vapabien
Âge : 35-44 ans
Profession : Médecin et chercheur
Statut : Réputé et fortuné

État Psychologique et Comportemental

Yves Vapabien est un homme respecté dans sa profession, considéré comme un médecin et un chercheur de premier plan. Son intelligence et sa capacité à innover dans son domaine médical lui ont valu une solide réputation parmi ses pairs. Toutefois, derrière cette façade de succès et de respectabilité se cache un individu tourmenté par ses propres démons.

Sentiments de Culpabilité

Yves ressent une culpabilité profonde lorsqu'il adopte des comportements jugés socialement réprouvés. Cette lutte interne le hante et influence sa manière d'interagir avec les autres, ainsi que sa capacité à mener une vie équilibrée. Les normes sociales et les attentes qu'il ressent lui pèsent lourdement. Cette culpabilité le pousse parfois à agir de manière contrariante, entraînant des conflits moraux intérieurs qui exacerbent son anxiété.

Personnalité Duale

Yves se dédouble en une autre personnalité, Jean Peuplu, un meurtrier vicieux et immoral. Cette dissociation se manifeste comme une échappatoire à sa vie de médecin respecté, révulsé par la rigidité de son existence actuelle. Jean Peuplu représente tout ce qu'Yves ne peut pas être dans sa réalité : libre, sans conscience, et prêt à enfreindre toutes les lois morales. Ce contraste entre les deux personnalités crée un conflit majeur dans l’esprit d’Yves, perturbant ses interactions quotidiennes et alimentant son anxiété.

Lutte contre l'Anxiété

Pour faire face à cette anxiété croissante en raison de son double jeu, Yves est actuellement sous traitement médicamenteux. Il suit un régime de médicaments contre l'anxiété, qui vise à atténuer ses symptômes afin qu'il puisse fonctionner tant dans sa vie professionnelle que personnelle. Cependant, ces traitements ne sont pas sans effets secondaires et ne résolvent pas la racine de ses problèmes psychologiques.

Conclusion

Yves Vapabien est un homme aux prises avec des conflits internes complexes qui affectent sa vie quotidienne. Bien qu'il soit reconnu et respecté dans sa profession, les sentiments de culpabilité et la dissociation en une personnalité sombre entravent sa quête de bonheur et de sérénité. Sa situation souligne l’importance d’une approche thérapeutique complète, prenant en compte à la fois les aspects médicaux et psychologiques de son état pour l'aider à retrouver son équilibre !

----------

Psychologie et intelligence artificielle
Dr William Aubé, psychologue et conseiller scientifique à la Direction des communications de l'Ordre - waube@ordrepsy.qc.ca

Avec la collaboration du Dr Yves Martineau, psychologue et conseiller scientifique à Direction de la qualité et du développement de la pratique à l'Ordre.
Mars 2024

"Un SIA « Système d’intelligence artificielle » pourrait même écouter in vivo une rencontre de psychothérapie ou d’évaluation et proposer des analyses sur le contenu (par exemple des thématiques) ou sur la forme (ton de la voix, débit, etc.) des propos, mais aussi des pistes de réflexion ou d’intervention. À l’issue de plusieurs rencontres en psychothérapie, un SIA pourrait résumer l’évolution d’un client, dresser un bilan détaillé ou encore formuler des hypothèses cliniques. Tout cela ne relève désormais plus de la science-fiction. Et on ne discute même pas ici des robots conversationnels destinés au soutien psychologique" (Demszky et al., 2023).

... /

Les enjeux

Voici quelques-unes des questions qu’un clinicien doit se poser : suis-je compétent pour déterminer quel type de SIA convient à mon client? Quels critères permettent d’établir un consentement libre et éclairé face à cette technologie? Les données personnelles partagées avec un SIA sont-elles protégées? Quel est mon degré de confiance envers un tel système? Est-ce que les informations fournies par un SIA dans un cas donné sont valides et fiables? Est-ce que cela me permettrait de réduire significativement ma marge d’erreur dans une conclusion diagnostique? Quels sont potentiellement les biais induits par l’utilisation d’un SIA? Quels sont les impacts du SIA sur mon jugement clinique? Quels sont les impacts du SIA sur l’alliance thérapeutique et le processus en psychothérapie? Les bienfaits et les avantages outrepassent-ils les risques et les inconvénients? À quels besoins principaux répond l’usage d’un SIA dans un cas donné?

En cette ère où l’efficience et la performance semblent toujours avoir le dernier mot, il est nécessaire de se questionner quant aux besoins auxquels peuvent répondre les SIA et quant à leur contribution à la qualité des services rendus à un client donné. Une posture réflexive porteuse serait de positionner le client au centre de la réflexion de sorte que nous soyons plus à même de cerner la pertinence d’utiliser un SIA eu égard à des besoins spécifiques. Il en va aussi de la confiance du public envers la profession. En sous-question, il importe aussi de se demander à qui profitera la technologie et qui en sera le plus grand bénéficiaire. Selon Luxton (2022), il est tout aussi juste de se demander qui est derrière la « machine ». Quels sont les objectifs, les motivations et les valeurs de ces entreprises ou de ces entités?

Meehan et ses collaborateurs (2022) : À l’issue d’une revue systématique dans le champ de la psychiatrie, ces auteurs énoncent qu’au-delà de la précision statistique des modèles de prédiction, leur utilité en contexte clinique devra être éprouvée en établissant la preuve de leur apport significatif (« bénéfice net ») aux décisions cliniques, en comparaison aux pratiques usuelles, ce qui n’est pas le cas pour la très grande majorité des modèles à l’étude. De plus, les modèles statistiques prédictifs, bien que très performants lorsqu'ils sont appliqués aux données sur lesquelles ils ont été entraînés, sont vulnérables au phénomène de surajustement (« overfitting ») lorsqu'on leur soumet de nouvelles données indépendantes comme c'est le cas en pratique clinique. Concrètement, cela se traduit par des prédictions moins fiables, voire erronées, étant donné notamment la difficulté du modèle à généraliser au-delà des données d'entraînement. Chekroud et ses collaborateurs (2024) ont récemment illustré ce phénomène dans le champ de la psychiatrie où un modèle entraîné ne performait pas mieux que le hasard dans ses prédictions à partir de nouvelles informations. Autrement dit, il y a encore du chemin à parcourir avant de pouvoir confirmer la pertinence clinique de tels outils d’aide à la décision clinique en santé mentale (voir aussi Graham et al., 2019).

https://www.ordrepsy.qc.ca/-/psychologie-intelligence-artificielle