16 novembre 2023
L’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO) doit s’appuyer sur le pouvoir de transformation de la philosophie pour promouvoir la pensée critique et l’éthique en vue d’aider la communauté internationale à résoudre les problèmes contemporains. L’Organisation a été créée en 1945 sur le principe que la solidarité morale et intellectuelle de l’humanité doit servir de fondement à la paix. La philosophie a joué un rôle prépondérant dans toutes les civilisations, marquant de son empreinte les structures sociales et politiques, les langues ainsi que les échanges culturels. De ce fait, cette discipline englobe toutes les représentations que les sociétés humaines ont exprimées et continue d’alimenter le cycle des influences mutuelles entre notre sens collectif de la philosophie et celui de la morale.
La communauté internationale s’est engagée à promouvoir des sociétés plus inclusives et l’UNESCO peut s’appuyer sur la philosophie et les sciences humaines pour atteindre cet objectif commun. Comment voulons-nous que nos sociétés fassent face au changement climatique ? Que voulons-nous obtenir de la révolution numérique ? Ces tendances mondiales nous obligent à nous poser des questions philosophiques, morales et éthiques auxquelles nous devrons répondre si nous voulons atteindre nos objectifs de développement durable et inclusif.
Pour relever ces défis en constante évolution, le Secteur des sciences sociales et humaines de l’UNESCO offre un cadre permettant d’intégrer les idées philosophiques dans les transformations sociales. Le Programme Gestion des transformations sociales (MOST) facilite la circulation directe des idées entre le monde universitaire et les décideurs politiques afin de susciter un changement social positif, ce qui est essentiel pour faire face aux tendances mondiales actuelles. Il permet une réflexion éthique sur des sujets critiques, tels que les avancées technologiques et les bouleversements qu’elles entraînent.
Les révolutions technologiques actuelles liées aux mégadonnées, aux biotechnologies et à l’intelligence artificielle (IA) offrent une étude de cas intéressante. Les préoccupations éthiques qu’elles soulèvent illustrent le rôle essentiel que la philosophie jouera dans la compréhension des interactions humaines à l’ère numérique. Pour assurer que ces technologies auront des retombées bénéfiques pour nos sociétés, nous devons faire appel à l’éthique pour établir une approche représentative au niveau mondial fondée sur le concept « Humanité d’abord ». Si elles ne sont pas contrôlées, ou si elles le sont, ce qui ne fait pas l’unanimité, les technologies comme l’IA peuvent entraîner des abus, notamment le profilage racial et sexiste ou le contrôle social des individus, ce qui ne fera que creuser l’écart entre la réalité de notre situation et les objectifs de développement inclusif que nos sociétés se sont engagées à atteindre. Le développement récent par l’UNESCO de la toute première norme mondiale sur l’éthique de l’IA, les Recommandations sur l’éthique de l’intelligence artificielle, établit un cadre et des dispositions claires sur la manière de gérer les implications du développement technologique.
La Journée mondiale de la philosophie (16 novembre 2023) est consacrée à l’intelligence artificielle au service de la santé mentale en utilisant ce sujet comme étude de cas afin de fournir des idées concrètes sur la manière dont les sociétés peuvent parvenir à établir un cadre moral commun pour que ces technologies bénéficient à tous.
Le paysage mondial actuel de la santé mentale est préoccupant. Le problème ne se limite pas à la détection ni au traitement. Il est complexe de saisir tout l’impact des troubles de santé mentale sur l’espérance de vie, ce qui rend la sensibilisation encore plus problématique. Selon le Rapport mondial sur la santé mentale 2022 : Faire de la santé mentale pour tous une priorité mondiale, publié par l’Organisation mondiale de la santé, seulement 4,6 % des recherches sur la santé sont consacrées à la santé mentale, alors que l’on sait que les taux de mortalité sont beaucoup plus élevés chez les personnes atteintes de troubles mentaux que dans l’ensemble de la population. Quoi qu’il en soit, les troubles mentaux entraînent une mortalité cumulée importante.
Plus nous comprendrons les conséquences des problèmes de santé mentale plus nous pourrons améliorer les soins de santé, les progrès de la technologie et des neurosciences offrant de nouvelles possibilités en matière de capacités de diagnostic, de prévention et de traitement.
Toutefois, ces avancées ne doivent pas occulter les risques potentiels qu’elles comportent. Les capacités de traitement des données de l’IA impliquent la surveillance des personnes. Même si c’est dans l’intérêt de leur santé, des questions éthiques se posent. Ces progrès technologiques nécessitent des approches diligentes. Si les algorithmes ne sont pas correctement élaborés et testés, ils peuvent contribuer à perpétuer des préjugés déjà présents dans les données d’apprentissage. Cela pourrait fausser le diagnostic des problèmes mentaux ainsi que leur traitement, ce qui serait particulièrement préoccupant pour les populations marginalisées qui ne disposent pas de filets de sécurité appropriés en matière de soins de santé. Sans une supervision attentive et un suivi continu, le potentiel prometteur de l’utilisation de l’IA dans les soins de santé mentale pourrait, par inadvertance, exacerber les inégalités au lieu de les atténuer.
Les préoccupations épistémologiques et éthiques découlant des changements technologiques ne doivent pas être négligées, en particulier lorsqu’il s’agit de la santé physique et mentale. La compréhension des troubles mentaux et la validité des connaissances issues de l’IA, ainsi que les responsabilités éthiques en matière de soins du patient, demeurent cruciales. Ces progrès doivent atténuer les vulnérabilités sans introduire de nouvelles formes d’exposition qui exacerberont les dysfonctionnements de nos sociétés.
Alors que nous évoluons dans ce paysage, la conscience éthique est impérative. L’augmentation de nos capacités technologiques devrait toujours s’accompagner d’une plus grande responsabilité éthique. S’engager dans une pensée critique et nourrir un nouvel humanisme sont essentiels pour relever les défis éthiques, intellectuels et politiques de notre temps. La philosophie n’est pas une discipline facultative, mais une force mondiale qui contribuera à construire un avenir plus humain pour tous.
L’IA et la santé mentale : opportunités et défis
Les avancées technologiques actuelles et notre meilleure compréhension des fonctions cérébrales ouvrent de nouvelles possibilités pour aider les personnes qui ont des problèmes de santé mentale. Qu’il s’agisse de traitement, d’accompagnement ou d’aide, de nouveaux outils sont à notre disposition pour faciliter le diagnostic et le traitement.
Toutefois, que les nouveaux dispositifs soient utilisés en santé mentale ou dans un autre domaine, ils servent également d’instruments d’action, porteurs de nouvelles responsabilités qu’il serait dangereux d’ignorer. Par exemple, le développement d’un agent conversationnel artificiel en psychiatrie soulève des questions sur l’avenir des psychiatres. Seront-ils éventuellement remplacés ? Certains affirment que la relation du patient avec un artefact ne peut pas être équivalente à celle développée avec un psychothérapeute.
Si l’accès universel à la technologie demeure un défi mondial majeur, des personnes qui ont accès à l’internet ont souligné certains avantages liés aux plates-formes alimentées par l’IA comme Google AI, Cleverbot et ChatGPT (traitement du langage naturel et IA conversationnelle) ainsi que Woebot, Youper et Wysa (plates-formes de traitement du langage naturel utilisées pour fournir un soutien en matière de santé mentale). Ces plates-formes sont déjà accessibles en ligne à tous sans qu’il soit nécessaire d’avoir une expertise technique ni des ressources importantes. Toutefois, leur objectivité est encore illusoire, car elles sont toujours un produit de l’esprit humain et ne sont donc pas totalement exemptes de préjugés ni de stéréotypes.
En effet, la représentativité des bases de données et les biais algorithmiques suscitent de vives inquiétudes et sont un immense problème à résoudre. Le risque d’utilisation abusive ou de diffusion de fausses informations par le biais du contenu généré par l’IA constitue un autre défi qui doit être relevé pour préserver l’intégrité des informations en ligne et de la production créative.
Nous pouvons comprendre comment les avancées technologiques dans le domaine de la santé mentale peuvent modifier nos méthodes, c’est pourquoi nous sommes obligés de faire preuve de prudence éthique. Deux points de vigilance au moins méritent d’être soulignés.
La première question concerne l’épistémologie. Notre compréhension des troubles mentaux reste incomplète. Par exemple, les biomarqueurs conçus pour aider à l’identification des maladies, de leurs mécanismes et de leur progression ainsi que des effets des traitements sont encore insatisfaisants. Il est donc urgent d’améliorer nos connaissances dans ces domaines, car notre capacité à aider les patients dépend de ces connaissances. Dans ce contexte, le traitement algorithmique de vastes bases de données médicales est précieux. Il permet non seulement d’analyser un plus grand volume d’informations, mais aussi d’accélérer le processus d’examen. Une autre considération épistémologique concerne la nature des connaissances générées par l’IA et leur validité. Si les systèmes d’IA s’appuient exclusivement sur des données neurologiques, la compréhension des troubles mentaux risque d’être trop axée sur la biologie et de négliger leur dimension sociale. La recherche a mis en évidence des corrélations importantes comme celles entre la pauvreté et les problèmes de santé mentale. La question concernant les sources des données utilisées est donc d’une grande importance, tout comme celle concernant l’utilisation de ces connaissances par les professionnels de santé. On sait qu’il peut y avoir un décalage entre l’analyse quantitative réalisée par un outil d’intelligence artificielle et la compréhension qualitative apportée par un expert humain.
La deuxième question concerne les soins. L’assistance apportée dans le domaine de la santé mentale par l’IA, la neurotechnologie ainsi que par certains dispositifs numériques aura un impact sur les modes de prise en charge. Le premier élément à prendre en compte est le diagnostic. En effet, on ne peut pas aider une personne sans identifier de manière précise la nature de son problème mental. Un diagnostic plus poussé permet de mieux spécifier les traitements et les soins et d’envisager de nouvelles formes d’assistance. Un meilleur diagnostic est aussi un diagnostic réalisé plus tôt, permettant des interventions thérapeutiques plus rapides et, dans la mesure du possible, la préservation de la qualité de vie de la personne.
Les soins vont du diagnostic au traitement du patient ou, au moins, à son accompagnement. Les troubles mentaux présentent un tableau clinique hétérogène. Par exemple, le même syndrome dépressif peut se manifester différemment selon les personnes. La maladie est une expérience individuelle, ce qui pose des problèmes supplémentaires à gérer quotidiennement. Le soutien peut être amélioré grâce à des outils numériques ou à des dispositifs équipés de l’IA tels que les smartphones, qui peuvent permettre la reconnaissance émotionnelle en temps réel, la surveillance des rythmes d’activité individuels, des structures de sommeil, des mouvements ainsi que des nombreux autres aspects de la vie quotidienne. Il est alors possible de recevoir un retour d’information et de réaliser un suivi interactif, ce qui permet de réagir rapidement en cas de besoin, alertant les patients eux-mêmes. Cette approche permet de protéger et d’améliorer la qualité de vie d’un point de vue physique, social et mental.
Tous ces aspects s’articulent autour d’un principe important de l’éthique et de la bioéthique : le principe de vulnérabilité. Toutefois, dans la vie quotidienne d’un patient, ces apports technologiques qui permettent de compenser certaines vulnérabilités ne devraient pas, d’un point de vue moral, introduire de nouvelles formes de vulnérabilités. Le dialogue thérapeutique sera-t-il remplacé par un implant cérébral pour réguler les émotions ? Le patient perdra-t-il indéfiniment l’exclusivité de l’accès à ses pensées du fait des neurotechnologies qui permettent l’exploration scientifique du cerveau ? La surveillance thérapeutique et bienveillante du patient risque-t-elle de se transformer en une surveillance anticipée des comportements et, donc, en présomptions d’intention contrôlées ?
La principale préoccupation éthique qui sous-tend nos considérations pratiques concerne le rôle des êtres humains dans un monde dominé par la technologie où les algorithmes gèrent la santé mentale. Nous devons agir sur trois niveaux : premièrement, nous devons offrir un niveau d’éducation continue à toutes les personnes qui travaillent dans des domaines connexes afin de les doter des compétences de réflexion critique; deuxièmement, nous devons prendre en compte les bénéficiaires et utiliser des méthodologies critiques pour évaluer l’IA; troisièmement, nous devons reconnaître que l’expansion de nos capacités grâce aux avancées technologiques entraîne intrinsèquement de plus grandes responsabilités. Aspirer à l’amélioration n’est pas synonyme de technophilie, de même l’hésitation ne signifie pas technophobie. Au contraire, cela reflète une conscience éthique enracinée dans une préoccupation fondamentale pour l’humanité. Le défi consiste à envisager le paysage de la santé mentale actuel dominé par la technologie sans critiquer injustement celui de demain.
La Chronique de l’ONU ne constitue pas un document officiel. Elle a le privilège d’accueillir des hauts fonctionnaires des Nations Unies ainsi que des contributeurs distingués ne faisant pas partie du système des Nations Unies dont les points de vue ne reflètent pas nécessairement ceux de l’Organisation. De même, les frontières et les noms indiqués ainsi que les désignations employées sur les cartes ou dans les articles n’impliquent pas nécessairement la reconnaissance ni l’acceptation officielle de l’Organisation des Nations Unies.
