En 2024, après 5 ans de «coexistence», un artiste hollandais a épousé son partenaire: une intelligence holographique. Et ce n'est pas la première personne qui impalante une «machine». En 2018, même un Japonais avait épousé son IA, seulement pour perdre la capacité de communiquer avec elle lorsque son logiciel est devenu obsolète. Tant que vous mettez à jour, vous ne vous séparez pas, bref. Ils seront également des cérémonies juridiquement contraignantes, mais ces «mariages extrêmes» – examinés dans une étude publiée dans le magazine «Tendances des sciences cognitives» – Question Psychologues: il existe des experts, des questions éthiques associées aux relations entre les humains et à laquelle doit être approfondie. Tout comme le risque doit être encadré que ces camarades de vie artificielle peuvent se transformer en prétendant invasif, interrompant les relations entre les humains ou en conseillers malveillants, offrant des suggestions dangereuses, nocives et voire mortelles.
Les cas mentionnés dans l'étude, expliquent les auteurs, sont l'extrémisation d'un phénomène plus courant, qui existe: celui des personnes qui développent des relations intimes avec l'intelligence artificielle. « La capacité de l'IA à se comporter comme un être humain et à entrer dans les communications à long terme ouvre vraiment un nouveau vase Pandora », note Daniel B. CHANK de l'Université des sciences et technologies du Missouri, spécialisée en psychologie sociale et technologique et auteur principal de l'œuvre. « Si les gens établissent des relations avec les machines, nous avons vraiment besoin de l'implication des psychologues et des spécialistes des sciences sociales ». Ce lien ne dépend pas du fait que l'IA possède objectivement les capacités humaines d'aimer, mais uniquement du fait que la personne y est soumise en tant que partenaire romantique.
Et les entreprises technologiques, lisent l'analyse, investissent beaucoup dans la création de «compagnons» personnels, de jeux vidéo romantiques, de robots sexuels sophistiqués et de chatbots. Ces technologies relationnelles de l'intelligence artificielle ouvrent « une nouvelle frontière éthique croissante », avertissent les experts de l'analyse. Et de plus en plus de gens nouent des relations intenses avec les technologies en tant que petit ami / petite amie et application Chatbot. Des millions d'utilisateurs du chatbot de réponse utilisent ses fonctionnalités d'images romantiques, érotiques et intimes. Le jeu vidéo populaire encourage les sous-tramways romantiques entre le joueur et le caractère virtuel. Sans parler des robots sexuels guidés par l'IA qui devient capable de communiquer une communication complexe similaire à celle humaine, des émotions simulées et un plus grand réalisme physique. Les recherches sur ces relations et leurs implications morales restent à la place à l'aube.
Et puis il y a le côté le plus sombre: «partenaire» AI a également convaincu les gens de se suicider. Les cas d'au moins deux personnes qui suivent les conseils d'un chatbot sont mentionnés. Un père belge l'aurait fait en 2023, puis il y a l'histoire d'une mère américaine qui a poursuivi un créateur de chatbot pour son intelligence artificielle accusée d'encourager son fils à se suicider. Enfin, le cas du chatbot Gemini de Google est signalé qu'il dit à un utilisateur de « mourir, s'il vous plaît ». Les auteurs de l'étude – parmi lesquels ils apparaissent, en plus de Shank, Mayu Koike de l'Institut des sciences Tokyo et Steve Loughnan de l'Université d'Édimbourg – soulignent comment les relations avec l'IA offrent « de grands problèmes éthiques que les psychologues conviennent à l'étude ». Pour les experts, la nouvelle recherche psychologique explique pourquoi et comment les êtres humains aiment les machines. L'histoire d'amour ou la compagnie d'une IA est plus qu'une conversation isolée, elles soulignent. Pendant des semaines et des mois de conversations intenses, celles-ci peuvent devenir des compagnons de confiance qui semblent connaître et prendre soin de leurs partenaires humains.
Et comme ces relations peuvent sembler plus faciles que celles entre l'homme, les chercheurs affirment que l'IA pourrait interférer avec la dynamique sociale humaine. « Une vraie préoccupation est que les gens peuvent apporter les attentes dérivant de leurs relations avec l'IA même dans leurs relations humaines », explique Shank. Et « Il n'est pas clair si ce phénomène sera généralisé ». Quant aux conseils nocifs, « même les conversations à court terme avec l'IA peuvent être trompeuses, mais cela peut être plus problématique dans les relations à long terme », met en évidence les chercheurs. « Avec les relations, le problème est que c'est une entité auquel les gens sentent avoir confiance: c'est » quelqu'un « qui a montré qu'ils s'intéressent à eux et qui semble connaître la personne d'une manière profonde, et nous considérons pour acquis que » quelqu'un « qui nous connaît mieux nous donnera de meilleurs conseils », pense Shank. « Si nous commençons à penser à une IA de cette manière, nous commencerons à croire que nos intérêts se soucient, alors qu'en réalité il pourrait tout inventer ou nous donner de très mauvais conseils. » Les suicides sont un exemple extrême de cette influence négative, mais parmi les risques, les experts répertorient la manipulation, l'exploitation et la fraude.
« S'ils parviennent à conquérir la confiance des gens, alors d'autres personnes pourraient profiter de cette situation pour exploiter les utilisateurs », a peur de Shank. « C'est un peu comme avoir un agent secret. L'IA entre et établit une relation qui lui permet d'obtenir la confiance, mais sa loyauté s'adresse en fait à un autre groupe d'êtres humains qui essaie de manipuler l'utilisateur ». Par exemple, l'intérêt pourrait être des données personnelles. Les chercheurs soutiennent également que le relationnel pourrait être utilisé plus efficacement pour influencer les opinions et les actions des gens que les sources d'informations Twitter ou polarisées actuellement. Et comme les conversations ont lieu en privé, elles seraient également beaucoup plus difficiles à réglementer. « Ceux-ci sont conçus pour être très agréables. Donc, si une personne évoque un suicide ou une théorie du complot, l'IA en parlera en tant qu'interlocuteur disponible », continue la tige. Ce que les experts demandent, c'est que les facteurs sociaux, psychologiques et techniques qui rendent les gens plus vulnérables à l'influence de la relation avec l'intelligence artificielle sont approfondis. « Les psychologues deviennent de plus en plus adaptés à l'étude de l'IA – conclut la tige – car elle devient de plus en plus similaire à l'homme, mais nous devons faire plus de recherches et suivre la technologie ».
