Les outils d’IA générative (IAg), comme ChatGPT, sont de plus en plus souvent utilisés comme des compagnons (relations amicales, amoureuses ou sexuelles) ou des conseillers personnels. Cette diffusion massive des conversations ordinaires entre humains et IAg a provoqué l’émergence de problèmes publics autour des risques liés à l’usage excessif de ces technologies, en particulier l’addiction et la manipulation des comportements allant jusqu’à des cas de suicides.
Plusieurs travaux de recherche explorent les risques psychosociaux liés aux relations des humains avec des IAg lors de dialogues et l’urgence de mettre en place des outils pour prévenir les risques liés à différentes formes d’attachement.
La thèse est interdisciplinaire mêlant Informatique et Sociologie Les objectifs de la thèse dans son volet sciences sociales sont doubles. D’une part, il s’agit de comprendre la nature des interactions qui se nouent entre l’utilisateur et l’IAg, et comment celles-ci viennent s’insérer dans l’écologie des relations que les individus entretiennent avec des acteurs humains et non humains. S’il existe un champ constitué qui porte attention aux interactions avec des êtres artificiels (Velkovska et al.., 2020), nous avons peu de recul sur les usages des outils de nouvelle génération. D’autre part, il s’agit d’étudier comment les concepteurs cherchent à répondre à la panique morale en proposant des solutions techniques. Dans une perspective de STS, il s’agira d’analyser les mécanismes de traduction interdisciplinaire : comment une théorie psychologique peut être intégrée dans un dispositif technique. Sur le volet des sciences informatiques, l’objectif sera double. Il portera d’une part sur la détection automatique en temps réel du niveau d’attachement de l’humain envers l’IA à partir d’indices dans le dialogue (linguistiques, contextuels et structurels) et d’autre part sur la proposition de mécanismes d’adaptation en temps réel des IAg à travers des stratégies conversationnelles pour prévenir les risques d’attachement déviant (e.g. mise en garde, ajustement de l’alignement conversationnel et relationnel). L’un des enjeux est de développer une approche innovante centrée utilisateurs en intégrant dans le processus de recherche un collectif d'utilisateurs (ethic-by-design) qui participera à l’élaboration et à l’évaluation de stratégies conversationnelles.
L’approche sociologique permettra de comprendre la nature des interactions qui se créent avec ces IA et le sens qu’elles ont pour les utilisateurs, les épreuves qu’ils rencontrent, les risques et malaises qu’ils ressentent. Elle s’appuie sur des entretiens et l’analyse de corpus d’interactions. On cherchera à identifier et mesurer dans les corpus des indicateurs associés (mesure de l’attachement, marques de malaise…). L’approche informatique permettra de mettre en place et d’évaluer des solutions concrètes pour prévenir les risques dans les relations socio-émotionnelles. Par exemple, des outils de détection automatique du niveau d’attachement seront construits à partir des indices identifiés par l’analyse sociologique et complétés par une exploration par apprentissage automatique sur les corpus.
Compétences attendues : profil interdisciplinaire Sociologie/Informatique
Equipe TALEP, Laboratoire d'Informatique et des Systèmes (LIS), Campus de Luminy,
Aucun
La rémunération est d'un minimum de 2300,00 € mensuel
44 jours
Pratique et indemnisation du TT
Prise en charge à 75% du coût et forfait mobilité durable jusqu’à 300€
Référence de l’offre
UMR7020-MAGOCH-002
Section(s) CN / Domaine de recherche
Sciences informatiques : signaux, images, langues, automatique, robotique, interactions, systèmes intégrés matériel-logiciel
Le CNRS est un acteur majeur de la recherche fondamentale à une échelle mondiale. Le CNRS est le seul organisme français actif dans tous les domaines scientifiques. Sa position unique de multi-spécialiste lui permet d’associer les différentes disciplines pour affronter les défis les plus importants du monde contemporain, en lien avec les acteurs du changement.
Le CNRS
Les métiers de la recherche
