Les Deepfakes sont exploités pour des activités malveillantes telles que la cybercriminalité, l’extorsion, les attaques ciblées, la désinformation, la fraude, la contrefaçon des méthodes d’authentification, porter atteindre la réputation des individus.
Les processus psychologiques et les conséquences des deepfakes restent largement peu étudiés et pour couronner le tout, leur effet subtil les rend encore plus insaisissables. En l’absence d’études scientifiques approfondies, nous sommes contraints de faire des hypothèses plutôt que des conclusions fondées sur des données analysées.
Impacts
- Une des particularités du deepfake est de favoriser la tromperie
Or il est connu que la tromperie via les deepfakes peut potentiellement être plus importante que celui de la tromperie verbale, tout simplement parce qu’ils ont la capacité de modifier non seulement le contenu verbal, mais également les propriétés visuelles or les humains s’appuient davantage sur les informations visuelles que sur d’autres formes d’informations sensorielles.
- C’est ici qu’entre en jeu « l’heuristique du réalisme », dans laquelle les gens sont plus susceptibles de se souvenir des messages visuels que des messages verbaux. Pourquoi cela fonctionne ? tout simplement parce que nous faisons plus confiance aux modalités audiovisuelles car plus ressemblant avec le monde réel. Cependant, cela ne s’arrête pas là ; un effet domino se produit. Les vidéos, étant des vecteurs puissants d’information, elles se propagent rapidement et deviennent souvent le critère ultime de véracité. Une étude de 2018 de Vosoughi a révélé que les fausses nouvelles se propagent 10 fois plus vite que les vraies.
Et c’est ainsi que peuvent naitre de fausses croyances. La boucle est bouclée. La construction même de notre compréhension du monde pourrait être sérieusement menacée (big bang, construction de l’univers…)
- Mais ça c’est dans le meilleur des cas ; imaginons maintenant que les deepfake aient la capacité de modifier nos souvenirs et même d’implanter de faux souvenirs, et dans ce cas c’est toute l’attitude d’une personne qui s’en voit modifiée.
Ce n’est pas moi qui le dis c’est Dobber T, Metoui N, Trilling , à travers leur étude qui a mis en évidence que « l’exposition à un deepfake représentant un personnage politique a considérablement aggravé l’attitude des participants à l’égard de ce politicien » (D et al. Les deepfakes (microciblés) ont-ils de réels effets sur les attitudes politiques ? Le Journal international de presse/politique.)
- Poursuivons la réflexion, plus nous allons sensibiliser face aux deepfake plus nous allons créer de la méfiance. Le chien, la queue, on tourne en rond, on n’avance pas d’un iota. Cette forme de perversion irait jusqu’à empêcher une personne de réellement croire ce qu’elle a vu…s’est et à s’y perdre …on revient au point de départ…l’exposition au deepfake augmente l’ incertitude.
- Notre perception peut en être altérée et pas seulement. La susceptibilité, la tromperie, la sensibilité émotionnelle, l’attention, la mémoire et la prise de décision sont impactés et vont varier en fonction des différences individuelles ( l’âge, le style cognitif, le sexe, la culture, l’appartenance au groupe…) Les deepfake vont remodeler la perception, la confiance et les interactions sociales.
Quelques concepts purement psychologiques
Rentrons dans le vif du sujet en abordant quelques concepts psychologiques expliquant et justifiant parfois le comportement humain, face aux deepfakes.
La rationalisation est un des nombreux mécanismes de défense. Ces mécanismes fonctionnent pour protéger inconsciemment l’ego de l’inconfort ou de la détresse. Il intervient notamment en cas de dissonance cognitive, pour justifier des comportements et des pensées. On va chercher de la cohérence dans le flux d’information.
La rationalisation a du bon et parfois ses revers, lorsqu’elle devient trop fréquente. Elle intervient aussi pour se protéger, conserver le sens de soi et son estime, mais elle aura forcément un cout. Le tout est de savoir doser/identifier ces émotions.
Le déni désigne un refus de reconnaître la réalité, c’est une mesure de protection face au choc émotionnel. Et quel choc si vous vous retrouvez sur les réseaux sociaux dans une situation inconfortable, ou si vous tenez des propos inacceptables alors même que ce n’est pas vous. Ce mécanisme de défense ne concerne pas uniquement les états pathologiques, il peut intervenir lorsqu’une réalité nous met mal à l’aise, le déni permet alors d’amortir le choc.
la régression va intervenir dans le but d’éviter les désagréments émotionnels dus à la perception et à l’évocation de certaines situations. En psychanalyse on parle de retour à un état antérieur. Ce processus inconscient intervient lorsque la personne ne peut pas faire face, où se sent dépassée . On le voit malheureusement dans le cas de deepfake ou les solutions de remédiation sont rares. La victime revient à une période plus confortable de sa vie.
La sublimation, dans ce cas la victime va réorienter son angoisse vers quelque chose de plus bénéfique. Grâce à la sublimation, le sujet transforme la souffrance. Allez une pincée de Freud encore, ce mécanisme intervient lorsque nous pensons ne pas avoir la capacité ou l’ aptitude à prendre en charge la situation.
On pourrait citer encore, l’introjection, le déplacement, la compensation12 et même l’humour
D’autres signes ou manifestations peuvent également se manifester, comme une augmentation de la paranoïa, de l’anxiété, de la dépression, de crise de panique, de comportement addictogène, de culpabilité, de retrait et comme un malheur n’arrive jamais seule cela entraine, des problématiques financières, familiales, sociales, d’isolement qui vont à leur tour entrainer une perte de soi, de son identité, de la confiance en soi, mais aussi envers les autres. Certaines personnes ne vivent qu’à travers le monde irréel et sont incapables de créer des liens avec …des vraies gens.
Quelques mises en situations
Imaginons maintenant plusieurs scenarios
- Le deepfake pornographique
Si on se penche sur la particularité des deepfake à caractère pornographique, puisqu’il faut rappeler que 95 % des deepfakes sont pornographiques et presque tous impliquent des femmes. Souvent il s’agit de médias synthétiques (qui consiste à manipuler ou remplacer le contenu existant par des éléments fabriqués hyper réalistes )
Le deepfake porno est devenu une véritable préoccupation.
Les conséquences psychologiques et sociales peuvent être dramatiques et aller jusqu’au harcèlement, à l’humiliation, et l’extorsion voire le suicide (Selon une étude menée par la Campaign End Revenge Porn, en 2012 , 51 % des victimes de « vengeance pornographique » envisagent le suicide.)
- Le deepfake qui touche vos enfants
Les enfants sont les premières à bien maitriser le sujet
- 90% estime avoir déjà entendu parler de l’intelligence artificielle.
- « 73% des 13-17 ans craignent qu’elle ne soit utilisée pour manipuler l’information »,
- « 71% à penser qu’elle pourrait affecter la protection des données personnelles, de la vie privée »( institut CSA-2023), mais, car il y a un mais ;
- 50% avoue vérifier une information avant de partager une vidéo, et on note une différence genrée : les filles sont davantage inquiètes que les garçons.
- Dernier chiffre : 79% d’entre eux pensent qu’ils ne sont pas suffisamment informés pour s’en protéger…alors il n’y a plus qu’à…
Ça c’était pour les chiffres, maintenant noircissons le tableau.
Imaginez que vous recevez la vidéo de votre enfant réclamant de l’aide , ou se retrouvant dans une situation embarrassante ou humiliante. Êtes-vous prêt à faire face à une telle éventualité ?
Les deepfakes vont générer toutes sortes de contenus, même malheureusement alimenter la pédopornographie, en récupérant des images sur les réseaux sociaux. On ne le dira pas assez éviter le sharenting !( pratique consistant à partager des informations, des photos, des vidéos ou d’autres contenus en ligne concernant ses enfants sur les réseaux sociaux ) Évitez de diffuser leur date de naissance, leurs préférences, le nom de leurs proches,…
Vos enfants sont beaux et intelligents, peut-être même HPI ( 😉) évitez pour autant de les exposer à des individus aux intentions malveillantes.
Je termine ce chapitre par une histoire dont je vous laisse juger si on la classe dans l’humour ou le pathétique : aux États-Unis, une mère a utilisé le deepfake pour nuire à un groupe de jeunes pom-poms girls rivales de sa fille. « Trois jeunes filles ont commencé à recevoir des photos et des vidéos d’elles les représentant en train de se déshabiller, de boire et de fumer, mais également des encouragements anonymes à se suicider. Leurs entraîneurs ont également reçu les mêmes contenus obscènes.»
- Le deepfake politique
Imaginons que notre cher président ait un discours vindicatif ciblant une population, une communauté. Ne serait-il pas légitime de penser que cela pourrait provoquer émeutes, affrontements et destruction.
Est-ce que par ce biais nous ne serions pas proche de la manipulation et du contrôle des pensées ? La manipulation peut être utilisée à diverses fins, qu’elles soient personnelles, politiques, commerciales ou autres, et peut entraîner des conséquences significatives sur les individus. Elle devient une arme.
Encore une fois, ce sujet présente des défis considérables en matière de sécurité et de confidentialité. Toutefois, il ne faudrait pas sous-estimer les répercussions psychologiques, (abordé ici de manière non exhaustive), qui méritent une attention tout aussi sérieuse.
Les implications de la manipulation humaine dans notre monde sont vastes et complexes.
Il reste important d’aborder ces aspects selon moi, afin de mieux comprendre les dynamiques sociales, politiques, économiques et bien évidemment psychologiques qui façonnent notre société. Cela nous aide également à développer des stratégies pour faire face aux défis que posent la manipulation et la désinformation.
En comprenant la dynamique qui sous-tend la création de deepfakes, on réalise que l’objectif d’un attaquant pourrait être d’utiliser cette technique pour manipuler, affaiblir et rendre ses victimes plus vulnérables.
Nathalie Granier juin 2024