Deepfakes : quel cadre légal et que faire si vous êtes victime ?

A l’heure du développement exponentiel des IA (intelligences artificielles), Internet se trouve inondé de nouveaux logiciels et algorithmes qui posent de nouvelles questions juridiques.

C’est notamment le cas du moteur de conversation ChatGPT : https://www.prevost-avocat.com/details-chatgpt+droit+d+auteur+donnees+personnelle+vie+privee+quels+enjeux-86.html

Ou encore du Deepfake, également appelé « hypertrucage », qui permet grâce l’AI de modifier une image, une vidéo, un audio, une voix pour prêter à quelqu'un un comportement ou des propos qu’il n'a pas tenu.

Dans les médias, le public a découvert cette technique de l’IA notamment gràace l’émission humoristique et satirique « c’est Canteloup ! » dans laquelle l’humoriste a recours au Deepfake pour caricaturer des personnalités publiques et politiques. Le logo de la chaîne qui diffuse l’émission et le nom de l’émission en bas de l’écran permettent d’identifier le contenu comme étant celui de l’émission et donc au public de ne pas se méprendre sur l’identité de la personne dont l’image et la voix peuvent être modifiés par ce procédé du Deepfake.

Malheureusement le Deepfake est souvent détourné à des fins purement malveillantes pour tromper les personnes qui visionnent le contenu truqué pensant que la personne dont l’image et la voix sont détournés seraient les réels auteurs des propos et du comportement prêté sur la vidéo.

Exemple-type : le recours au Deepfake pour truquer et détourner une vidéo à caractère sexuel et/ou pornographique en insérant le visage d’une ou plusieurs personnes qui n’ont aucun lien avec la vidéo originelle.

Dans ce cas, on bascule dans le registre d’un comportement pénalement répréhensible.

Que dit la loi ?

L’article 226-8 du Code pénal réprime les montages vidéos diffusés sans le consentement de la personne, s'il n'apparaît pas à l'évidence qu'il s'agit d'un montage ou s'il n'en est pas expressément fait mention.

Les Deepfake malveillants peuvent être poursuivis sous cette qualification pénale.

Quid d’un texte de loi spécial pour les Deepfake ?

En mai 2023, le Gouvernement a déposé un Projet de loi visant à sécuriser et réguler l'espace numérique : https://www.senat.fr/dossier-legislatif/pjl22-593.html

Cette loi a vocation à venir sécuriser et réguler l’espace numérique pour faire face à la multiplication des contenus illicites, notamment en matière de pornographie, de lutte contre le cyberharcèlement, la pédocriminalité, les fake news, et tout autre délit numérique.

Le texte qui était en débat au Sénat les 4 et 5 juillet 2023 a été amendé par les sénateurs qui ont débattu plus précisément des Deepfake et proposé que l’article 226-8 du Code pénal soit modifié pour « coller » de manière plus précise à cette nouvelle IA et ses détournements :

Il s’agirait ainsi selon les sénateurs d’ajouter ces dispositions au texte : « Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou s’il n’en est pas expressément fait mention »

Et d’augmenter les peines prévues par le Code pénal qui seraient portées à deux ans d’emprisonnement et 45 000 € d’amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisé en utilisant un service de communication au public en ligne.

Les sénateurs proposent également la création d’un nouvel article complémentaire 226-8-1 qui viendrait réprimer encore plus lourdement - deux ans d’emprisonnement et de 60 000 € d’amende – « le fait de publier, sans son consentement, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne, et présentant un caractère sexuel ».

La navette parlementaire suit son cours et nous suivrons avec grande attention les débats et la position des parlementaires des deux chambres sur ces propositions…

Quel faire si vous êtes victime de Deepfake ?

Il est recommandé de faire immédiatement des captures écrans des images truquées via ce procédé et aller déposer plainte.

L’assistance d’un avocat spécialisé en droit pénal du numérique est fortement recommandé au regard de la technicité de ce type d’infraction.

Maître Johanna Prévost, avocat en droit de la presse et droit pénal à Paris 6ᵉ, aide, conseille et accompagne les victimes de cyberharcèlement, en Ile-de-France et sur le reste du territoire français.