De nombreuses personnes se soucient de ce que les modèles génératifs permettent de générer des images indifférenciables de la réalité.

Est-ce justifié ? Est-ce qu'on n'exagère pas un peu le danger ?

Le vrai problème, c'est ...

Techniquement, on peut en effet générer maintenant des images photoréalistes indifférenciables. Mais le problème, ce n'est pas tellement l'extraordinaire performance technique que cela représente.

Le problème, c'est que dès qu'un nouvel outil est créé, il y a toujours une multitude d'enfoirés de bâtards qui se jettent sur ces nouveaux outils magnifiques pour les dévoyer et les utiliser à des fins d'arnaques, de piratages, d'escroqueries, et j'en passe.

Les premiers à vraiment utiliser les automobiles furent les braqueurs de banques, afin d'échapper à la police montée. A peine avait-on inventé un procédé ingénieux pour stabiliser le TNT et le rendre utilisable presque sans danger dans l'industrie minière, que des humains balançaient déjà de la dynamite à la tête de leurs congénères. C'est en constatant avec horreur la terrible utilisation de son invention, que le chimiste Alfred Nobel, a inventé le prix Nobel pour promouvoir la paix dans le monde.

A peine commençait-on à maîtriser l'énergie nucléaire qu'on vitrifiait deux villes japonaises, tuant des dizaines de milliers de civils en quelques secondes.

Le maillon pourri dans le système ... c'est l'humain.

Fake Influenceuses

Une des utilisations en vogues des IA génératives, est, en ce moment, de créer des fausse personnalités et en faire des influenceurs, ou principalement des influenceuses.

Une industrie de la fake influenceuse est en train de coloniser les réseaux sociaux. Pour se rendre compte de l'ampleur du phénomène, il suffit de regarder le nombres de tutos sur YouTube pour créer sa fake influenceuse :

Perso, je ne pense pas qu'il faille interdire la création de fake influenceurs/ceuses ... car au final, on peut considérer cela comme une sorte de travail créatif, voir artistique. Je suis assez persuadé que des créateurs de talents pourront imaginer des pseudo-identités qui, par le fond ou la forme, enverront des messages innovants ou originaux.

MAIS ... tous ces fake people devraient être labellés comme étant des fakes.

Et que ça soit pour les comptes TikTok fake, ou pour les futurs opérateurs téléphoniques qui peupleront bientôt nos centrales d'appels. On doit savoir de façon immédiate et non-ambiguë si l'on s'adresse à un vrai humain, ou si l'on parle à un modèle génératif.

Arnaques sur les applis de rencontre

Et la dernière en date, ce sont les arnaques sur Tinder et autres sites de rencontre. La technologie permet en effet à présent de générer des vidéo fake en temps réel, ce qui fait que de nombreuses personnes tombent dans le panneau, pensant s'adresser à une vraie personne, puisqu'ils ont communiqué avec durant un appel vidéo :

Tinder : cette arnaque presque indétectable basée sur l'IA est terrifiante - Tom's guide (qui fait dans le titre putaclick)
Tinder : cette nouvelle arnaque presque indétectable fait des dégats - où l'on voit que Ouest-France ne se fait pas trop chier pour rédiger ses articles, ... vu que c'est quasiment un copier/coller de l'article de Tom's guide.
Sur Tinder, la personne que vous verrez dans un appel vidéo n'est pas forcément celle derrière son smartphone - du journal Belge Le Soir.

Ce qui est assez magnifique avec ces 3 articles, c'est que, bien que signés par 3 "journalistes" différents, c'est quasiment le même.

Cela nous fait nous demander si le métier de journaliste ne se réduit pas maintenant à faire des copier/coller, ou bien s'il n'existe pas déjà beaucoup plus de fake journalistes que l'on ne se l'imagine. (des fakes journalistes qui font des articles sur des arnaques faites par deepfake ... belle mise en abyme)

Les arnaques aux video deepfake, ne touchent hélas pas que les applis de rencontre : piégé par une fausse vidéo conférence en deepfake, un employé transfère 25 millions de dollars à des escrocs.

468	Articles
1 821	Commentaires

2024	56
2023	3
2022	1
2020	4
2019	8
...

Anticipation	5
Dev	32
Films	5
IA	8
Jeux Vidéo	4
...

Web/Tech	31
MetaWiki	29
Weblogs	25
politique	22
KarmaOS	21
...

Une nouvelle industrie du FAKE