Pendant très longtemps, à chaque fois que l’on m’a parlé des méfaits de l’IA (j’ai une grosse pensée pour Olivier Cimelière) , je répondais en disant que j’attendais de les voir avant de m’alarmer.
Et pour cause, très souvent, le secteur fait peur en utilisant des épouvantails factices pour vendre des solutions d’assurance.
En 10 jours, j’ai vécu des cas clients et des illustrations coincidentes. qui m’ont amené une hypothèse : le secteur voit des licornes roses là où elles n’existent pas forcément (les bienfaits de l’IA) et on commence à voir une déferlante de problématiques auparavant peu croisées. (Les méfaits de l’IA) Ca n’est à ce stade qu’une hypothèse, mais voici ce que j’ai vu :
Le déclenchement
Le déclenchement de l’article s’opère simplement autour d’une affaire qui me concerne et de mon associé, Erwan de Rancourt. Nous sommes à 15 minutes d’être en rendez-vous ensemble, et une minute après un de mes messages lorsqu’il reçoit un message :
Coincidence troublante, le téléphone se termine exactement comme moi : 188 et est un numéro belge.
Ensuite, Erwan joue le jeu et reçoit des vocaux.
Bon, là n’importe qui me connaît sait que ça n’est pas moi. Ça manque de langage fleuri, ça n’est pas du tout mes intonations. Moi qui mandate Erwan, cela fait également très fortement rire. Mais c’est mon grain de voix. Et ça peut faire pas mal illusion à d’autres endroits.
On a contacté toute la boîte pour dire qu’ils pourraient être contactés par ce biais. Ils ont pensé que c’était un teasing de notre teambuilding et qu’on se marrait. Je ne sais pas ce que je dois en retirer. Il faut dire que chez nous, nous avons Riot et nous testons nos employés à des cyberattaques en continu. Reste que je ne peux pas m’empêcher de me dire que vu le nombre d’heures de TV et de radio qu’il y a sur moi sur le Web, on arrivera un jour à faire mieux.
Les autres sujets rencontrés
Dans le même temps, j’ai croisé :
- Un dirigeant dont des communautés d’extrême droite ont réalisé un montage grossier, susceptible de s’avérer délicat sur le plan politique. Le montage, bien exécuté, a été pris au premier degré par des milliers de personnes.
- Au sein d’un Comex, une personne a envoyé un article présenté comme authentique et véridique sur l’un des enjeux majeurs de l’organisation. Nous sommes alertés par la direction de la communication ; on se rend compte que le site Web génère en réalité des articles automatiques et qu’il est connu pour cela puisque des habitants de la localité échangent sur le fait de s’être fait avoir.
- J’écoute simplement des morceaux sur Spotify dans les Découvertes de la semaine. J’écoute un son et je me dis « mais c’est SIa ? ». Ce morceau c’est Wave of Freedom , 913 000 vues. Une Jamaiquenne d’origine nigérienne. Et en fait, c’est sur YouTube, on comprend qu’ils ont copié SIA pour modifier le son et joue dessus avec un simple disclaimer. (315 k vues) Un truc pour la cause palestinienne au final.
Et donc tranquillement en écoutant un service de confiance qui connaît mes goûts musicaux, je subis une mobilisation sociétale intelligente : (sans forcément me rendre compte)
À voir également si tout cela nourrit également une économie parallèle.
Ce que ca nous donne comme enseignement
Alors que, dans le même temps, j’ai des expériences déceptives au quotidien avec l’intelligence artificielle,(Demandez des bibliographies sur les crises et tomber sur son propre nom avec un livre qu’on a pas écrit est savoureux, bravo chat gpt 5.2) ces mêmes expériences désastreuses sont ce qui fait qu’une tentative de scam ne tient pas plus d’une seconde.
Si ces expériences deviennent optimisées et optimales, on aura dès lors de gros gains, mais également de gros problèmes parce que tout se structure.
Car lorsqu’on voit les nouveaux potentiels de sons détournés, de vidéos ou d’images détournées, l’influence sociétale va dépasser tout ce qu’on a vu avant. Et la campagne présidentielle laisse présager d’enjeux considérables.
Ça souligne l’importance des directions de la communication pour sécuriser les articles qui remontent jusqu’au Comex et pour pouvoir réagir rapidement et adéquatement aux situations. (Dans un monde où les sources sont très éparses et multiples) Et aussi la difficulté de savoir si on réagit à du fake ou pas, ce qu’on a déjà vu à de nombreuses reprises par le passé. (Macron étant un bel exemple sur sa relation avec Matthieu Gallet en 2017 ou sur la transexualité fake de sa femme)
Saper Vedere