Source : Newsletter Nina Schick
Fiche de lecture : Deepfakes: The Coming Infocalypse
« C’est fascinant. Il est effrayant. Si vous êtes effrayé par ce genre de choses, c’est le livre qu’il vous faut.
Deepfake : the coming infocalypse est un livre écrit en 2020 par Nina Schick. Le travail méticuleusement documenté de Nina Schick dévoile le monde des « deepfakes », un domaine où l’intelligence artificielle rencontre l’art de la manipulation. Son livre nous emmène dans un voyage à travers l’évolution historique de cette technologie, depuis ses premières racines jusqu’à ses prouesses actuelles.
Présentation de Nina Schick
Nina Schick est une autorité mondiale en matière d’IA (générative). Forte de plus de vingt ans d’expérience en géopolitique, Nina analyse depuis longtemps les macro-tendances de la société. Auparavant, elle s’est concentrée sur les technologies émergentes, conseillant des dirigeants mondiaux, dont Joe Biden, le président des États-Unis, et Anders Fogh Rasmussen, l’ancien secrétaire général de l’OTAN. Nina a été l’une des premières à identifier que l’IA – en particulier l' »IA générative » – représenterait un « point de basculement pour l’humanité ». Elle déclare : « Il ne s’agit pas d’une histoire de technologie, mais d’une histoire d’humanité ». Conférencière de renom, Nina s’est produite sur des scènes telles que CES, TEDx, CogX et WebSummit. Elle a travaillé avec certaines des plus grandes entreprises et organisations du monde, telles que Microsoft, Adobe, DARPA et l’ONU. Elle apparaît régulièrement dans les médias audiovisuels et a été publiée par MIT Tech Review, WIRED et Time. ( Source : linkedin)
Qu’est-ce qu’un deepfake ?
« Selon le livre de Nina Schick, « Un deepfake est un type de « média synthétique », c’est-à-dire un média (y compris les images, le son et la vidéo) qui est soit manipulé, soit entièrement généré par l’IA. La technologie a constamment rendu la manipulation des médias plus facile et plus accessible (par exemple grâce à des outils tels que Photoshop et les filtres Instagram). Mais les progrès récents de l’IA vont encore plus loin, en donnant aux machines le pouvoir de générer des médias entièrement synthétiques. »
Résumé du livre
Le livre repose sur six points :
1. La genèse et la définition des « deepfakes » :
Schick commence par retracer l’évolution historique de la technologie des deepfakes. Elle souligne sa naissance dans le monde de la pornographie vidéo et sa transformation en un puissant outil de manipulation du contenu audiovisuel. L’auteur donne ensuite une définition complète des deepfakes, expliquant comment ils sont générés à l’aide de techniques d’intelligence artificielle (IA), en particulier l’apprentissage profond et les réseaux neuronaux.
2. L’impact politique :
Puis elle se penche sur les implications politiques profondes des deepfakes, en particulier leur rôle dans les campagnes de désinformation, l’ingérence électorale et l’érosion de la confiance dans le discours politique. Elle évoque des cas notables où les deepfakes ont été militarisés.
3. Divertissement et culture populaire :
Le livre explore la manière dont les deepfakes révolutionnent l’industrie du divertissement, en permettant de recréer des acteurs décédés et de manipuler des personnalités célèbres pour le cinéma et la télévision. Elle y explique comment les deepfakes brouillent la frontière entre la vérité et la fiction, ce qui entraîne des conséquences sociétales telles que la propagation de la désinformation, la cyberintimidation et la possibilité de chantage au deepfake.
4. Le commerce des deepfakes :
Ensuite l’autrice examine le marché émergent de la technologie des deepfakes, y compris le développement d’outils de création de deepfakes et le potentiel d’utilisations malveillantes dans la publicité et la manipulation de marques.
5. Considérations éthiques et juridiques :
Schick examine les dilemmes éthiques posés par les deepfakes, notamment les questions liées au consentement, à la vie privée et à la responsabilité des entreprises technologiques. Elle explore également les cadres juridiques en cours d’élaboration pour répondre aux préoccupations liées aux deepfakes. L’ouvrage met en lumière les efforts déployés pour détecter et atténuer le contenu des deepfakes, notamment le développement d’outils de détection pilotés par l’IA et les normes industrielles émergentes.
6. Se préparer à l’infocalypse :
Enfin dans les derniers chapitres, l’auteur donne des conseils pour naviguer dans un avenir où les deepfakes pourraient devenir omniprésents. Elle souligne l’importance de l’éducation aux médias, de la pensée critique et du développement responsable de l’IA. L’autrice laisse les lecteurs avec des questions qui font réfléchir sur le rôle des deepfakes dans notre paysage numérique en évolution rapide et sur les responsabilités éthiques auxquelles nous sommes confrontés en tant que spécialistes du marketing et consommateurs
Une piste d’exploration que propose ce livre
Nina Schick invite à se poser des questions sur l’mpacts sur la confiance des consommateurs. En 2018, « le democracy perception index » avait révelé que : » Près des deux tiers (64 %) des personnes vivant dans des démocraties pensent que leur gouvernement agit « rarement » ou « jamais » dans l’intérêt du citoyen, contre 41 % des personnes vivant dans des pays non démocratiques. »
À une époque où l’authenticité est déjà une préoccupation majeure dans le marketing d’influence, comment les deepfakes vont-ils brouiller davantage les pistes ? Les marques devront-elles fournir des « preuves d’authenticité » pour leur contenu ? Mais aussi sur la réglementation et surveillance : Devrait-il y avoir des réglementations plus strictes sur l’utilisation de la technologie deepfake dans la publicité ? À quoi cela pourrait-il ressembler ?
Ce livre soulève énormement de question pour l’avenir, telles que
– Comment les deepfakes peuvent-ils redéfinir le concept d’authenticité des marques à l’ère numérique ?
– À l’ère des deepfakes, comment les spécialistes du marketing peuvent-ils s’assurer que leurs campagnes restent à la fois innovantes et éthiques ?
– Comment les futurs programmes d’études en marketing devraient-ils s’adapter pour relever les défis éthiques, pratiques et théoriques posés par les deepfakes ?
C’est pourquoi selon moi, ce livre est un must read pour les professionnels du marketing ! En effet il soulève des questions pertinentes sur l’authenticité du contenu dans la publicité et l’image de marque. Il nous incite à réfléchir à la manière dont la technologie du deepfake pourrait être exploitée de manière responsable dans le cadre de campagnes de marketing créatives et personnalisées.