(argumentaire en anglais sur le lien du titre vers le site original)

• C’est du vol
• C’est abusif
• C’est néfaste pour l’environnement
• C’est néfaste pour l’économie
• C’est néfaste pour l’expertise
• Ça perpétue les préjugés
• C’est néfaste pour votre cerveau
• Ça enrichit les personnes mal intentionnées
• C’est de la camelote générique
• C’est de l’exploitation de la main-d’œuvre
• C'est de la mésinformation
• C'est de la désinformation
• Cela dégrade la communication humaine
• Cela crée des cibles militaires dans des zones civile
• Cela fait fuir vos clients

Mercredi, les États membres de l’UE ont approuvé une modification du RGPD qui ferait passer les intérêts commerciaux d’OpenAI, d’Anthropic, de Google, de Meta et de SpaceX avant le droit fondamental des Européens à la protection des données. Selon le texte approuvé, le traitement des données à caractère personnel « dans le cadre de l’IA » devrait automatiquement être considéré comme licite. En particulier, les géants de la tech pourraient utiliser toutes les données à caractère personnel collectées au cours des dernières décennies sans pratiquement aucune restriction, pour autant que cela se fasse « dans le cadre » de l’IA.

Schrems : « Selon le texte convenu, les profits des entreprises d’IA l’emporteraient généralement sur le droit fondamental des Européens à la vie privée. Cela n’est rien d’autre qu’une expropriation numérique des Européens. » Tout cela se produit alors même que les figures de proue des entreprises d’IA mettent activement en garde contre les risques considérables associés à leurs propres produits.

Les dernières barrières tombent : les profits des entreprises d’IA l’emportent-ils sur la protection des données ?

Dans le cadre de la proposition dite « Digital Omnibus », la Commission européenne a affirmé qu’elle n’apporterait que des modifications mineures afin de simplifier les choses pour les entreprises de l’UE. Dans le même temps, elle s’est explicitement engagée à maintenir un « niveau élevé de protection » pour les citoyens européens. C’est pourquoi une « procédure accélérée » a été choisie. Cette décision a été prise sans procéder à une évaluation au regard des droits fondamentaux ni impliquer directement le groupe d’experts européens sur la protection des données.

L’article 88 quater, tel que proposé par la Commission européenne (désormais article 88 bis dans le document du Conseil), vise à libéraliser l’utilisation des données à caractère personnel pour l’IA. La proposition est actuellement examinée par le Conseil, où la présidence irlandaise tient actuellement les rênes. L’Irlande sert également de siège européen à la majorité des entreprises américaines et chinoises spécialisées dans l’IA.

Expropriation numérique : approuvée par le Conseil.

Avec le soutien de l’Allemagne et d’autres poids lourds de l’UE, le Conseil (représentant les États membres de l’UE) a approuvé mercredi le fait que les entreprises devraient en principe être autorisées à faire pratiquement tout ce qu’elles veulent lorsqu’elles utilisent des données à caractère personnel « dans le cadre de l’IA ». Cela signifie que les intérêts commerciaux des entreprises d’IA l’emporteraient généralement sur les droits fondamentaux des utilisateurs. Cette autorisation générale s’appliquerait également aux personnes qui n’ont jamais été clientes d’une entreprise d’IA et aux données saisies il y a plusieurs décennies, par exemple dans des discussions en ligne ou sur les réseaux sociaux. Toutes les données à caractère personnel auxquelles une entreprise d’IA pourrait avoir accès d’une manière ou d’une autre relèveraient de cette disposition. Il ne serait pas nécessaire de demander le consentement des utilisateurs. Au contraire, on part automatiquement du principe que les entreprises ont un « intérêt légitime » prépondérant dès lors qu’elles utilisent ou entraînent un produit d’IA.

Le Conseil a ajouté une référence aux droits et obligations existants prévus à l’article 21 (droit de refus dans des cas spécifiques) et à l’article 24 du RGPD (nécessité de mettre en œuvre des mesures techniques et organisationnelles pour respecter les obligations légales), mais ces prétendues « garanties » s’appliqueraient à tout traitement même en l’absence de cette référence. En substance, le nouvel article 88 bis sur l’IA n’impose aucune garantie concrète.

Max Schrems : « Mercredi, les États membres de l’UE ont accepté de céder gratuitement nos données à des entreprises spécialisées dans l’IA. Depuis des décennies, nous affirmons aux citoyens que leurs données sont en sécurité et, au mieux, utilisées à des fins publicitaires. Désormais, Google, Meta et Microsoft peuvent tout simplement utiliser toutes les données qu’ils ont collectées, pratiquement sans aucune limite et pour n’importe quel projet comportant une composante « IA ». C’est le plus gros cadeau que les États membres de l’UE aient jamais fait aux géants américains de la technologie. »

La vente des données européennes aux États-Unis et à la Chine.

Les responsables politiques semblent croire que l’économie européenne tirera profit de la suppression du plus grand nombre possible de lois. On peut pourtant s’attendre à exactement le contraire : la plupart des entreprises de l’UE n’ont ni accès au même volume de données, ni les capitaux nécessaires pour rivaliser avec les multinationales américaines. Dans de nombreux cas, cela pourrait également signifier que les données collectées par des entreprises de l’UE (mais traitées sur des plateformes ou des services situés en dehors de l’UE) seraient transmises à des prestataires aux États-Unis ou en Chine.

Max Schrems : « Cette modification législative profite avant tout aux grands acteurs, ceux qui ont collecté d’énormes quantités de données européennes. Il s’agit d’une véritable braderie des données européennes au profit des multinationales. Cela entraînerait également un transfert massif de savoir-faire des entreprises de l’UE vers les États-Unis ou la Chine. Du point de vue de la politique industrielle, une telle approche relève de la folie. »

Un blanc-seing pour toute une technologie ?

En règle générale, le RGPD autorise le traitement à des fins spécifiques (par exemple, la conservation à des fins fiscales ou la prévention de la fraude). Or, l’article 88c (ou article 88bis) adopté légitime une technologie dans son ensemble. Quelle que soit la finalité pour laquelle il est utilisé, tout système d’IA pourrait, par défaut, collecter légalement n’importe quelle donnée à caractère personnel. Par exemple, l’article proposé autoriserait également l’entraînement et l’utilisation de l’IA à des fins de manipulation, de désinformation, de génération d’images de nudité ou de drones tueurs, et en réalité à toute autre fin contestable. De nombreuses opérations de traitement qui étaient jusqu’à présent illégales pourraient soudainement devenir légales – simplement parce qu’elles sont effectuées « dans le cadre » d’un système d’IA. Par exemple, le traitement des données à des fins de publicité personnalisée (sans consentement) est actuellement illégal dans l’UE. Or, désormais, la publicité pourrait soudainement devenir légale si elle est personnalisée à l’aide d’une technologie d’IA.

Max Schrems : « C’est comme dire que tout est permis – quoi que vous fassiez – tant que cela est fait avec l’IA. Si quelque chose est illégal dans un tableur Excel, cela devient légal si c’est fait par un agent d’IA. Il est tout à fait absurde d’accorder un traitement préférentiel à une technologie à haut risque par rapport à tout autre système informatique. » 

La promesse de protection des données, vieille de 45 ans, est en train de s’effondrer.

Au niveau européen, la législation sur la protection des données existe depuis 1981. Depuis des décennies, on promet aux Européens qu’une telle protection des données (soi-disant) « stricte » garantirait que des plateformes telles que Twitter/X, Facebook ou Instagram, ainsi que des entreprises comme Google ou Microsoft, qui collectent d’énormes quantités de données, ne les utiliseraient « jamais » à d’autres fins que celles pour lesquelles elles ont été partagées. L’article 88c proposé (ou désormais 88 bis) rompt cette promesse : toutes les données collectées sont soudainement à la disposition de n’importe quel système d’IA, pour n’importe quelle utilisation.

Max Schrems : « Depuis les années 1980, nous avons promis aux citoyens que, même si les grandes entreprises pouvaient conserver des données, elles n’étaient autorisées à les utiliser que dans une mesure limitée. Or, l’article 88 bis ouvre soudainement les vannes et autorise une utilisation illimitée de toutes les données pour l’IA. »

De nouvelles restrictions massives en matière de protections et de droits.

De plus, les États membres de l’UE ont proposé de restreindre considérablement la définition des « données à caractère personnel ». Cela signifie, entre autres, qu’il n’est pas certain que le suivi en ligne soit toujours couvert par le RGPD. Cette mesure est censée être mise en œuvre à l’aide de ce que l’on appelle des « pseudonymes », qui ne devraient généralement plus être couverts par le RGPD. Le problème est que la plupart des systèmes informatiques fonctionnent principalement avec des pseudonymes (tels que les identifiants d’utilisateur, les identifiants de suivi, les adresses IP ou les numéros de sécurité sociale). La décision de savoir si des données sont toujours « à caractère personnel » reviendrait principalement aux entreprises soumises à la loi. De tels débats s’éternisent généralement pendant des années et entraînent des retards considérables ainsi que des coûts énormes – ce qui est tout sauf une « simplification ».

Max Schrems : « Ces modifications sont tout droit sorties du manuel de n’importe quel grand cabinet d’avocats défendant les géants de la tech. Nous avons passé des années devant les tribunaux et les autorités pour faire rejeter ces arguments. Le législateur européen va probablement leur donner un coup d’accélérateur et, ce faisant, rendre le droit européen encore plus complexe et inapplicable. »

Prochain champ de bataille : le Parlement européen.

Cet accord ne constitue pas encore la loi définitive. Le Conseil doit négocier le libellé final avec le Parlement européen, qui n’a pas encore pris position. La Commission européenne est la troisième institution impliquée dans les « trilogues » qui aboutiront à une loi européenne définitive. La Commission a déjà opéré un revirement à 180 degrés il y a quelque temps et privilégie désormais clairement les intérêts des lobbies industriels au détriment des droits fondamentaux. La position du Parlement européen est encore en cours d’élaboration. Alors que la plupart des membres du Parti populaire européen (PPE) ont tendance à plaider en faveur de l’introduction d’un nombre croissant de failles dans la législation numérique de l’UE, les députés européens des groupes de centre-gauche ont jusqu’à présent résisté et se sont prononcés en faveur du maintien du statu quo. De plus en plus, des groupes d’extrême droite s’opposent également aux propositions visant à accorder un « passe-droit » aux géants de la technologie.

Dernier espoir : la Cour de justice ?

La question principale semble être de savoir si une loi dépourvue de toute restriction significative peut, d’une quelconque manière, être conciliée avec les droits fondamentaux de l’UE. Par le passé, la Cour de justice de l’Union européenne a invalidé des textes législatifs européens dans des affaires impliquant des atteintes bien moins graves aux droits fondamentaux de l’UE, telles que la conservation des données ou le transfert de données de l’UE vers les États-Unis.

Max Schrems : « Si le législateur a perdu tout sens de la mesure et toute orientation, les citoyens ne peuvent que se tourner vers les tribunaux. Toute loi extrême présentant un risque élevé d’être invalidée ne ferait qu’engendrer davantage d’insécurité juridique au lieu de la simplification promise. »

Des palettes de vieux livres venant de librairies du monde entier sont expédiées vers les Etats-Unis. Des entreprises spécialisées en IA seraient à l'origine de cet accaparement massif de patrimoine. Elles utiliseraient ces livres comme données brutes pour entraîner leurs modèles de langage, puis les jetteraient après leur numérisation.

Depuis début mai, une librairie allemande de livres anciens recevait sur son site en ligne chaque nuit, entre 3h00 et 5h00 du matin, un nombre considérable de commandes automatisées d'ouvrages. Le libraire, s'en apercevant, a consulté ses confrères. Et là, surprise: des témoignages similaires ont commencé à fleurir, par exemple sur la plateforme Reddit.

D'après le journal espagnol elDiario et le quotidien berlinois taz, le phénomène n'est pas qu'allemand. On retrouve ces commandes en Espagne, aux Etats-Unis, en Nouvelle-Zélande, en Australie, en Bulgarie, en Grande-Bretagne… Dans tous ces cas, la même entreprise canadienne passe les commandes: Zoom Books.

Selon les déclarations de Zoom Books au journal taz, l'entreprise achète des livres, en revend et recycle ceux qui sont invendables. Son marché de distribution est essentiellement constitué des Etats-Unis et du Canada.
Fortes suspicions

Zoom Books achète par palettes entières de vieux ouvrages: livres de cuisine, biographies, romans. Pas des raretés, bien au contraire, précise le revendeur canadien: "Nous ciblons des ouvrages de non-fiction publiés à partir de 1970 et dotés d'un numéro ISBN – des invendus poussiéreux dont personne ne voulait depuis des années."

Le caractère systématique de ces achats, avec des livres en allemand, en bulgare ou en espagnol pour un marché anglophone, a suscité de sérieux doutes chez certains détaillants. Face aux interrogations du quotidien taz, Reed Pannell, responsable du développement chez Zoom Books, n'a fourni aucune information concernant les destinataires finaux de ces ouvrages.

Cependant, des photos prises dans un centre de Zoom Books montrent les livres jetés négligemment dans de grands cartons; aucun détaillant de livres ne traite sa marchandise de cette façon.

Entraînement des modèles

Ce phénomène de captation massive de livres anciens pourrait s'expliquer par les besoins des entreprises d'IA. L'entraînement de leurs modèles de langage nécessitent de vastes ensembles de données. Or, si de tels ensembles existent sur Internet, ils sont souvent non triés et de qualité inégale – et pas toujours en libre accès.

Surtout, explique Xavier Vinaixa, un expert en intelligence artificielle interrogé par elDiario, "quand les connaissances en libre accès sur internet se sont raréfiées, les entreprises se sont précipitées sur les plateformes de téléchargement illégal de livres numériques pour alimenter leurs modèles. L’utilisation de ces ressources a engendré des poursuites judiciaires pour violation de droits d’auteur se chiffrant en millions de dollars".

Les entreprises technologiques se sont alors retrouvées confrontées à une impasse, à un "mur des données", selon l'expert. Sans textes nouveaux, inédits et longs pour entraîner l'algorithme, l'IA risquait de souffrir d'une stagnation cognitive. La solution trouvée par ces entreprises a alors été d'acheter des livres anciens.

Faille juridique américaine

Quiconque numérise des textes et les diffuse sur Internet s'expose à des poursuites pour violation du droit d'auteur. Mais, aux Etats-Unis, la législation autorise l'entraînement de modèles d'IA à l'aide de livres acquis légalement. Si une entreprise achète de grandes quantités de livres d'occasion à bas prix, les désassemble et les numérise, les textes peuvent ensuite servir à entraîner des modèles d'IA.

C'est le principe étatsunien du "fair use", ou principe d'utilisation équitable. Il autorise l'utilisation d'œuvres protégées par le droit d'auteur sans l'autorisation expresse du titulaire des droits, à condition que cette utilisation serve l'éducation du public et stimule la production intellectuelle.

En janvier 2026, le Washington Post a révélé qu'un projet de numérisation de masse mené par la société d'IA Anthropic, nommé Projet Panama, a utilisé des centaines de milliers, voire des millions de livres physiques en les scannant à l'aide d'un procédé industriel. Après avoir retiré les reliures des exemplaires, les pages ont été numérisées puis recyclées, explique le journal mexicain El Imparcial.

"Le principe est le suivant: il faut posséder physiquement les livres et les détruire après les avoir "lus" – afin de pouvoir affirmer qu'aucune copie non autorisée ne reste en circulation et que cela relève du fair use", explique un libraire à SRF.

Destruction du patrimoine physique, concentration du patrimoine numérique

Zoom Books réfute catégoriquement les allégations de numérisation ou de destruction de livres. L'entreprise met en avant son modèle de recyclage et de revente. Les entreprises d'IA, elles, gardent ces informations secrètes.

À court terme, les libraires se réjouissent d'écouler leurs invendus. À long terme, cependant, un tout autre scénario se dessine. Si ces anciens livres sont détruits à grande échelle, ce patrimoine sera irrémédiablement concentré sous la forme d'une masse de données numériques possédée par quelques entreprises. Un accaparement discret, systématique et soumis à aucune délibération publique.
Sujet original: Sven Ahnert (SRF) - Adaptation française: Julien Furrer (RTS)

Napakatbra
4–5 minutes

Aux États-Unis, près d’un chrétien pratiquant sur deux dit faire confiance à l’IA pour s’élever spirituellement. Le pasteur tousse, le chatbot compte les tokens.

J’en peux plus, je crois que je vais craquer. J’ai vérifié 15 fois… mon Dieu, dites-moi que ce n’est pas vrai, que j’ai halluciné, s’il vous plaît… Requête invalide. Veuillez réessayer ultérieurement. 😭

Voilà donc l’IA promue au rang de conseillère spirituelle. D’après une étude de Barna, aux États-Unis, 48% des chrétiens pratiquants affirment faire confiance à l’IA pour les accompagner dans leur développement spirituel. Mieux (ou pire, selon votre paroisse) 34% estiment que ses conseils valent ceux d’un pasteur en chair et en os(tie). Autrement dit : pourquoi attendre un rendez-vous à l’église quand on peut demander à Saint-ChatGPT : « Seigneur, dois-je pardonner Donald ? » et recevoir une réponse en quatre points bien calibrés, ton bienveillant, option emoji colombe si le bougre est d’humeur.

L’IA enfonce le cloud

Le plus absurde, c’est que ces fidèles ne sont pas dupes. Enfin, pas complètement. La même enquête montre qu’ils flippent aussi un peu, beaucoup, passionnément : 83% craignent que l’IA interprète mal les Écritures, 73% redoutent qu’elle leur fasse perdre la foi (!!!), 72% pensent qu’elle pourrait remplacer les leaders religieux, et 65% s’inquiètent de voir l’IA remplacer… Dieu (???). Beau comme l’antique : on refile les clés du temple à une machine tout en craignant qu’elle confonde Moïse avec un influenceur TikTok et que tout l’édifice s’écroule. J’en peux plus.

Sainte IA priez pour nous, pauvres prompteurs

Les pasteurs, eux, observent la scène avec la tête du scribe du XVe siècle voyant débarquer une imprimante 3D. Ou comme une poule devant un couteau, à l’ancienne. Selon Barna, seuls 12% des responsables religieux interrogés pensent que l’IA peut aider les gens à s’épanouir spirituellement. Et quand on les interroge sur ses usages, les inquiétudes défilent en procession : confidentialité des données, plagiat, intégrité des sermons, perte du lien humain.

« Le royaume de Dieu est au-dedans de vous. » – Évangile selon Luc (17:21).

Le Vatican, lui, a flairé l’embrouille depuis un moment. François rappelait déjà qu’il fallait se méfier des décisions morales confiées aux algorithmes : ces petites boîtes noires gavées de données et de biais de ceux qui les fabriquent. Au G7, en 2024, il insistait : l’IA n’est « ni objective ni neutre ». Contrairement aux religieux ? Hmmm… j’ai comme un doute.

Léon XIV a repris le flambeau. Il a lancé une commission sur l’IA et prévenu que ces systèmes risquent de transformer les humains en « consommateurs passifs de pensées non pensées ». Formule magnifique, presque trop bonne pour n’avoir pas été créée/validée par un générateur de punchlines en soutane pixelisée. Mais le principe est là : si l’on demande à une machine quoi penser, quoi croire, quoi aimer et quoi pardonner, il ne reste plus grand-chose à ruminer soi-même, ce qui est un peu… le principe fondamental des religions. « Au-dedans de vous ».

Un peu de sérieux, que diable !

Le problème n’est pas qu’une IA ne puisse citer le Nouveau Testament, le Coran, la Torah ou ta mère. Elle peut. Très bien, même (avec un doute sur ta mère). L’IA peut sortir une référence, résumer un passage, proposer une interprétation propre sur elle, avec le ton du professeur de philo qui aurait avalé quinze manuels de développement personnel. Le problème, c’est qu’elle le fait sans âme, sans responsabilité, sans communauté, sans risque personnel. Elle peut produire une réponse réconfortante, mais elle ne prie pas. Elle ne sait pas ce qu’est la prière. Elle ne l’a jamais pratiquée. Elle peut simuler l’écoute, mais elle ne partage pas les silences. Elle peut écrire « je comprends », mais elle ne comprend pas : elle calcule juste la suite des mots à afficher sur ce petit panneau lumineux qu’on prend de plus en plus, par fatigue, facilité ou lâcheté, pour une conscience.

Bon, la bonne nouvelle, c’est que beaucoup de jeunes pourront échapper à…

Syntax error. Si tu veux, je peux te proposer une ligne éditoriale complète ou une version prête à publier 👀

Ta gueule !!! J’en peux plus 😭

Sources : barna.com, barna.com, barna.com, vaticannews.va, vaticannews.va, itpro.com.

Il voulait offrir à sa mère, qui fêtait ses 50 ans, un cadeau « à la hauteur de sa vie ». En maîtrisant bien les codes, Baptiste Jeauneau a donc fait appel pour cela à l’intelligence artificielle. Âgé de 21 ans, le jeune homme a d’abord collecté des témoignages, souvenirs et photos de proches. L’IA a ensuite fait le reste, mettant en forme tous ces fragments collectés dans un récit de vie « cohérent » selon lui. La surprise semble en tout cas avoir bien fonctionné. « Ma mère a pleuré en lisant le livre, raconte-t-il. En voyant tant d’émotions, je me suis dit que cette idée devait dépasser le cadre familial. »

Voilà comment est née la toute jeune start-up My Wai, lancée il y a quelques semaines à peine par cet étudiant en master à la Rennes School of Business. Alors que l’intelligence artificielle envahit progressivement tous les champs de notre vie, le jeune autoentrepreneur entend la « mettre au service de la mémoire humaine. » Avec comme objectif de « démocratiser la biographie », qui n’est pas réservée qu’aux personnes célèbres. Car même sans être mégalo, tout le monde a une histoire qui mérite d’être racontée.

L’écrivain public pas à la portée de toutes les bourses

Pour laisser une trace comme héritage et transmettre leur histoire, certains se tournent vers des écrivains publics qui vont faire de la vie d’anonymes un roman. Mais la démarche n’est pas à la portée de toutes les bourses, l’écriture d’une biographie pouvant grimper jusqu’à 5.000 euros en fonction du temps passé. Avec les progrès de l’intelligence générative, plusieurs start-ups se sont donc ruées sur ce marché naissant des biographies et récits de vie générés à l’aide de l’IA. Comme My Wai donc, mais aussi Life Story AI ou Elefantia avant elle.

Pour collecter la matière qui servira de base à l’écrit, chacune a sa propre technique : le dépôt de souvenirs par des proches pour l’une ou des questions à l’oral ou à l’écrit pour les autres. « On va d’abord répondre à une dizaine de questions assez communes pour comprendre et déterminer les grands chapitres de sa vie ; les questions vont ensuite être plus poussées et personnalisés », précise Thierry Moncorger, cofondateur d’Elefantia. La force de l’IA entre alors en action pour retranscrire les conversations, ordonner le récit et le structurer en chapitres, très souvent dans un ordre chronologique. « L’IA n’invente rien, assure Baptiste Jeauneau. Tout part du récit de la personne et l’IA aide ensuite à la rédaction et à la mise en forme. »

Des seniors mais aussi une clientèle plus jeune

Lancée il y a un peu plus d’un an, l’application Elefantia est déjà utilisée par 8.000 utilisateurs et a déjà permis l’impression d’environ 500 biographies. Cela peut être en cadeau que l’on offre pour un anniversaire ou un départ à la retraite. Mais bien souvent, l’initiative vient de la personne qui souhaite se confier. « On a bien sûr des seniors et on travaille d’ailleurs avec les Ehpad, confie Thierry Moncorger. Mais on a aussi une clientèle plus jeune, plutôt des femmes de 35 à 50 ans qui veulent raconter les épreuves de la vie qu’elles ont vécues comme des deuils, des divorces ou des parcours de gestation pour autrui. On est plus là dans le domaine de l’écriture cathartique. »

Au final, le client repart avec son livre imprimé pour moins d’une centaine d’euros et un peu plus suivant selon le tirage. En option, Elefantia propose l’aide d’un étudiant en lettres qui aidera les aînés à maîtriser l’outil IA. « La présence d’un accompagnant permis aussi de libérer la parole », indique le cofondateur de la start-up qui a vu le jour à Saint-Malo.

« Une machine ne remplacera jamais l’humain »

Comme dans de nombreuses branches, ce raz de marée de l’IA générative suscite bien sûr des inquiétudes dans la petite communauté des écrivains publics. Fin mai, l’Académie des écrivains publics de France s’est d’ailleurs penchée sur cette question épineuse qui menace clairement leur travail. Certains l’utilisent d’ailleurs comme une aide sur des tâches répétitives ou pour la rédaction ou la construction de leur récit. « Mais ce qui fait notre plus-value, c’est l’échange et le contact humain, et aucune machine ne pourra remplacer ça », assure Delphine Berthon, écrivain public installé près de Rennes.

Plus qu’une simple plume, elle reconnaît d’ailleurs que les entretiens qu’elle mène avec ses clients ressemblent parfois à des séances chez le psy. « Ils me racontent parfois des choses intimes qu’ils n’ont jamais dites à personne. Et ça, l’IA n’arrivera jamais à le capter. »

À l’heure où l’intelligence artificielle accélère la propagation de fausses images et de photos sorties de leur contexte, apprendre aux élèves à sourcer leurs informations est plus important que jamais. Et les cours d’histoire se doivent d’intégrer aujourd’hui une formation à l’histoire numérique que peuvent faciliter des outils comme le projet VIRAPIC qui aide à repérer des photos virales.

Chaque jour, des images en lien avec des évènements historiques sont mises en ligne sans être référencées – avec leur auteur, leur date, leur localisation, leur lieu de conservation – et encore moins contextualisées par un commentaire historique. C’est le cas, par exemple, de cette photographie, la plus souvent publiée pour représenter les exactions des « mains coupées » dans le Congo de Léopold II, au tournant du XIXe au XXe siècle. En 2024, on la retrouve sur des milliers de pages web sans que l’auteur de cette photographie soit toujours mentionné et sans faire l’objet d’un commentaire historique approprié.

Cette photographie semble illustrer de manière saisissante les exactions commises par les compagnies de caoutchouc au Congo. Mais que peut-on voir de cette photographie sans connaître son histoire ? Le spectateur est ici contraint d’interpréter le message photographique au filtre de ses propres représentations, saisi par le contraste entre les victimes et les Européens habillés de blanc jusqu’au casque colonial, lesquels semblent justifier les châtiments corporels par leur pose hiératique.

En réalité, cette photographie a été prise en 1904 par une missionnaire protestante, Alice Seeley Harris, pour dénoncer ces violences et les deux hommes sur la photographie participent à cet acte de résistance photographique qui contribuera à mobiliser l’opinion publique européenne contre les crimes commis dans l’État indépendant du Congo. L’identité et les intentions du photographe ne sont pas ici un détail : ils rendent compte d’une réalité historique plus complexe, celle d’une « polyphonie morale » des sociétés européennes à la fin du XIXe siècle, divisées sur le bien-fondé et les dérives de la colonisation.

Un brouillard numérique d’images décontextualisées

Des exemples comme celui-ci, il en existe des milliers sur le web, les publications et partages d’images générant un brouillard de photographies décontextualisées, rendues virales par les algorithmes des moteurs de recherche et des réseaux sociaux numériques.

Prenons l’exemple de ce tweet d’Eric Ciotti posté le 16 juillet 2024 en commémoration de la rafle du Vel d’Hiv :

Capture d’écran.

La photographie postée n’a pas grand-chose à voir avec les rafles des 16 et 17 juillet 1942 : il s’agit en réalité d’un cliché montrant des Français soupçonnés de collaboration enfermés au Vel d’Hiv après le Libération. Ce compte Twitter n’est pas le seul à reproduire cette erreur ; il faut noter que les algorithmes de Google images ont longtemps placé cette photographie dans les premiers résultats de recherche à la suite des mots clefs « Rafle du Vel d’Hiv ».

La rectification de cette erreur est-elle seulement l’affaire des historiens préoccupés par l’identification des sources ? En réalité, cette erreur participe à la méconnaissance historique de la rafle du Vel d’Hiv. Comme le montre l’historien Laurent Joly, il existe une seule photographie de la rafle, prise le 16 juillet 1942 à des fins de propagande et pourtant jamais publiée dans la presse. Ce détail n’est pas anodin, il révèle que les autorités allemandes ont interdit la publication des photographies de la rafle, alertées par la désapprobation de la population parisienne.

Un défi pour les enseignants

Ces quelques exemples doivent nous alerter sur l’usage illustratif de la photographie encore trop présent dans l’édition scolaire. Faute de place, les manuels se contentent, le plus souvent, d’une simple légende sans commentaire pour éclairer ou confirmer le cours de l’enseignant.

L’usage des photographies par les historiens a pourtant évolué ces dernières années, considérant désormais celle-ci comme de véritables archives auxquelles doivent s’appliquer les règles élémentaires de la critique des sources. Un tel usage gagnerait certainement à être généralisé dans l’enseignement de l’histoire pour sensibiliser les élèves à la critique documentaire – le plus souvent résumée par la méthode SANDI (Source, Auteur, Nature, Date, Intention). Car, si cette méthode est parfois jugée artificielle par les élèves, elle trouve une justification, pour ainsi dire immédiate, dans la critique de l’archive photographique.

En effet, le regard porté par les élèves sur l’image photographique change radicalement une fois connue son histoire.

Cette approche documentaire est d’autant plus nécessaire que les élèves et les étudiants s’informent aujourd’hui de plus en plus sur les réseaux sociaux, des réseaux où les photographies sont relayées par des armées de comptes sans scrupules méthodologiques et parfois orientées par des lectures complotistes du passé.

Il faut encore ajouter une autre donnée pour comprendre l’enjeu pédagogique qui attend les enseignants d’histoire dans les années à venir : d’ici 2026, selon un rapport d’Europol, la majorité du contenu disponible sur le web sera généré par l’IA. Cela impliquera probablement la publication de fausses photographies de plus en plus crédibles et sophistiquées, lesquelles tiendront lieu de preuve à des fictions déguisées en histoire.

La prolifération des IA génératives, l’accélération des échanges de photographies inventées, détournées ou décontextualisées constituent un véritable défi pédagogique. Comment enseigner l’histoire aux élèves sans leur transmettre les outils pour affronter la désinformation historique en ligne ? Comment expliquer aux élèves l’environnement numérique dans lequel ils sont immergés (IA, algorithmes, vitalités des images) sans proposer un cours d’histoire qui soit aussi un cours d’histoire numérique ?

Un projet pour lutter contre la viralité de la désinformation historique

Pour répondre à ces défis, l’Encyclopédie d’histoire numérique de l’Europe (EHNE-Sorbonne Université) et les équipes d’informaticiens du CERES-Sorbonne Université élaborent un nouvel outil qui vise autant un public d’enseignants que d’éditeurs et les journalistes : le projet VIRAPIC, une plate-forme numérique dont l’objectif est de repérer les photographies virales (reproduites en ligne à une très grande échelle et/ou sur un laps de temps réduit) lorsque celles-ci sont inventées, détournées ou décontextualisées des évènements historiques qu’elles prétendent illustrer.

VIRAPIC, un nouvel outil pour éduquer le regard des élèves aux archives photographiques (novembre 2024).

L’objectif est double. Il s’agit d’injecter du contenu historique autour des photographies virales (source, légende, commentaire historiques) et d’analyser les viralités numériques des photographiques (Qui les publie ? Sur quels supports ? Avec quelle temporalité ?). Le projet VIRAPIC aborde surtout le problème de la désinformation historique par une approche pragmatique : lutter contre la viralité de la désinformation par le référencement du travail historien sur les moteurs de recherche.

L’originalité de cet outil tient en effet à la possibilité d’agir directement sur les pratiques des internautes grâce au référencement de l’Encyclopédie EHNE dont les pages web apparaissent dans les premiers résultats des moteurs de recherche. Ainsi, les internautes recherchant des photographies pour illustrer les évènements historiques verront apparaître les pages web EHNE/VIRAPIC dans les premiers résultats de recherche comme Google Images.

En constituant une base de référencement des photographies virales, détournées, décontextualisées ou inventées autour d’évènement historiques, le projet VIRAPIC permettra d’accéder rapidement à un contenu historique solide et critique sur les images que les élèves, enseignants ou éditeurs souhaitent publier en ligne ou utiliser en cours.

Science et Société se nourrissent mutuellement et gagnent à converser. La recherche peut s’appuyer sur la participation des citoyens, améliorer leur quotidien ou bien encore éclairer la décision publique. C’est ce que montrent les articles publiés dans notre série « Science et société, un nouveau dialogue », publiée avec le soutien du ministère de l’Enseignement supérieur et de la Recherche.

À force de vouloir tout remplacer par la machine, nous risquons de nous perdre nous-mêmes.
Que restera-t-il de nous si nous nous soumettons à la machine?

par Laurent Sagalovitsch - 1er avril 2024

À un moment donné, il va quand même falloir se demander où collectivement nous désirons aller. J'entends qu'il apparaît de manière de plus en plus transparente que plus nous avançons dans le temps, et plus la technique tend à nous imposer un nouvel ordre, celui de l'extrême rapidité, de l'efficacité tous azimuts, où sous couvert d'une promesse de progrès, notre sort dépendra de plus en plus de la machine et de ses performances.

Plus nous laissons la machine dans toutes ses déclinaisons possibles envahir notre quotidien, et plus nous nous éloignons de nous-mêmes. Qui a envie de vivre dans un monde où toute tâche sera déléguée à une machine sans que nous ayons notre mot à dire? Qui voudra vivre dans un monde désincarné, tributaire de toute une série d'algorithmes qui, mis bout à bout, décideront de la manière dont il faut nous comporter dans l'existence?

Nous sommes précisément des êtres humains, pas des machines. Nous avons une âme, un cœur; nous sommes traversés de tourments qui sont la racine même de notre condition, cette étrangeté à habiter un monde dont nous ne savons à peu près rien, si ce n'est qu'il cessera d'exister le jour où la mort nous en arrachera.

Désespérément, nous recherchons des réponses qui jamais ne viennent. Mais si précisément nous cessons d'être des individus pensants pour s'aliéner corps et âme à la machine, à la technique, que restera-t-il de nous au juste? Ce n'est pas que la machine nous aura remplacés, c'est qu'elle aura transformé l'individu en une sorte de caisse enregistreuse dont le seul souci dans l'existence sera de se divertir, d'abandonner la métaphysique pour la seule satisfaction de ses besoins matériels.

Tous autant que nous sommes, nous sommes chétifs, perdus à nous-mêmes, en prise avec un monde qui depuis l'aube de la création nous dépasse, nous écrase, condition qui fait évidemment notre grandeur et notre courage. L'homme n'est grand que parce qu'il ne cesse de chercher des réponses, de s'interroger sur ses origines mêmes, de tenter de trouver un compromis entre son angoisse existentielle et la nécessité faite de vivre malgré tout sa vie. Par la robotisation de la pensée, enlevez-lui ses capacités réflexives, et il finira par devenir une coquille vide, l'image même du néant.

Si d'un coup d'un seul, la pensée disparaît au profit de la machine, si l'écrit s'efface, remplacé par des traitements de texte, si l'intelligence s'intéresse seulement à rendre ce monde encore plus productif, si nous détricotons étape après étape ce qui constitue le fondement de nos âmes, que nous restera-t-il à nous autres, si ce n'est d'assister, impuissants et résignés, à notre propre disparition?

Voyez comment l'intelligence artificielle s'impose à nous. Nous n'en sommes qu'à ses balbutiements et déjà nous sentons combien en de nombreux domaines, elle sera notre tombeau. Partout, elle envahit notre quotidien, nous forçant à l'utiliser quand bien même nous rechignons à le faire. Elle ne nous laisse d'autres choix que de se plier à ses diktats.

Elle nous emprisonne dans tout un système de croyances qui voudrait nous convaincre qu'elle sera notre salut alors que par bien des aspects, elle contribue à propager une uniformité de la pensée, une paresse de l'esprit si universellement répandue que bientôt, nous ne serons même plus en mesure de réaliser à quel point elle nous aura rendu imbéciles à nous-mêmes.

L'intelligence artificielle, c'est le principe de la télévision, l'avachissement de l'homme, multiplié à la puissance dix mille. Si nous laissons la machine nous supplanter dans tout ce qui relève de la créativité, si nous abandonnons peu à peu le domaine de l'intellect à la seule volonté de la technique, alors nous perdons ce qui fait notre essence même, notre besoin de nous confronter, de nous questionner, de sans relâche, interroger notre condition d'êtres pensants.

Si nous faisons le deuil de la culture, c'est-à-dire de notre capacité à nous remettre en cause, alors nous cessons d'être au monde. Nous n'aurons même pas la grâce de l'animal pour nous sauver, non, nous deviendrons des estomacs qui goberont des milliards d'informations sans jamais être en capacité de les questionner. Dans cette béatitude de la bêtise qui peu à peu consacrera notre avilissement, nous deviendrons les champions de notre propre défaite.

Il est évidemment déjà trop tard. On ne peut pas, on ne sait pas arrêter la marche du monde. Il nous faut la subir, la plupart du temps, malgré nous. Non, la seule chose que nous pouvons faire, c'est de ralentir sa progression, de collectivement nous ressaisir pour résister à sa volonté de nous écraser. De cesser de nous comporter comme des moutons pour tâcher de lui tenir tête, quand bien même nous saurons notre défaite inéluctable.

Lisez, instruisez-vous, manifestez votre besoin de musique et de poésie, étonnez-vous, questionnez-vous, remettez-vous en cause, montrez-vous à la hauteur de votre condition de mortel, soyez fiers de vos tourments, chérissez vos peurs, n'ayez pas honte de vos fragilités, elles sont la condition de votre salut.

Ce sera notre chant du cygne.

Notre symphonie des adieux.

Murdered by My Replica?
Margaret Atwood responds to the revelation that pirated copies of her books are being used to train AI.

Remember The Stepford Wives? Maybe not. In that 1975 horror film, the human wives of Stepford, Connecticut, are having their identities copied and transferred to robotic replicas of themselves, minus any contrariness that their husbands find irritating. The robot wives then murder the real wives and replace them. Better sex and better housekeeping for the husbands, death for the uniqueness, creativity, and indeed the humanity of the wives.

The companies developing generative AI seem to have something like that in mind for me, at least in my capacity as an author. (The sex and the housekeeping can be done by other functionaries, I assume.) Apparently, 33 of my books have been used as training material for their wordsmithing computer programs. Once fully trained, the bot may be given a command—“Write a Margaret Atwood novel”—and the thing will glurp forth 50,000 words, like soft ice cream spiraling out of its dispenser, that will be indistinguishable from something I might grind out. (But minus the typos.) I myself can then be dispensed with—murdered by my replica, as it were—because, to quote a vulgar saying of my youth, who needs the cow when the milk’s free?

To add insult to injury, the bot is being trained on pirated copies of my books. Now, really! How cheap is that? Would it kill these companies to shell out the measly price of 33 books? They intend to make a lot of money off the entities they have reared and fattened on my words, so they could at least buy me a coffee.

A certain amount of hair-tearing and hair-splitting is bound to go on over such matters as copyright licenses and “fair use.” I will leave those more knowledgeable about the hair business to go at it. I recall, though, some of the more fatuous comments that were made in my country during the “fair use” debate some years ago, when the Canadian government was passing a bill that in effect granted universities the right to repackage the texts of books gratis, and then sell them to students, pocketing the change. But what are writers to live on? was the question. Oh, they can, you know, get grants and teach creative writing in universities and so on, was the airy reply from one lad, an academic. He had clearly never existed as a freelancer.

Beyond the royalties and copyrights, what concerns me is the idea that an author’s voice and mind are replicable. As young smarty-pants, we used to write parodies of writers older and more accomplished than ourselves. The more mannered an author, the easier it was for us. Hemingway? Dead simple! (Dead. Simple.) Henry James? Max Beerbohm had beat us to it, with his baroque masterpiece, The Mote in the Middle Distance. Shakespeare? Nay, needst thou ask, thou lily-livered pup? Jane Austen? Jane visits the dentist: “It is a tooth universally acknowledged …” The sentence structure, the vocabulary—adjectives and adverbs, especially—the cadence, the subject matter: All were our fodder, as they are the fodder, too, of chatbots. But we were doing it for fun, not to impersonate, to deceive, to collect, and to render the author superfluous.

Orwell, of course, was there before: In 1984, there are machines that crank out trashy romance novels as opium for the proles, and I suppose if a literary form is generic and formulaic enough, a bot might be able to compose examples of it. But judging from the attempt recently made with one of these entities—“Write a Margaret Atwood science-fiction short story about a dystopian future”—anything more complex and convincing is as yet beyond it. The result, quite frankly, was pedestrian in the extreme, and if I actually wrote like that, I would defenestrate myself immediately. The program, so far, does not understand figurative language, let alone irony and allusion, and its flat-footed prose was the opposite of effective storytelling. But who knows what the machines might yet achieve? you may say. I’ll wait and see. Maybe they’ll at least turn out a mediocre murder mystery or two.

I am, however, reminded of the Hans Christian Andersen story “The Nightingale.” The clockwork bird can sing, but only the song with which it has been programmed. It can’t improvise. It can’t riff. It can’t surprise. And it is in surprise that much of the delight of art resides: Otherwise, boredom sets in quickly. Only the living bird can sing a song that is ever renewed, and therefore always delightful.

A former teacher of mine once said there was only one important question to be asked of a work of art: “Is it alive, or is it dead?” Judging from the results I’ve seen so far, AI can produce “art” of a kind. It sort of looks like art; it sort of sounds like art. But it’s made by a Stepford Author. And it’s dead.

Margaret Atwood is a Canadian poet and short-story writer, as well as the author of more than a dozen novels. Her novel The Handmaid’s Tale is among the most frequently banned books in the United States.

Le Conseil d'État vient de valider le système informatique d’aide à la décision, DataJust, permettant aux tribunaux d’établir les indemnisations auxquelles ont droit les victimes de préjudices corporels. Les associations de défense des libertés fondamentales dénoncent l'utilisation des données personnelles sans le consentement préalable des justiciables.

L’objectif du programme DataJust est d’apporter une assistance aux magistrats pour évaluer, par exemple, les montants des indemnisations auxquelles peuvent prétendre les victimes d’agression physique ou d’accident de la route. Le lancement de cette expérimentation qui a été annoncée par décret le 27 mars 2020, « vise à développer un algorithme, chargé d’extraire de manière automatique et d’exploiter les données contenues dans les décisions de justice portant sur l’indemnisation des préjudices corporels » précisait alors le ministère de la Justice sur son site.

Pour « s’entraîner » ce système qui est basé sur des programmes d’intelligence artificielle puise dans un fichier contenant des milliers de données sensibles. Parmi celles ci, les noms, prénoms des victimes ainsi que des informations liées à de potentielles blessures, des expertises médicales, mais aussi leur situation professionnelle ou financière. Si la plupart de ces informations ont été rendues anonymes, certains éléments d’identification comme la date de naissance ou encore les éventuels liens de parenté entre les victimes et leurs proches figurent en clair dans la base de données.

Les associations de défense des libertés fondamentales mobilisées

Cette méthode de traitement informatique contreviendrait au RGPD, le dispositif européen de protection des données personnelles et à la loi Informatique et libertés, selon plusieurs avocats. Même constat du côté des associations. « L’État s’affranchit avec cette expérimentation de justice algorithmique, des lois qui protègent les données personnelles et la vie privée », estime Bastien Le Querrec, juriste et membre du groupe contentieux à la Quadrature du Net, l’association de défense des libertés fondamentales dans les environnements numériques.

« Cette méthodologie qui consiste à apposer une étiquette d’expérimentation pour s’autoriser à aller piocher encore plus d’informations à caractère personnel, nous dérange. À chaque fois, on décrète que c’est expérimental, ne vous inquiétez pas, nous allons vérifier si le résultat proposé par l’algorithme est proportionné, alors qu’en réalité on joue à l’apprenti sorcier. Cette croyance qu’un algorithme peut prendre de meilleures décisions qu’un être humain se généralise, nous l’observons dans le secteur de la police, maintenant celui de la justice, en matière de contrôle social dans les systèmes de la Caisse d’allocations familiales… nous constatons que ces algorithmes s’immiscent de plus en plus dans la vie quotidienne des citoyennes et des citoyens et c’est vraiment un choix de société. À la Quadrature du Net, nous essayons de lutter contre les biais qu’engendrent ces programmes automatiques, parce que la technologie parfois peut amener à des dérives, comme c’est le cas aujourd’hui avec le dispositif DataJust », regrette Bastien Le Querrec.

L’algorithme DataJust validé par la plus haute juridiction

Le Conseil d'État saisi par la Quadrature du Net indique dans ses conclusions que ce projet étant d’intérêt public, alors le consentement des personnes figurants dans le fichier n’est pas nécessaire pour procéder au traitement de leurs données personnelles. Le dispositif DataJust dont l’efficacité n’a pas encore été dévoilé devrait être opérationnel fin mars 2022, prévoit le ministère de la Justice.