Le résultat d’une bonne action doit-il est une mauvaise action ? Cette question, apparemment toute simple, est au coeur d’une polémique qui touche aujourd’hui Amnesty International. La violation des droits humains se fait rarement devant des caméras ou des objectifs, les images manquent et il est dès lors plus compliqué de condamner des pratiques non légales. Partant de cette réflexion, cette ONG a choisi d’illustrer une arrestation en créant des visuels avec un outil d’IA. Les images ainsi créés, dont celle d’une femme traînée par des policiers, illustrent les scènes des manifestations qui ont eu lieu en Colombie en 2021.
La « preuve par l’image » : c’est bientôt fini?
Mais il ne suffit pas de suggérer un événement pour que Midjourney Ai vous crée la photo parfaite. En effet, en regardant attentivement ce visuel on devine très vite qu’il ne s’agit pas d’un vrai cliché. Si la brutalité systémique utilisée par la police colombienne pour réprimer les manifestations nationales en 2021 était bien réelle et bien documentée, les visages des manifestants et des policiers sont lissés et déformés, ce qui confère à l’image une aura dystopique. Le tricolore porté par le manifestant comporte les bonnes couleurs – rouge, jaune et bleu – mais dans le mauvais ordre, et l’uniforme de la police est démodé.
A-t-on le droit de créer de tels faux pour alerter sur des situations bien réelles ? Car au moins 38 civils ont été tués par les forces de l’État au cours de la grève nationale de 2021, déclenchée par une réforme fiscale impopulaire et attisée par la réponse brutale de la police. Des femmes ont été enlevées, emmenées dans des bâtiments sombres et violées par des groupes de policiers. Les émeutes étaient totalement réelles et la réaction face à ces images générées par de l’IA ne s’est pas faite attendre.
Des photojournalistes et des spécialistes des médias ont mis en garde contre le fait que l’utilisation d’images générées par l’IA pourrait nuire au travail d’Amnesty et alimenter les théories du complot. Nous vivons une époque très polarisée, pleine de « fake news », qui pousse les gens à remettre en question la crédibilité des médias. Et comme nous le savons, l’intelligence artificielle ment. Quelle sorte de crédibilité avez-vous lorsque vous commencez à publier des images créées par l’intelligence artificielle ? », a déclaré Juancho Torres, photojournaliste basé à Bogota.
« Le pouvoir d’un journaliste est de recréer la réalité et ce qu’il voit, ce que de nombreux reporters, photographes et cameramen ont fait au péril de leur vie pendant la grève nationale. J’ai un ami qui a perdu un œil. En utilisant des images d’IA, on perd non seulement cette réalité, mais aussi le lien entre les journalistes et les gens.
Aminesty International a fait machine arrière
Afin de ne pas induire le public en erreur, les images étaient accompagnées d’un texte indiquant qu’elles avaient été produites par AI. Mais face aux critiques pour avoir publié des images générées par l’intelligence artificielle afin de promouvoir ses rapports sur les médias sociaux, cette ONG les a retirées.
« Nous avons retiré les images des réseaux sociaux, car nous ne voulons pas que les critiques concernant l’utilisation d’images générées par l’IA détournent l’attention du message principal de soutien aux victimes et de leurs appels à la justice en Colombie », a déclaré Erika Guevara Rosas, directrice du programme Amériques d’Amnesty International.
La boîte de Pandore ouverte
Après de développement du digital, le développement d’outil s’appuyant sur de l’IA va profondément changer notre rapport à l’image et au son. A ce stade, la qualité des visuels proposés par certains de ces outils est encore perfectible. L’évolution est tellement rapide que nous ne verrons plus la différence. Le public devra s’habituer à ne plus croire en ce qui est montré et il devra être formé pour qu’il puisse trier entre la réalité, les fake news, les images réalisées par l’IA… Cela prendra du temps! Il est d’autant plus important que des organisations reconnues n’augmentent pas la confusion soit pour des motifs économiques ou politiques.