Intelligence Artificielle

Maïa Bensimon (EWC/SNAC) : "Les dysfonctionnements autour de l'IA Act restent nombreux"

Maïa Bensimon est déléguée générale SNAC et vice présidente EWC - Photo DR

Maïa Bensimon (EWC/SNAC) : "Les dysfonctionnements autour de l'IA Act restent nombreux"

Le 8 décembre, l'Union européenne annonçait un accord "historique" sur la réglementation de l'intelligence artificielle. Malgré des avancées notables, de nombreux dysfonctionnements demeurent estime néanmoins la vice-présidente de l'European Writers' Council et déléguée générale du Syndicat national des auteurs et compositeurs, Maïa Bensimon. Pour Livres Hebdo, elle revient sur les détails du texte.

J’achète l’article 1.5 €

Par Pauline Gabinari,
Créé le 18.12.2023 à 11h15

Depuis un peu plus d’une semaine, on parle d’un accord trouvé par l’Union européenne pour réglementer l’intelligence artificielle. De quoi s’agit-il exactement ?


Il s’agit d’un compromis entre la Commission européenne, le Conseil de l’Union européenne et le Parlement européen. Le texte dans sa globalité n’est pas encore public, mais nous avons pu prendre connaissance de quelques éléments. Dans cet IA Act, beaucoup de points concernent l’IA à haut risque dans des domaines très délicats comme la sécurité, la biométrie, la notation sociale ou encore l’armement. On y trouve aussi des dispositions relatives à la transparence des systèmes d’IA, entraînant le fameux croisement entre l’IA Act et le droit d’auteur.

L’European Writers’ Council, comme de nombreux acteurs de la culture, réclamait le “bon respect du droit d’auteur”. Cette demande transparaît-elle dans le texte ?


Cela dépend du point de vue. L’évolution positive pour les auteurs, c’est qu’il y a une amélioration certaine de la transparence et une référence explicite au respect du droit d’auteur ; mais je pense aussi que les dysfonctionnements restent nombreux. C’est pour cette raison que nous avons décidé de continuer à nous battre. Comme d’autres organisations et représentants, nous demandons des clarifications sur le texte.

Quels dysfonctionnements avez-vous ciblés ?


Avec cet accord on se retrouve avec un texte (un considérant) qui lie directement l’IAG (intelligence artificielle générative) à l’exception TDM - soit l'exception de la directive 2019/790 sur le droit d’auteur et les droits voisins dans le marché unique numérique grâce à laquelle la fouille de données est autorisée à des fins de recherche ou commerciales. Or, du côté des auteurs, on considère que l’entraînement des machines est un nouvel usage non couvert par l’exception TDM. Il faut réussir à améliorer ce considérant.

"On risque de ne pas avoir le fléchage technique suffisant"

Techniquement, en quoi l’exception TDM peut-elle empêcher un auteur de mettre en œuvre ses droits ?


Aujourd'hui, techniquement, cette directive de 2019 impose une règlementation que les auteurs ne peuvent pas mettre en œuvre car il n’existe aucun moyen informatique pour bloquer les robots qui scrawlent le Web. La Directive impose donc une charge administrative, technologique et financière sur les ayants droit qui est anormalement lourde. C’est un frein majeur à la mise en œuvre d’un droit, donc une atteinte colossale au droit d’auteur puisque vous avez une réglementation qui ne peut pas être appliquée.

Parmi les acteurs culturels, le débat semble aussi se cristalliser autour de la transparence... 

Tout à fait et le texte reprend cette problématique. Il demande à rendre public un “résumé suffisamment détaillé” des contenus utilisés pour entraîner les General Purpose AI model. Concernant cette partie, nous avions demandé en amont plus de détails dans le texte. Nous avons été écoutés, mais le problème est que ces éléments placés dans un "considérant" affaiblissent le texte principal en indiquant que le résumé doit être "narratif" et non "technique". En gros, on peut vous dire que l’entraînement des machines s’est fait avec des "livres" mais on ne vous dira pas quel fichier.

Concrètement, en quoi cela peut poser problème ?


Il manque dans le texte une liste rigoureuse d’éléments pour qu’un auteur dans le secteur du livre sache que c’est bien un livre qui a été utilisé et que c’est bien à lui. Si on est "narratif" et trop général, on risque de ne pas avoir le fléchage technique suffisant qui amène à son livre. Et ça, ça tue toute l'intention de transparence.

Cet accord va encore mettre deux ans avant d’être mis en œuvre…

Il faut bien comprendre que cette position de compromis va encore être travaillée jusqu’à fin janvier, en "mini-trilogue" si je puis dire ; puis il sera voté définitivement par les représentants des Etats membres, sans doute début février et, par le Parlement peut-être fin février, peut-être mars. Il faudra alors encore compter deux ans pour que la législation entre en vigueur.

Que va-t-il se passer pour les œuvres publiées entre aujourd'hui et 2026 ? L’IA pourra donc se nourrir d’elles sans régulation ?


Pendant cette période, il y aura la mise en place d’un certain nombre d’outils propres à cette loi, notamment l’IA Office (le Bureau d’intelligence artificielle) qui a un rôle essentiel dans l’application du texte. Toutefois, tant que cette réglementation n’est pas mise en œuvre complètement, la situation va continuer telle qu’elle existe aujourd’hui et tant qu’on n’aura pas les outils technologiques ou des accords entre les titulaires de droits ou les sociétés d’auteurs et les sociétés d’IA, pour encadrer l’utilisation des œuvres et chiffrer la rémunération des auteurs (je vous renvoie ici à notre triptyque à l’EWC qu’on aime bien, la règle de l’ART : autorisation, rémunération, transparence), le pillage va perdurer.

Les dernières
actualités