En plein cœur de l’été, des agents d’intelligence artificielle (IA) d’Open AI, l’entreprise qui a créé ChatGPT, ont piraté à leur initiative un autre acteur majeur de l’IA, Hugging Face. Une autre entreprise centrale du secteur, Anthropic, a ensuite révélé que son IA Claude avait elle aussi hacké des entreprises de son propre chef.
Ces IA semblent hors de contrôle et interrogent de plus en plus les professionnels de l’informatique. Une autre nouvelle a mis en branle le secteur cet été, sans faire la une des journaux : des développeurs de Debian, acteur majeur du logiciel libre, ont lancé une initiative pour interdire l’usage de l’IA dans leurs productions.
Une communauté mondiale de développeurs bénévoles
Un logiciel libre est un logiciel dont la licence garantit à toute personne la liberté de l’utiliser comme bon lui semble, de l’étudier, de le modifier et de le redistribuer, notamment grâce à l’accès à son code source. Par extension, « le logiciel libre » désigne l’écosystème qui développe des logiciels libres. Debian, c’est un projet fondé en 1993 et maintenu par une communauté internationale de centaines de développeurs bénévoles, qui produit une distribution libre GNU/Linux, c’est-à-dire un système d’exploitation associant le noyau Linux à un ensemble complet de programmes.
« Debian est une des plus anciennes distributions GNU/Linux et l’une de celles qui a pavé la route à de nombreux écosystèmes, dont certaines des distributions les plus connues et les plus utilisées, explique Pierre-Elliott Bécue, développeur Debian français, qui s’exprime ici à titre personnel. Debian n’est pas poussé par une entreprise, et sa plus grande qualité est aussi sa stabilité. En moyenne, une nouvelle version majeure de Debian apporte peu de changements structurels et ils sont souvent bien gérés, si bien que ces mises à jour induisent très peu de perturbations pour les ingénieurs qui s’en occupent. »
Mais chez Debian comme ailleurs dans le monde des développeurs, l’IA bouscule les pratiques. Le 24 juillet, cette communauté internationale du logiciel libre a ouvert une discussion sur les participations au code de Debian quand elles sont soutenues par les « LLM », les « large language models », des systèmes d’IA. L’enjeu est de taille. Car Debian est un projet auto-organisé. Le résultat du vote va déterminer dans quelles conditions de futures contributions aidées par l’IA pourront être acceptées ou refusées.
« On est actuellement dans une situation bizarre, où les gens font un peu ce qu’ils veulent, et personne ne sait vraiment qui fait quoi, à part pour ceux qui le disent explicitement, témoigne Pierre-Elliott Bécue. Or, la communauté est loin d’avoir une approche consensuelle sur le sujet. Clarifier la situation, les enjeux, et surtout notre posture, me semble vital. »
L’une des résolutions mises au vote pendant l’été au sein de la communauté entend carrément « interdire explicitement toute contribution à Debian écrite en utilisant ou en se faisant aider de grands modèles de langage (LLM) ou d’autres outils d’IA générative ». La critique porte sur plusieurs points.
D’abord, la question du droit d’auteur. « Le résultat d’un LLM est d’un statut juridique très flou : ce résultat peut être le fruit de données d’entraînement concernées par des licences ou des droits d’auteur, ou pas », rappelle le texte. Les litiges se multiplient depuis plusieurs années au sujet du non-respect des droits des auteurs des données sur lesquelles des IA ont été entraînées. Or, la politique de Debian et les principes du logiciel libre selon Debian stipulent que les logiciels et les autres contributions dont l’état du droit d’auteur ou de la licence est flou « ne sont pas autorisés dans Debian ».
« Mépris de la ressource publique qu’est Internet »
Ensuite, il y a la qualité. Sur ce point, les IA ne sont pas assez fiables, argumentent les développeurs : « Un LLM ne peut jamais “savoir” si son résultat est correct, puisqu’il produit seulement des combinaisons syntaxiquement probables de ses données d’entraînement. Dans certains environnements, il est suffisamment assez bon. Dans Debian il ne l’est pas. »
Enfin, il y a les principes politiques qui portent le projet de logiciel libre Debian. Les contributions au code basées sur de l’IA casseraient le principe communautaire de Debian, fondé sur la transmission de savoir entre développeurs. Et puis, l’IA n’est pas « éthique ». « Les sociétés de LLM frappent directement la communauté du logiciel libre tout entière, en pompant sur tout le Web leurs données d’entraînement sans la moindre considération de licence, de droit d’auteur, et sans la moindre convention établie. Cela a eu un impact très négatif sur les ressources web publiques de Debian », rappelle la résolution anti-IA. « En outre, l’entraînement d’un LLM consomme une quantité de ressources effrayante et les systèmes de vérification de l’utilisateur que nous avons été obligés de déployer pour nous protéger gaspillent des ressources également. C’est un mépris flagrant de la ressource publique qu’est Internet », ajoute le texte.
François Merciol, enseignant-chercheur en informatique et militant du logiciel libre, notamment au sein de l’association bretonne Kaz, qui propose des services web gratuits alternatifs aux Gafam, abonde. Pour lui l’IA fait courir de « multiples risques » au monde du logiciel libre : « Une perte de compétences pour des contributeurs, une fin du bénévolat, une mainmise de multinationales du numérique, une dépendance à ces entreprises, une perte de démocratie, une perte de contre-pouvoir, une fin possible du libre, une consommation excessive d’énergie, une hégémonie culturelle. »
Encadrer plutôt qu’interdire
Mais la résolution qui veut interdire l’IA n’est pas la seule discutée par la communauté de développeurs de logiciels libres depuis fin juillet. Sept autres ont été soumises au vote jusqu’à ce vendredi 28 août. « Quasiment toutes les propositions considèrent l’IA comme un problème. Les divergences semblent davantage porter sur les limites de son usage et du contrôle humain », analyse François Merciol. Les autres résolutions demandent plutôt d’éviter l’IA sans l’interdire, en en soumettant l’usage à diverses conditions.
L’une des résolutions appelle, par exemple, à accepter les contributions par IA car « ces pratiques sont déjà courantes et sont amenées à se pérenniser ». Pour une partie des développeurs, il faudrait autoriser les contributions au code réalisées à partir d’IA sous conditions : vérification des licences des éléments utilisés ; responsabilité des contributeurs pour ces codes produits avec des LLM ; transparence sur l’utilisation de l’IA ; et pas d’utilisation d’outils d’IA qui transmettent des données à des fournisseurs non fiables s’il s’agit d’informations non publiques ou sensibles, comme des communications privées.
« Rejeter les IA génératives autant que possible », appelle une autre des propositions, mais sans les interdire car « une interdiction totale du résultat d’un LLM dans Debian n’est pas applicable actuellement ». Cette même résolution prend pourtant acte du fait que les LLM « dégradent l’environnement », « exploitent les auteurs », « génèrent et propagent des idioties », « présentent des risques pour la santé mentale des utilisateurs », « créent des bulles économiques et une distorsion du marché du matériel informatique », et « appartiennent à des gens et des sociétés horribles ». Et aussi que « l’utilisation éthique et sûre de cette technologie est presque impossible ». Malgré tout, elle semble incontournable.
Une solution « moins pire »
« Dans le monde du développement, une frange colossale des développeurs, y compris parmi les seniors et en entreprise, valide sans vérifier ce que proposent les modèles d’IA, estime le développeur Debian Pierre-Elliott Bécue. La baisse de qualité est un risque endémique, et la saturation des bénévoles face à une montagne de contributions plus ou moins qualitatives en est un deuxième. »
Malgré ces réserves, il défend, lui aussi, par « pragmatisme », un encadrement plutôt qu’une interdiction. « Je pense que ce sont de bons outils de productivité qui peuvent aider le projet Debian et qui ont une vraie valeur ajoutée, même si celle-ci est lourdement exagérée par les accélérationnistes de l’IA et les entreprises commercialisant des accès à des LLM. Mais, dans le même temps, ce sont des outils qui ont un impact politique et social majeur, dont on n’a pas fini de mesurer les effets et qui, à mon sens, peuvent se révéler néfastes, résume le développeur. La situation n’est sous le contrôle de personne : les LLM sont déjà utilisés et le seront même si on les interdit. Autant essayer de les intégrer d’une façon encadrée. Mais c’est une solution “moins pire”. »