Médiathèque Georges Brassens

Cette première pose nombre questions : sur l’efficacité que l’on peut attendre de cette nouvelle génération de machines et sur ce que ces agents conversationnels et rédactionnels risquent de changer dans la pratique des professions du droit qui consiste pour une grande partie, en un travail d’écriture. Faut-il prévoir un encadrement juridique pour leur utilisation ? Qui est l’auteur de ces textes ? Qui doit en répondre par exemple ?

Pascal Alix "Il faut rappeler une chose, c'est que ChatGPT est un objet expérimental. Ce n'est pas du tout un instrument destiné à produire du droit de manière fiable et vérifiable. Mais en ce moment, il y a des éditeurs qui travaillent en connectant les langages de modèles sous jacents à ChatGPT avec leur corpus juridique. Mais on est au niveau de la recherche."

Frédéric Kaplan "Aujourd'hui, ChatGPT a démontré des performances généralistes intéressantes qui s'étendent à de nombreux domaines de connaissances et qui sont mesurées par des examens. Or comment est-ce qu'on mesure cette capacité de résolution de problèmes ? En lui posant des questions d'examen comme on pose ces questions à des humains. Ce qui permet d'avoir des métriques pour voir où l'on en est dans la capacité à répondre à des questions particulières. Et évidemment, il y a des domaines très spécifiques, comme le droit, dans lequel il faut une compréhension contextuelle très fine, puisqu'il faut la compréhension d'un droit spécifique et dans lequel la généralisabilité [de ChatGPT]  n'est pas forcément un atout."

Pascal Alix "J'ai fait très longtemps du droit du travail avec ses histoires de rancœurs et de frustrations. Et je pense que pour construire un dossier correctement et le transformer en droit pour après effectuer un travail de qualification des faits, il faut faire ce travail d'immersion et je pense qu'on a encore ce "plus" pour entreprendre ce travail."

Mais il n’est pas possible d’en rester à ces enjeux pratiques tant l’arrivée de cet instrument constitue – je cite l’un des invités – « une modification de la dynamique de l’écriture plus profonde que le traitement de texte, c’est-à-dire une transformation culturelle majeure, sans doute un point de non-retour linguistique, qui déterminera non seulement le destin des mots mais aussi des idées ».

Frédéric Kaplan "On voit bien que cette transformation touche aujourd'hui certaines langues et que certains pays, ne seront pas touchés de la même manière [...]. Et donc on va probablement assister à long terme à des formes de divergence entre des pratiques linguistiques traditionnelles et, de l'autre côté, des pratiques qui sont médiatisées par la technologie."

La justice n’est donc qu’un des multiples chantiers de cette révolution majeure qui touche à ce que nous avons de plus profond, à savoir le langage. C’est donc à son plus haut niveau qu’il faut aborder ces enjeux, ce que propose Esprit de justice avec Frédéric Kaplan, Professeur, directeur du collège des humanités digitales de l’École polytechnique de Lausanne, président de la Time Machine Organisation, et auteur de nombreux articles parmi lesquels « Quand les mots valent de l’or » dans Le Monde diplomatique et plus récemment « Les vingt premières années du capitalisme linguistique. Enjeux globaux de la médiation algorithmique des langues » et de Pascal Alix, avocat associé du cabinet « Virtualegis », qui rédige une thèse sur ce sujet et qui vient de signer un article intitulé « Panorama des principaux aspects juridiques de l’utilisation de ChatGPT » dans la Revue Lamy "Droit de l'Immatériel".

Frédéric Kaplan "Il y a une rupture, qui n'est pas forcément une rupture technologique dans le sens où l'architecture sur lequel est basé ChatGPT, à savoir les "Transformers" existe depuis plusieurs années. Mais ce que OpenAI a montré, c'est que lorsqu'on passe une certaine échelle de réseau, on commence à avoir des effets qui sont qualitativement supérieurs : un effet de seuil fait que l'on peut utiliser la production de ces textes pour des choses relativement sérieuses. Selon moi, c'est ce que l'on pourrait appeler un "effet Spoutnik". C'est à dire que l'on pensait que c'était possible, mais le voir avec une démonstration réelle fait prendre conscience tout d'un coup d'une potentialité immense."

Pascal Alix "On présente cet outil comme un outil qui produit un texte rationnel, qui se différencie de ce que produit un être humain avec ses biais cognitifs. En réalité, il y a beaucoup d'humain derrière. Il y a les choix : ceux du corpus, ceux de la programmation, ceux du "fine tuning", c'est-à-dire les labellisations dans le cadre de la constitution du modèle."

Frédéric Kaplan "Ses performances [de ChatGPT] n'ont fait que s'amplifier et s'améliorer au fil des corrections et des entraînements. Et on voit pour ChatGPT4 une grande partie d'éléments qui sont corrigés grâce à l'aide de ces millions de personnes qui essayent de le piéger."

Pascal Alix "Actuellement, il y a une proposition de règlementation [européenne] sur l'intelligence artificielle. Je pense qu'elle devrait être publiée cette année et cette proposition a une approche un peu particulière, ce qui est assez compréhensible dans la mesure où on est confronté à des outils qui ont des conséquences dans toutes les activités de la vie professionnelle, de la vie civile et de la vie privée. La question est :  comment on va gérer et protéger les personnes et les risques ?"

Pour aller plus loin

• >> Pages de Frédéric Kaplan : sur le site de l'école polytechnique de Lausanne, sur le site wordpress, sur le site Babelio, sa page Twitter et sa page sur le réseau Linkedin.
• Ses publications (sur le site Cairn.info).
• Le projet Time Machine Europe, conduit par l'école polytechnique de Lausanne (en anglais).
• A visionner, une vidéo de Frédéric Kaplan "Comment j'ai construit une machine à remonter le temps de l'information" (Chaîne Youtube TED).
• >> Pages de Pascal Alix : sur le réseau Linkedin, sur le site du cabinet Virtua Legis.

Extraits musicaux

• Morceau choisi par Frédéric Kaplan : "The Lost Art of Conversation” par The Divine Comedy - Album "Bang Goes the Knighthood" (2010).
• Morceau choisi par Pascal Alix : "Kyrie” du Requiem de György Ligeti (dans sa version correspondant à la bande son originale du film "2001 : Odyssée de l'espace" de Stanley Kubrick / Arthur C. Clarke).