Podcast

L'impact de ChatGPT sur la justice (et sur nos vies)

Antoine Garapon
Diffusé le mercredi, 15 mars 2023 (59 min)


Le 31 janvier 2023, un juge colombien a fait usage du ChatGPT pour rendre une décision de justice. Certes la machine n’a pas pris la décision mais elle y a aidé et ce juge a d’ailleurs reproduit des morceaux de cette discussion avec la machine dans son jugement. 


Frédéric Kaplan Professeur, directeur du Collège des humanités digitales de l’École polytechnique de Lausanne, président de la Time Machine Organisation
Pascal Alix Avocat associé du cabinet VIRTUALEGIS AARPI



   
Provient de l'émission
Esprit de justice

Au programme
  • Cette première pose nombre questions : sur l’efficacité que l’on peut attendre de cette nouvelle génération de machines et sur ce que ces agents conversationnels et rédactionnels risquent de changer dans la pratique des professions du droit qui consiste pour une grande partie, en un travail d’écriture. Faut-il prévoir un encadrement juridique pour leur utilisation ? Qui est l’auteur de ces textes ? Qui doit en répondre par exemple ?

    Pascal Alix "Il faut rappeler une chose, c'est que ChatGPT est un objet expérimental. Ce n'est pas du tout un instrument destiné à produire du droit de manière fiable et vérifiable. Mais en ce moment, il y a des éditeurs qui travaillent en connectant les langages de modèles sous jacents à ChatGPT avec leur corpus juridique. Mais on est au niveau de la recherche."

    Frédéric Kaplan "Aujourd'hui, ChatGPT a démontré des performances généralistes intéressantes qui s'étendent à de nombreux domaines de connaissances et qui sont mesurées par des examens. Or comment est-ce qu'on mesure cette capacité de résolution de problèmes ? En lui posant des questions d'examen comme on pose ces questions à des humains. Ce qui permet d'avoir des métriques pour voir où l'on en est dans la capacité à répondre à des questions particulières. Et évidemment, il y a des domaines très spécifiques, comme le droit, dans lequel il faut une compréhension contextuelle très fine, puisqu'il faut la compréhension d'un droit spécifique et dans lequel la généralisabilité [de ChatGPT]  n'est pas forcément un atout."

    Pascal Alix "J'ai fait très longtemps du droit du travail avec ses histoires de rancœurs et de frustrations. Et je pense que pour construire un dossier correctement et le transformer en droit pour après effectuer un travail de qualification des faits, il faut faire ce travail d'immersion et je pense qu'on a encore ce "plus" pour entreprendre ce travail."

    Mais il n’est pas possible d’en rester à ces enjeux pratiques tant l’arrivée de cet instrument constitue – je cite l’un des invités – « une modification de la dynamique de l’écriture plus profonde que le traitement de texte, c’est-à-dire une transformation culturelle majeure, sans doute un point de non-retour linguistique, qui déterminera non seulement le destin des mots mais aussi des idées ».

    Frédéric Kaplan "On voit bien que cette transformation touche aujourd'hui certaines langues et que certains pays, ne seront pas touchés de la même manière [...]. Et donc on va probablement assister à long terme à des formes de divergence entre des pratiques linguistiques traditionnelles et, de l'autre côté, des pratiques qui sont médiatisées par la technologie."

    La justice n’est donc qu’un des multiples chantiers de cette révolution majeure qui touche à ce que nous avons de plus profond, à savoir le langage. C’est donc à son plus haut niveau qu’il faut aborder ces enjeux, ce que propose Esprit de justice avec Frédéric Kaplan, Professeur, directeur du collège des humanités digitales de l’École polytechnique de Lausanne, président de la Time Machine Organisation, et auteur de nombreux articles parmi lesquels « Quand les mots valent de l’or » dans Le Monde diplomatique et plus récemment « Les vingt premières années du capitalisme linguistique. Enjeux globaux de la médiation algorithmique des langues » et de Pascal Alix, avocat associé du cabinet « Virtualegis », qui rédige une thèse sur ce sujet et qui vient de signer un article intitulé « Panorama des principaux aspects juridiques de l’utilisation de ChatGPT » dans la Revue Lamy "Droit de l'Immatériel".

    Frédéric Kaplan "Il y a une rupture, qui n'est pas forcément une rupture technologique dans le sens où l'architecture sur lequel est basé ChatGPT, à savoir les "Transformers" existe depuis plusieurs années. Mais ce que OpenAI a montré, c'est que lorsqu'on passe une certaine échelle de réseau, on commence à avoir des effets qui sont qualitativement supérieurs : un effet de seuil fait que l'on peut utiliser la production de ces textes pour des choses relativement sérieuses. Selon moi, c'est ce que l'on pourrait appeler un "effet Spoutnik". C'est à dire que l'on pensait que c'était possible, mais le voir avec une démonstration réelle fait prendre conscience tout d'un coup d'une potentialité immense."

    Pascal Alix "On présente cet outil comme un outil qui produit un texte rationnel, qui se différencie de ce que produit un être humain avec ses biais cognitifs. En réalité, il y a beaucoup d'humain derrière. Il y a les choix : ceux du corpus, ceux de la programmation, ceux du "fine tuning", c'est-à-dire les labellisations dans le cadre de la constitution du modèle."

    Frédéric Kaplan "Ses performances [de ChatGPT] n'ont fait que s'amplifier et s'améliorer au fil des corrections et des entraînements. Et on voit pour ChatGPT4 une grande partie d'éléments qui sont corrigés grâce à l'aide de ces millions de personnes qui essayent de le piéger."

    Pascal Alix "Actuellement, il y a une proposition de règlementation [européenne] sur l'intelligence artificielle. Je pense qu'elle devrait être publiée cette année et cette proposition a une approche un peu particulière, ce qui est assez compréhensible dans la mesure où on est confronté à des outils qui ont des conséquences dans toutes les activités de la vie professionnelle, de la vie civile et de la vie privée. La question est :  comment on va gérer et protéger les personnes et les risques ?"

    Pour aller plus loin

    Extraits musicaux

Illustration
Esprit de justice
Photographie
  • C. Abramowitz
Copyright
  • Radio France
Collection

Consulter en ligne

Suggestions

Du même auteur

Podcast

Une carrière de juriste

À voix nue (Episode 2 sur 5)

Antoine Garapon
Diffusé le mardi, 05 octobre 2021  (Durée 31 min)

Jean-Denis Bredin se souvient de ses premières plaidoiries, rend hommage à ses maîtres en éloquence, et porte un regard sur l'évolution du métier de juge et celui d'avocat.

Podcast

Un historien de l’injustice

À voix nue (Episode 3 sur 5)

Antoine Garapon
Diffusé le mercredi, 06 octobre 2021  (Durée 30 min)

Parcours dans certains des ouvrages majeurs dans la carrière de Jean-Denis Bredin : son livre sur Joseph Caillaux, sur l'affaire Dreyfus, sur la révolution...

Podcast

Une enfance sage

À voix nue (Episode 1 sur 5)

Antoine Garapon
Diffusé le lundi, 04 octobre 2021  (Durée 30 min)

Jean-Denis Bredin raconte ses années de formation, d'une éducation écartelée entre deux parents divorcés à sa vocation d'avocat, née après avoir assisté aux procès Pétain et Laval en 1945.

Podcast

Force et justice chez Pascal

Esprit de justice

Antoine Garapon
Diffusé le mercredi, 22 février 2023  (Durée 59 min)

«Au lieu de faire que ce qui fut juste fut fort, on a fait que ce qui fut fort fut juste» est une des citations les plus connues de Blaise Pascal. Que dit-elle de sa pensée ? Quelle idée de la ju...

Podcast

Un romancier de l'intime

À voix nue (Episode 4 sur 5)

Antoine Garapon
Diffusé le jeudi, 07 octobre 2021  (Durée 30 min)

Romancier de l'intime, Jean-Denis Bredin est un peintre des mœurs qui changent. Dans ce 4e volet d'entretien, l'avocat se confie sur l'écriture, "très bonne compagne de la vie", et le plaisir qu'elle ...

Chargement des enrichissements...