Nous utilisons l'IA générative à de nombreux endroits dans le produit, car il s'agit d'une formidable technologie d'appréhension du langage naturel. La fiabilité des réponses est un enjeu essentiel, ce pourquoi nous avons pris un certain nombre de mesures pour assurer la plus haute fiabilité possible :
Doctrine a rédigé son code de conduite de l'IA générative, qui contient un certain nombre d'engagements à ce sujet et est intégré aux CGV : https://www.doctrine.fr/ia-generative/code-conduite-ia. Nous développons dans ce code notre vision sur le recours à l'IA générative : nous croyons en un modèle de responsabilité partagée, car les plateformes fournissant des services d'IA juridiques ne peuvent se déresponsabiliser sur leurs clients au motif que ces derniers sont soumis à des obligations déontologiques. Nous ne pouvons garantir la véracité de l'intégralité des contenus produits par le biais de nos fonctionnalités d'IA générative, car même basées sur nos sources, les erreurs sont possibles (comme pour tout contenu produit par un être humain). Nous nous engageons cependant à respecter ce code de conduite et tous ses principes. Nous nous efforçons également de réduire au maximum les générations erronées ("hallucinations") en fournissant systématiquement le contexte nécessaire à nos prestataires d'IA générative, étant précisé que les hallucinations ne peuvent être réduites à zéro, contrairement à ce que certains acteurs du secteur affirment.
Le sujet étant extrêmement important, nous avons aussi co-rédigé et signé le code de conduite de la legaltech française sur l'IA générative : https://francedigitale.org/publications/code-de-conduite-legaltech-ia-generative
Nous avertissons toujours les utilisateurs lorsqu'ils sont face à un résultat généré, afin de les inviter à vérifier le contenu généré, limitant ainsi les risques qu'une information non fiable soit réutilisée sans vérification.
Nous permettons toujours à nos utilisateurs de vérifier les sources sur lesquelles se base l'IA générative pour répondre et avons investi énormément sur cette expérience : nous avons développé des innovations uniques comme la « split view » qui permet de visualiser directement une source sans changer de page.
En mode agentique (le mode Raisonnement avancé dans l'interface), le raisonnement d'Assistant est visible : en dépliant le bloc "Raisonnement", vous voyez les recherches lancées et les sources consultées. Assistant vous remet une base de travail éditable, sourcée et vérifiable, avec une source cliquable derrière chaque affirmation : vous gardez la main et vous finalisez.
Surtout, nous avons recruté une juriste produit, dont le métier consiste à aider les équipes produit et technique à comprendre les réponses de l'IA générative et améliorer nos systèmes pour produire des résultats plus fiables, apportant ainsi une expertise juridique métier à la conception de nos systèmes. Cela nous permet de mêler expertise métier et technologique, afin d'apporter la plus grande fiabilité possible à nos réponses.
Grâce au soutien de notre juriste produit, nous créons régulièrement des benchmarks de nos solutions pour mesurer, autant que possible face à des systèmes non déterministes, les performances de nos solutions, notamment en cas de changement de modèle d'IA.
L'ensemble de ces mesures nous permet d'assurer une très haute fiabilité de nos outils, sans pouvoir pour autant garantir une absence d'erreurs, l'erreur étant tout aussi artificielle qu'humaine.
Pourquoi les réponses peuvent-elles différer alors que je pose la même question ?
L'IA générative n'est pas déterministe : deux demandes identiques peuvent donner des réponses formulées différemment.
Assistant repart de zéro à chaque nouvelle conversation : il ne se souvient pas des réponses données dans une autre discussion.
En mode agentique, Assistant construit son propre plan de recherche : les recherches lancées et les sources retenues peuvent varier d'une fois à l'autre.
Comme tout outil d'IA, il peut faire des erreurs : vérifiez toujours les sources citées.