AI Accountability

Vue d’ensemble

L’imputabilité de l’IA applique la discipline forensique aux systèmes qui décident désormais du sort des personnes. Embauche, présélection, évaluation, surveillance. Nous évaluons si ces systèmes sont équitables, défendables et imputables, et nous concevons la gouvernance qui les maintient ainsi.

Pourquoi cela importe

L’IA décide déjà qui est embauché, signalé et promu. La plupart de ces systèmes n’ont jamais été conçus pour s’expliquer. Lorsqu’une décision est contestée, devant un tribunal, lors d’un audit ou dans les médias, c’est l’organisation qui en répond, pas le fournisseur. Nous trouvons où un système échoue à ce test avant que quelqu’un d’autre ne le fasse.

Ce que nous évaluons

• Logique de sélection et d’évaluation. Ce que le système récompense, ce qu’il pénalise, et si cela résiste à l’examen.
• Équité et impact préjudiciable. Là où les résultats divergent entre les groupes, et pourquoi.
• Supervision humaine. La capacité d’une personne à voir, contester et infirmer une décision.
• Gouvernance et documentation. La trace qui rend une décision défendable après coup.

Pour qui c’est conçu

Gouvernements, défense et entreprises qui déploient l’IA dans des décisions concernant les personnes. En particulier les environnements réglementés où une erreur entraîne un coût juridique, opérationnel ou de réputation.

Comment se déroule un mandat

Un mandat commence par un système défini et une question claire. Nous évaluons en fonction de celle-ci, documentons nos constats et remettons une voie vers l’imputabilité que vos propres équipes peuvent maintenir. La portée est délimitée pour que les constats soient utilisables.

Livrables

• Évaluations d’imputabilité
• Cadres de gouvernance
• Modèles de supervision et d’escalade