Y a-t-il un contrôle humain sur les décisions de l’IA ?
Oui. amaise est conçu comme un système Human-in-the-Loop. Aucune décision autonome n’est prise par l’IA.
Degré d’automatisation : préparation de l’information et recommandation. L’IA présente aux gestionnaires humains les documents classifiés, les champs de données extraits et les résumés.
Vérification et correction : les utilisateurs peuvent consulter, modifier ou rejeter chaque résultat généré par l’IA.
Étapes de revue optionnelles : à la demande du client, des étapes manuelles de revue ou d’échantillonnage peuvent être intégrées dans la pipeline pour contrôler spécifiquement les résultats de l’IA.
Aucune approbation automatique : aucun résultat de l’IA ne déclenche un paiement automatisé, un rejet ou une mesure juridique sans validation humaine.
Cette conception est conforme à l’article 22 du RGPD (droit de ne pas être soumis à une décision exclusivement automatisée) et anticipe les exigences du règlement européen sur l’IA concernant la supervision humaine des systèmes d’IA à haut risque.