Gibt es eine menschliche Kontrolle über KI-Entscheidungen?
Ja. amaise ist als Human-in-the-Loop-System konzipiert. Keine autonomen Entscheidungen werden durch die KI getroffen.
Automatisierungsgrad: Informationsaufbereitung und Empfehlung. Die KI präsentiert klassifizierte Dokumente, extrahierte Datenfelder und Zusammenfassungen an menschliche Sachbearbeitende.
Prüfung und Korrektur: Benutzende können jedes KI-generierte Ergebnis einsehen, ändern oder ablehnen.
Optionale Review-Stufen: Auf Kundenwunsch können manuelle Review- oder Stichproben-Stufen in die Pipeline integriert werden, um KI-Ergebnisse gezielt zu prüfen.
Keine automatische Genehmigung: Kein KI-Ergebnis löst eine automatisierte Zahlung, Ablehnung oder rechtliche Massnahme ohne menschliche Freigabe aus.
Dieses Design steht im Einklang mit DSGVO Art. 22 (Recht, nicht einer ausschliesslich automatisierten Entscheidung unterworfen zu werden) und antizipiert die Anforderungen des EU AI Act an menschliche Aufsicht für Hochrisiko-KI-Systeme.