FCAT und Amazon: Interpretierbare KI-Modelle für Finanzentscheidungen via Expressive Boolean Formulas

Das Fidelity Center for Applied Technology (FCAT) ist die Forschungs- und Technologieeinheit von Fidelity Investments. Die dort eingesetzten ML-Modelle lieferten nach eigenen Angaben bereits starke Vorhersageleistung für Investment- und Risikomanagement-Entscheidungen. Das zentrale Problem: In Hochrisikobereichen wie dem Finanzwesen verlangen Regulatoren und interne Compliance-Anforderungen, dass Modellentscheidungen nachvollziehbar sind. Klassische leistungsstarke Modelle – etwa tiefe neuronale Netze mit Milliarden von Parametern – sind jedoch von Natur aus schwer zu interpretieren.

Übliche Abhilfe schaffen sogenannte Post-hoc-Erklärungsverfahren wie LIME oder SHAP, die Black-Box-Modelle im Nachhinein zu erklären versuchen. Diese Methoden gelten jedoch als anfällig für adversarielle Angriffe und können mehrdeutige oder inkonsistente Erklärungen liefern. FCAT suchte deshalb nach einem grundlegend anderen Ansatz.

FCAT kooperierte mit dem Amazon Quantum Solutions Lab (QSL), um interpretierbare ML-Modelle zu entwickeln, bei denen die Erklärbarkeit nicht nachträglich ergänzt, sondern direkt in den Trainingsprozess integriert wird. Die Zusammenarbeit mündete in einem gemeinsamen Forschungsprojekt, an dem Wissenschaftlerinnen und Wissenschaftler beider Organisationen beteiligt waren – darunter Mitarbeitende aus FCATs AI Centre of Excellence.

Das Ziel: Modelle zu trainieren, die sowohl hohe Vorhersagegenauigkeit als auch volle Interpretierbarkeit bieten – ohne Kompromisse bei einem der beiden Kriterien. Laut Projektbeschreibung entstand daraus kein Einmalprodukt, sondern ein wiederverwendbares Framework für die fortlaufende Modellentwicklung bei FCAT.

Der Kern des Ansatzes sind sogenannte „Expressive Boolean Formulas" (EBF). Dabei handelt es sich um regelbasierte Klassifikatoren, die aus Literalen (einzelnen Features oder deren Negationen) und Operatoren (z. B. `And`, `AtLeast2`) zusammengesetzt werden. Eine solche Formel definiert eine binäre Entscheidungsregel: Gegeben eine Menge von Eingaben, liefert die Regel ein eindeutiges binäres Ergebnis.

Der entscheidende Unterschied zu anderen interpretierbaren Modellen wie Entscheidungsbäumen liegt in der Ausdrucksstärke: Die flexible Struktur und das breite Operatorenvokabular ermöglichen es, komplexe Regeln mit deutlich geringerer Komplexität – also weniger Operatoren und Literalen – vollständig abzubilden als vergleichbare Methoden. Dies wurde in der gemeinsamen Arbeit direkt verglichen und dokumentiert.

Das Training dieser Modelle wird als kombinatorisches Optimierungsproblem formuliert: Gesucht wird diejenige Formel, die am besten zu den binarisierten Eingabedaten und den zugehörigen Labels passt. Dafür entwickelten die Teams einen nativen lokalen Solver, der direkt im natürlichen Suchraum der EBF operiert – also im Raum zulässiger Formeln. Dies unterscheidet den Ansatz von Umformulierungen in Standardformate wie MaxSAT oder QUBO, die den Suchraum erheblich vergrößern und viele unzulässige Lösungen einschließen.

Der Solver arbeitet stochastisch über lokale Moves, die schrittweise kleine Änderungen an der aktuellen Formelkonfiguration vornehmen. Zusätzlich wurden nicht-lokale Moves untersucht, die prinzipiell durch Quantencomputer beschleunigt werden könnten – ein mittelfristiger Forschungsausblick des Projekts, der vom QSL eingebracht wurde.

Laut Projektbeschreibung erzielte der Ansatz interpretierbare Modelle ohne Einbuße bei der Vorhersagegenauigkeit im Vergleich zu den bestehenden ML-Modellen. Darüber hinaus entstanden wiederverwendbare Frameworks, die FCAT für die laufende Entwicklung weiterer Modelle nutzen kann. Konkrete Kennzahlen zu Genauigkeit, Trainingsdauer oder Modelleinsatz werden in den verfügbaren Quellen nicht genannt.

Das Projekt adressiert ein strukturelles Problem im regulierten KI-Einsatz: den vermeintlichen Zielkonflikt zwischen Modellleistung und Erklärbarkeit. Der gewählte Ansatz – Interpretierbarkeit als Designprinzip statt als nachgelagerte Maßnahme – entspricht der in der Fachliteratur empfohlenen Kategorie „Interpretable ML" und unterscheidet sich damit grundlegend von gängigen Post-hoc-Erklärungsverfahren.

Die Einbindung des Amazon Quantum Solutions Lab verweist auf einen weiteren Forschungshorizont: Quantencomputing als potenzieller Beschleuniger für das kombinatorische Optimierungsproblem beim Modelltraining. Dieser Aspekt befindet sich jedoch noch in der Forschungsphase; ein produktiver Einsatz von Quantenhardware ist in den Quellen nicht belegt.