Explainable AI für Feldversuche

Ein Modell, das eine Ertragswirkung korrekt prognostiziert, sie aber nicht erklären kann, ist in der Praxis wertlos. Ein Produktmanager kann eine Anwendungsempfehlung nicht auf eine Zahl stützen, die er nicht begründen kann.

Die erste Frage im Fachgespräch lautet nie „wie hoch ist die Prognosegüte“, sondern: Welcher Faktor hat den stärksten Einfluss auf das Produkt? Und genau diese Frage beantwortete die damals verfügbaren Werkzeuge nicht in einer Form, die für Fachbereiche nutzbar war.

Feldversuchsdaten und darauf trainierte Modelle. Das Framework ist bewusst modellunabhängig angelegt: Es arbeitet mit XGBoost, Random Forests, linearen Modellen und logistischen Regressionen gleichermaßen.

Feature Importance messen, nicht schätzen. Um die Frage nach dem stärksten Einflussfaktor zu beantworten, wird die Zunahme des Vorhersagefehlers berechnet, wenn das jeweilige Merkmal wegfällt. Das ergibt eine Rangfolge, die auf dem Modellverhalten beruht.

Marginale Effekte über Accumulated Local Effects. ALE beschreiben den Zusammenhang zwischen Zielvariable und einzelnem Merkmal. Damit wird nicht nur sichtbar, dass ein Faktor wichtig ist, sondern in welche Richtung und ab welchem Wert er wirkt.

Interaktionseffekte in zwei Heatmaps. Die erste zeigt den Effekt zweiter Ordnung, also wie die Wirkung eines Merkmals durch ein anderes verändert wird. Die zweite zeigt den Gesamteffekt aus Interaktion und individuellen Haupteffekten und damit, welche Kombination von Faktorstufen zu guter oder schlechter agronomischer Leistung führt. Im direkten Vergleich beider Heatmaps lassen sich stark interagierende Bereiche identifizieren und das Verhältnis zwischen Interaktions- und Haupteffekt einordnen.

Umsetzung mit den R-Paketen iml, lime und DALEX.

Es entstand ein vollständiger Analyseprozess zur Erklärung von Machine-Learning-Modellen, anwendbar über verschiedene Modellklassen hinweg. Die Erklärungen sind intuitiv und ohne statistische Ausbildung nachvollziehbar, und die Grafiken liefern Erkenntnisse, die über die Modellprognose hinausgehen.

Der praktische Effekt: Der Produktmanager entscheidet auf Grundlage der Faktoren statt auf Grundlage einer Zahl und kann die Erkenntnisse in die Geschäftsstrategie einfließen lassen.

Modellunabhängige Interpretation mit ausgewiesenen Haupt- und Interaktionseffekten ist überall gefordert, wo eine Modellaussage fachlich verteidigt werden muss: Assay-Auswertung, Toxizitätsvorhersage, Prozessoptimierung.

Der Bedarf ist derselbe, der Status hat sich vollständig verschoben. Als wir dieses Framework entwickelten, war Erklärbarkeit ein Forschungsthema und ein Argument gegenüber skeptischen Fachbereichen. Heute ist sie eine regulatorische Anforderung: Der EU AI Act verlangt für Hochrisikoanwendungen dokumentierte Nachvollziehbarkeit.

Technisch hat sich SHAP als Standard etabliert, mit TreeSHAP als effizienter Variante für Baumensembles und SHAP-Interaktionswerten für den Teil, den wir damals über zwei Heatmaps abgebildet haben. ALE sind weiterhin methodisch richtig und bei korrelierten Merkmalen den älteren Partial-Dependence-Darstellungen überlegen. Dieser Teil des Frameworks ist nicht veraltet, sondern hat sich bestätigt. Bei der permutationsbasierten Feature Importance wissen wir heute genauer, dass sie bei korrelierten Merkmalen verzerrt ist; wir arbeiten deshalb mit gruppierten oder bedingten Varianten. Und die Umsetzung würde heute in Python mit shap und InterpretML erfolgen statt in R, einfach weil dort die Werkzeugkette dichter ist.