AIthena

AI-Based CCAM: Trustworthy, Explainable, and Accountable

Die Forschung im Bereich der „Connected and Cooperative Automated Mobility“ (CCAM) hat aufgrund der Künstlichen Intelligenz (KI) und dem Aufkommen hochentwickelter Deep Learning-Methoden im Kontext der Entwicklung hochautomatisierter Fahrzeuge zunehmend an Relevanz gewonnen. CCAM-Lösungen haben dabei von der Anwendbarkeit KI-basierter Wahrnehmungs-, Situationserkennungs- und Entscheidungskomponenten profitiert.

Um gesellschaftliche Akzeptanz zu erreichen, ist eine vertrauenswürdige KI der nächste zwingende Schritt der Technologieentwicklung, um das Versprechen einer vollständig nutzbringenden KI einzulösen. Bis vor einigen Jahren wurde nur die Genauigkeit, als Goldstandard zur Messung der KI-Qualität in Form eines Leistungsindikator verwendet. Für eine vertrauenswürdige KI müssen jedoch Kompromisse zwischen anderen, ebenso wichtigen Eigenschaften eingegangen werden: Robustheit, Datenschutz, Erklärbarkeit, Verantwortlichkeit und Ethik. Erklärbare KI (Explainable AI, XAI) wird immer mehr zu einem Bereich von großem Interesse für Nutzer (Personen, die das Systemen nutzen und verstehen wollen, juristische Personen, die Verantwortlich für Haftung und Gewährleistung sind, und Forscher, die Grenzen verstehen und Modelle verbessern wollen), die KI-Systeme nutzen und Erklärungen über die Funktionsweise und das erwartete Verhalten der KI erhalten möchten.

In diesem Zusammenhang steht AIthena vor methodischen und entwicklungstechnischen Herausforderungen bei der Erstellung und Integration von XAI-basierten Modellen und Systemen in CCAM-Anwendungen. AIthena wird eine auf den Menschen ausgerichtete Methodik für die Entwicklung der drei Hauptpfeiler der KI bereitstellen: Daten, KI-Modelle und Tests.

Der Hauptbeitrag des ika's innerhalb von AIthena wird die Entwicklung von erklärbaren, vertrauenswürdigen und robusten Wahrnehmungs- und Entscheidungsfindungsmethoden sein. So werden Fusionsmodelle entwickelt, die zum einen Wahrnehmungskonflikte reduzieren und zum anderen alle relevanten Informationen für die Module der Entscheidungsfindung zusammenführen. Schließlich werden die resultierenden Module evaluiert, getestet und integriert, zunächst in der Simulation und anschließend in Demonstratoren für die Wahrnehmung und Entscheidungsfindung.