Vertrauensfrage: KI im Auto und die Grenzen der Aufmerksamkeit

Google fügt Android Auto und Automotive weitere KI-Features hinzu, darunter die Gemini-Intelligence, ein neues Material-3-Design und immersive 3D-Navigation. Auf der einen Seite sind diese Updates technisch bahnbrechend, auf der anderen wirft der erhöhte KI-Gehalt grundlegende Fragen zur menschlichen Aufmerksamkeit und Entscheidungsfreiheit im Fahrzeug auf.

Die immersive 3D-Navigation suggeriert, das autonome Fahren zu entlasten. Doch bei halbautomatisierten Systemen bleibt der Mensch zentraler Entscheidungsträger. Hier gilt es zu fragen: Wird die KI-orientierte Benutzeroberfläche nicht gerade dadurch riskanter, dass sie Aufgaben übernimmt, die den Fahrer nicht bewusst auslasten – etwa durch subtile visuelle oder akustische Reize? Die Psychologie des Fluchtsystems im Auto zeigt: Je komplexer die Umgebung, desto höher die Wahrscheinlichkeit, dass kritische Reize ignoriert werden.

Zudem verändert die kontinuierliche Einbettung von KI-Modellen wie Gemini die Machtverhältnisse zwischen Mensch und Maschine. Der Nutzer wird zunehmend zu einem "Mitsteuerer" in einer von Algorithmen dominierten Umgebung. Dies birgt das Risiko, dass verhaltenswirtschaftliche Prinzipien in der Fahrzeug-Nutzerschnittstelle – etwa durch personalisierte Echtzeit-Reaktionen – den menschlichen Willen manipulieren können, ohne dass dies explizit transparent gemacht wird.

Die "intelligente" KI-Steuerung mag bequem klingen. Doch die Abhängigkeit von Systemen, die nicht vollständig verstanden werden, erzeugt langfristig mehr Unsicherheit, nicht weniger. Als Cyber-Psychologe fordere ich: Mehr klare Grenzen, weniger "Smartness", wenn es um das menschliche Wohlbefinden im Auto geht.

Quelle: heise online