Algorithmische Verantwortung in soziotechnischen Systemen: Governance und Accountability von KI-Entscheidungsprozessen

Problemstellung und wissenschaftliche Relevanz

Die zunehmende Integration von KI-Systemen in organisationale Entscheidungsprozesse markiert einen tiefgreifenden Wandel in der Gestaltung soziotechnischer Systeme. Während die technologische Leistungsfähigkeit kontinuierlich zunimmt, bleibt die wissenschaftliche Fundierung von Governance-Strukturen und algorithmischer Verantwortung (Accountability) vielfach unterentwickelt. Unter algorithmischer Verantwortung wird hierbei die Nachvollziehbarkeit, Zurechenbarkeit und Kontrollierbarkeit algorithmischer Entscheidungen verstanden.

Für die Wirtschaftsinformatik ergibt sich daraus eine zentrale Forschungsfrage: Wie können menschliche Aufsicht (Human Oversight) und algorithmische Autonomie in hybriden Entscheidungsarchitekturen so ausgestaltet werden, dass Effizienzgewinne realisiert werden, ohne regulatorische und ethische Anforderungen zu verletzen? Gerade aus Sicht der behavioral IS stellt sich die Frage, wie individuelle und organisationale Verhaltensmuster, Einstellungen und Vertrauen die Nutzung und Kontrolle KI-basierter Entscheidungssysteme prägen.

Die disziplinäre Relevanz ist hoch, da die Wirtschaftsinformatik traditionell die Schnittstelle zwischen technologischer Innovation und organisationaler Wertschöpfung adressiert. Während frühere Arbeiten primär auf Effizienzsteigerungen fokussierten, verschiebt sich der Diskurs zunehmend hin zu Transparenz, Erklärbarkeit (Explainable AI, XAI) und Risikokontrolle in sensiblen Anwendungskontexten wie Finanzdienstleistungen oder öffentlicher Verwaltung Rai, 2020.

Theoretische Konzepte und aktuelle Diskurse

Im Zentrum der verhaltensorientierten IS-Forschung zu KI-Systemen steht das Spannungsfeld zwischen algorithmischer Effizienz und menschlicher Handlungsträgerschaft (Human Agency). Etablierte Adoptions- und Nutzungsmodelle wie das Technology Acceptance Model (TAM) sowie seine Weiterentwicklungen (z. B. UTAUT2) bieten einen strukturierten Rahmen, um wahrgenommene Nützlichkeit, Nutzungserwartung, Vertrauen und Gewohnheit als Treiber der Systemnutzung zu analysieren Davis, 1989; Venkatesh et al., 2012. Für KI-basierte Entscheidungssysteme reicht eine reine Akzeptanzperspektive jedoch nicht aus, da auch Kontrollwahrnehmung, Eingriffsmöglichkeiten und Verantwortlichkeitszuschreibungen modelliert werden müssen.

Ein theoretisch anschlussfähiges Leitkonzept ist in diesem Zusammenhang Meaningful Human Control, das beschreibt, unter welchen Bedingungen autonome Systeme weiterhin einer verantwortbaren menschlichen Kontrolle unterliegen Santoni de Sio & van den Hoven, 2018. Die Konzeption von tracking- und tracing-Bedingungen ermöglicht es, normative Anforderungen an Kontrolle und Verantwortung mit verhaltensbezogenen Konstrukten wie wahrgenommener Kontrolle, Verantwortungsbereitschaft und Vertrauen zu integrieren.

Parallel dazu betont die XAI-Forschung, dass Interpretierbarkeit nicht nur eine technische Eigenschaft, sondern auch ein verhaltensrelevantes Merkmal ist, das Einstellungen und Nutzungsmuster beeinflusst Rai, 2020; Doshi-Velez & Kim, 2017. Für behavioral IS ergibt sich daraus die Herausforderung, Konzepte wie Vertrauen, Risiko- und Fairnesswahrnehmung sowie Verantwortungszuschreibung empirisch mit konkreten XAI-Features und Governance-Mechanismen zu verknüpfen.

Methodische Zugänge und empirische Forschung

Die Untersuchung algorithmischer Verantwortung aus behavioral-IS-Perspektive erfordert ein methodisches Spektrum, das sowohl individuelle und organisationale Verhaltensmuster als auch technische Artefakte abbildet:

• Quantitative Surveys und Experimente: Kausale und korrelative Analysen zur Wirkung von XAI-Features und Governance-Mechanismen auf Vertrauen, Nutzungsintention, Kontrollwahrnehmung und Verantwortlichkeitszuschreibung.
• Qualitative Studien: Tiefgehende Analysen organisationaler Umgangsweisen mit KI-Systemen mittels Interviews und Beobachtungen, um informelle Praktiken der Aufsicht, Delegation und Verantwortungszuschreibung zu erfassen.
• Design Science Research (DSR): Systematische Entwicklung und Evaluation von Artefakten (z. B. Governance-Dashboards, Entscheidungs-Logs, Audit-Mechanismen) zur Operationalisierung von „Accountability by Design“.

In der IS-Forschung wird DSR als Forschungsparadigma verstanden, das Wissen durch die Konstruktion und Evaluation innovativer Artefakte erzeugt; solche Artefakte können Konstrukte, Modelle, Methoden oder implementierte Instanziierungen umfassen Hevner et al., 2004. Für Promotionsvorhaben zur algorithmischen Verantwortung bedeutet dies, dass ein Governance-Dashboard, ein XAI-Erklärungsmodul oder ein Accountability-Framework als explizit theoriebasiertes Artefakt konzipiert werden sollte, dessen Designentscheidungen sich nachvollziehbar aus behavioral-IS-Theorien (z. B. TAM/UTAUT, Vertrauen, Risiko, Kontrolle) und normativen Anforderungen (z. B. Meaningful Human Control, AI-Governance-Prinzipien) ableiten.

Die Design-Science-Research-Methodology von Peffers et al. bietet hierfür einen prozessualen Rahmen, der Problemidentifikation, Zieldefinition, Design und Entwicklung, Demonstration, Evaluation sowie Kommunikation systematisch miteinander verbindet Peffers et al., 2007. Eine methodisch belastbare DSR-Studie zur algorithmischen Verantwortung sollte offenlegen, welcher Artefakttyp entwickelt wird, welche Anforderungen aus behavioral-IS-Theorie und Praxis abgeleitet wurden und anhand welcher Evaluationsformen — etwa Experimente, Fallstudien, Simulationen oder analytische Prüfungen — die Güte des Artefakts beurteilt wird Hevner et al., 2004; Peffers et al., 2007.

Besonderes Potenzial liegt in Mixed-Methods-Ansätzen, die Data-Science-Verfahren (z. B. Logfile-Analysen zu tatsächlichen Nutzungsmustern) mit sozialwissenschaftlichen Methoden (Surveys, Experimente, qualitative Analysen) kombinieren, um die Diskrepanz zwischen technischer Systemlogik und beobachtetem Verhalten in Organisationen empirisch zu erfassen Doshi-Velez & Kim, 2017.

Herausforderungen und Implikationen für die Forschung

Ein persistentes Kernproblem bleibt die „Black-Box“-Charakteristik vieler KI-Modelle. Trotz Fortschritten im Bereich XAI ist die Umsetzung rechtssicherer und zugleich praktikabler Transparenzanforderungen weiterhin begrenzt, was sich direkt auf Vertrauen, Verantwortlichkeitszuschreibung und Nutzungsmuster auswirkt Rai, 2020; Doshi-Velez & Kim, 2017. Gleichzeitig erhöhen regulatorische Entwicklungen, insbesondere durch den EU AI Act, den Druck auf Organisationen, robuste Governance- und Dokumentationsmechanismen zu implementieren European Union, 2024.

Vor diesem Hintergrund ergeben sich zentrale Forschungsfragen mit klarem Bezug zu behavioral IS und DSR:

• Wie beeinflussen Governance-Strukturen und XAI-Features Vertrauen, Kontrollwahrnehmung und Verantwortlichkeitszuschreibung bei unterschiedlichen Nutzergruppen?
• Welche Artefakte (z. B. Dashboards, Erklärungsschnittstellen, Audit-Trails) eignen sich, um algorithmische Verantwortung in Organisationskontexten operationalisierbar zu machen, und wie lassen sie sich im Sinne von DSR entwickeln und evaluieren?
• Wie können ethische Prinzipien und regulatorische Anforderungen in verhaltensbezogene Designanforderungen übersetzt und in technisch implementierbare Entscheidungslogiken überführt werden?

Implikationen für die Forschungspraxis

Algorithmische Verantwortung entwickelt sich zu einem zentralen Forschungsfeld der Wirtschaftsinformatik, in dem behavioral IS und DSR komplementäre Perspektiven bieten. Behavioral-IS-Ansätze ermöglichen es, Einstellungen, Wahrnehmungen und Nutzungsmuster im Umgang mit KI-Systemen theoriebasiert zu erfassen und zu erklären, während DSR die Gestaltung und Evaluation von Artefakten vorantreibt, die Accountability, Transparenz und Kontrolle in der Praxis operationalisieren Hevner et al., 2004; Peffers et al., 2007.

Für Promovierende bedeutet dies, Forschungsvorhaben so aufzusetzen, dass verhaltensbezogene Theorien (z. B. TAM/UTAUT, Vertrauen, Risiko, Kontrolle) systematisch mit der Entwicklung von Governance- und XAI-Artefakten verknüpft werden. Entscheidend ist dabei, nicht nur algorithmische Modelle zu analysieren, sondern deren soziotechnische Einbettung und die damit verbundenen Verhaltens- und Governance-Prozesse kritisch zu untersuchen und über Artefakte aktiv mitzugestalten Santoni de Sio & van den Hoven, 2018; European Union, 2024.

Literaturverzeichnis

• Davis, F. D. (1989). Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS Quarterly, 13(3), 319–340.
• Venkatesh, V., Thong, J. Y. L., & Xu, X. (2012). Consumer acceptance and use of information technology: Extending the unified theory of acceptance and use of technology. MIS Quarterly, 36(1), 157–178.
• Rai, A. (2020). Explainable AI: From black box to glass box. Journal of the Academy of Marketing Science, 48(1), 137–141.
• Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
• Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5, 15.
• Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105.
• Peffers, K., Tuunanen, T., Rothenberger, M. A., & Chatterjee, S. (2007). A design science research methodology for information systems research. Journal of Management Information Systems, 24(3), 45–77.
• European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.