Neue interdisziplinäre ZEVEDI-Projektgruppe "AI and Regulated Professions" erarbeitet Governance-Rahmen für KI-Anwendung in regulierten Berufen
Wie lässt sich der Einsatz von Künstlicher Intelligenz (KI) in Medizin, Recht und Psychologie verantwortungsbewusst gestalten? Dies untersucht die neue Projektgruppe „AIREP – AI and Regulated Professions“ des Zentrums verantwortungsbewusste Digitalisierung (ZEVEDI), an der auch die Frankfurt University of Applied (Frankfurt UAS) beteiligt ist.
KI gehört in der Medizin, der Psychotherapie, der Rechts- und Notariatspraxis oder der Steuerberatung zunehmend zum Arbeitsalltag. Sie soll genauer diagnostizieren als der Mensch und Schriftsätze, Gutachten oder Mandantenkorrespondenz auf Knopfdruck verfassen. Doch die Technik stößt an Grenzen und macht Fehler: KI-Systeme neigen zu „Halluzinationen" und erfinden etwa Gerichtsurteile, die es nie gegeben hat. Wie genau ein Ergebnis zustande kommt, bleibt dabei im Arbeitsalltag eine Black Box.
AIREP verbindet Forschung mit Fallstudien aus der Praxis
Gerade in Berufen mit eigener berufsrechtlicher Regulierung wirft das grundlegende Fragen auf. Rechtlich, weil die Regulierung mitunter eine menschliche Entscheidung verlangt und dem KI-Einsatz so Grenzen setzt, aber ebenso ethisch, psychologisch und sozial.
Die Projektgruppe AIREP - AI and Regulated Professions (Künstliche Intelligenz in regulierten Berufen) geht der Frage nach, wie sich der Einsatz von KI in regulierten Berufen so gestalten lässt, dass die rechtlichen Sorgfalts- und Organisationspflichten gewahrt bleiben und zugleich das Selbstbestimmungsrecht sowohl der betreuten als auch der mit KI arbeitenden Menschen geachtet wird. Dafür verbindet sie rechtswissenschaftliche, empirische und geschichtswissenschaftliche Forschung mit Fallstudien aus der Praxis.
Ziel von AIREP ist ein bundesweit referenzfähiger Governance-Rahmen für den verantwortlichen Einsatz berufsspezifischer KI-Systeme, der Perspektiven aus Recht, Psychologie und Medizin zusammenführt. Das Projekt startet im Juli 2026 und läuft bis Dezember 2027.
Beteiligte Wissenschaftler*innen
Sprecherin der Gruppe ist die Juristin Prof. Dr. Lena Rudkowski von der Justus-Liebig-Universität Gießen. Stellvertretender Sprecher ist Prof. Dr. Domenik Wendt LL.M., ebenfalls Jurist und Professor für Bürgerliches Recht, Europäisches Wirtschaftsrecht und Europarecht an der Frankfurt UAS.
Neben Rudkowski und Wendt gehören folgende Wissenschaftler*innen zum Team: die Technikhistorikerin Prof. Dr. Martina Heßler (Technische Universität Darmstadt), der Psychologe Prof. Dr. Martin Kersting (Justus-Liebig-Universität Gießen), der Mediziner Prof. Dr. med. Sebastian Kuhn (Philipps-Universität Marburg und Universitätsklinikum Marburg) sowie der Wirtschaftswissenschaftler Prof. Dr. Michael Leyer (Philipps-Universität Marburg).
Damit bündelt das Vorhaben Perspektiven aus Recht, Psychologie, Medizin sowie Technikgeschichte und verdeutlicht die hessische Expertise zum Einsatz von KI in der Arbeitswelt.
Weitere Informationen zur Projektgruppe: https://zevedi.de/themen/airep/
Zu ZEVEDI
Das Zentrum verantwortungsbewusste Digitalisierung ZEVEDI ist ein Forschungs- und Kompetenznetz. Es bündelt die wissenschaftliche Expertise der hessischen Hochschulen zur Analyse normativer Aspekte des digitalen Wandels und trägt zur Gestaltung dieses Wandels bei. Das Zentrum konkretisiert Verantwortung als wichtigen Gesichtspunkt von Technologieentwicklung und arbeitet daran, diesen umsetzbar zu machen. Es erbringt Forschungsleistungen, stärkt den Transfer von Wissen in die Wirtschaft und die Gesellschaft hinein und berät die Politik forschungsbasiert zu den Themen Recht, Ethik und Innovation – für eine demokratische und humane Ausrichtung des digitalen Wandels.
Wissenschaftliche Direktorin des Zentrums ist Prof. Dr. phil. Petra Gehring (TU Darmstadt). Die Geschäftsstelle an der TU Darmstadt steht unter der gemeinsamen Leitung von Dr. Jörn Laakmann und Dr. Christian Person.
ZEVEDI wurde im November 2019 gegründet und wird durch das Hessische Ministerium für Digitalisierung und Innovation gefördert.
Fünf ZEVEDI-Projektgruppen
Derzeit gibt es fünf ZEVEDI-Projektgruppen, die Frankfurt UAS ist an dreien davon beteiligt. Dies sind – neben AIREP – die Projektgruppe Anleger- und Verbraucherschutz in Kryptomärkten (AVK), an der seitens der Frankfurt UAS die Wirtschaftswissenschaftlerin und Finanzmarktexpertin Prof. Dr. Michaela Hönig und der Wirtschaftsinformatiker und Experte für Digital Business Prof. Dr. Nils Urbach mitarbeiten. Urbach ist zudem Sprecher der Projektgruppe Digitale Finanzmarktinfrastrukturen (DiFiMI).
Weitere Projektgruppen arbeiten zu Digital Dual Use (DDU) und AI Supervision (AI-Sup). Weitere Informationen auf der ZEVEDI-Webseite unter: https://zevedi.de/
Die Pressemitteilung der TU Darmstadt zur neuen ZEVEDI-Projektgruppe zu Künstlicher Intelligenz in regulierten Berufen (AIREP) ist hier nachzulesen: https://idw-online.de/de/news873676
Kontakt:
E-Mail: office(at)zevedi.de