Unchain AI

Künstliche Intelligenz verspricht eine Revolution der Produktivität, doch in der industriellen und klinischen Praxis prallen visionäre Versprechen oft auf regulatorische Realitäten. Während Investitionen in Milliardenhöhe fließen, stellt sich die Frage, warum der breite Durchbruch in hochsensiblen Bereichen wie der Medizin oder dem Rechtswesen noch auf sich warten lässt. Zwischen Datenschutz-Bedenken, Finanzierungshürden und der Notwendigkeit digitaler Souveränität entscheidet sich aktuell, ob Europa den Anschluss an die globale KI-Champions-League halten kann oder durch “selbstgelegte Fesseln” den Fortschritt blockiert.

In dieser Ausgabe von itemis PODIUM diskutiert Moderator Dr. Stephan Eberle, CTO und CIO der itemis AG, mit einer interdisziplinären Expertenrunde über die Entfesselung technologischer Potenziale. Dr. Karlson Pfannschmidt, Mitgründer und CTO von Puraite, bringt tiefe Einblicke in die KI-gestützte medizinische Forschung und Evidenzsynthese ein. Dr. Nicolas Krämer, Vorstandsvorsitzender der HC&S, analysiert die Herausforderungen aus Sicht des Krankenhausmanagements, während Marvin Bauernfeind, Fachanwalt für Insolvenz- und Sanierungsrecht bei BBL Brockdorff, die juristische Perspektive auf Haftung, Berufsrecht und Prozessautomatisierung vertritt.

Zentrale Erkenntnisse der KI-Diskussion

• Massive Effizienzgewinne: In der medizinischen Forschung verkürzt KI Prozesse der Datenauswertung von ehemals sechs bis zwölf Monaten auf wenige Stunden.
• Human-in-the-Loop-Prinzip: KI ersetzt keine Experten; sie fungiert als Assistent. Die Letztentscheidung und Haftung verbleiben beim Menschen (“Vier-Augen-Prinzip”).
• Regulatorische Bremsklötze: Der deutsche Datenschutz wird oft über den Patientenschutz gestellt, was die klinische Einführung lebensrettender Algorithmen behindert.
• Digitale Souveränität: Open-Source-Modelle bieten eine valide Alternative zu US-amerikanischen Cloud-Lösungen, um Datenschutzvorgaben und technologische Unabhängigkeit zu vereinen.

Strategische Einsatzfelder: Von der Forschung in die klinische Praxis

Das Potenzial von KI manifestiert sich am deutlichsten dort, wo hochqualifizierte Experten durch repetitive Datenarbeit gebunden sind. In der Evidenzsynthese – dem Zusammenfassen tausender wissenschaftlicher Studien – übernimmt die KI das Screening und die Datenextraktion. Dies setzt wertvolle Ressourcen frei: Forschende können sich auf die Interpretation der Ergebnisse konzentrieren, statt Monate mit der manuellen Sichtung von Tabellen zu verbringen.

Im Krankenhausmanagement liegt der Fokus neben der Diagnoseunterstützung, etwa in der Radiologie, vor allem auf der Entbürokratisierung. Pflegekräfte und Ärzte wenden aktuell signifikante Teile ihrer Arbeitszeit für Dokumentationsaufgaben auf. Hier bietet KI den Hebel, das klinische Personal massiv zu entlasten und die Qualität der Patientenversorgung durch präzisere Diagnostik zu erhöhen.

Die Automatisierungslücke im Rechtswesen

Trotz digitaler Aktenführung fehlt im juristischen Bereich oft der “Missing Link” zur echten Automatisierung. Repetitive Abläufe im Berichtswesen oder in der Kommunikation mit Verfahrensbeteiligten binden Kapazitäten. KI-Tools könnten hier als “Buchungsautomaten” für juristische Sachverhalte fungieren, die Standardvorgänge vorvalidieren und nur noch Abweichungen (Grenzfälle) zur menschlichen Prüfung vorlegen. Die Skalierung der Produktivität erfolgt hier nicht durch den Ersatz des Juristen, sondern durch die Steigerung der bearbeitbaren Fallzahlen pro Kopf.

Regulatorik und Datenschutz: Bremse oder Leitplanke?

Die größte Hürde für den Einsatz von KI in Deutschland bleibt die Regulatorik. Im Gesundheitswesen behindert die strikte Trennung von Finanzierung (Krankenkassen vs. Bundesländer) notwendige Investitionen in die digitale Infrastruktur. Zudem führt eine restriktive Auslegung der DSGVO dazu, dass Cloud-basierte US-Modelle in sensiblen Bereichen oft nicht rechtskonform einsetzbar sind.

Der Weg zur technologischen Unabhängigkeit

Um die “Fesseln” der Abhängigkeit von US-Anbietern zu lösen, gewinnt die souveräne Hostung von Modellen an Bedeutung. Open-Source-Modelle erreichen mittlerweile eine Qualität, die für spezialisierte Aufgaben in Medizin und Recht ausreicht. Der Vorteil: Die Daten verlassen den europäischen Rechtsraum nicht. Initiativen aus der Privatwirtschaft, wie das Patientendaten-Ökosystem von SAP und Fresenius, zeigen zudem, dass digitale Souveränität auch ohne staatliche Förderprogramme durch strategische Allianzen erreicht werden kann.

Die Rolle des Menschen: Haftung und Letztentscheidungsbefugnis

Ein zentrales Hemmnis für die Akzeptanz von KI ist die Sorge vor Kontrollverlust. In Berufsfeldern mit höchster Verantwortung – sei es der Arzt am Patienten oder der Anwalt vor Gericht – ist die höchstpersönliche Leistungserbringung gesetzlich verankert. Eine KI darf hier niemals autonom entscheiden.

Das Prinzip der assistierten Intelligenz

Die Strategie lautet “Human in the loop first”. KI-Systeme müssen so gestaltet sein, dass ihre Ergebnisse schnell und transparent überprüfbar sind. Im Rechtswesen drohen bei blinder Übernahme von KI-generierten Inhalten (“Halluzinationen”) Reputationsverlust und Haftungsfolgen. Die KI liefert den Sachvortrag, doch der Mensch hält “die Nase hin”. Erst wenn Systeme vollständig durchvalidiert sind – vergleichbar mit klinischen Studien für Medikamente –, ist ein höherer Grad an Autonomie denkbar, was jedoch eine Weiterentwicklung des aktuellen Berufsrechts voraussetzt.