UKB startet eigene Plattform für Large Language Models namens UKB-GPT
Künstliche Intelligenz hält zunehmend Einzug in den klinischen Alltag – auch am UKB. Doch viele kommerzielle Lösungen für Textgenerierung durch Large Language Models (LLMs), wie z. B. ChatGPT von OpenAI, stoßen an Grenzen, wenn es um den Schutz sensibler Patientendaten geht. Die Nutzung generativer KI in der Klinik scheitert daher häufig an strengen Datenschutzanforderungen.
In Kooperation zwischen der Klinik für Diagnostische und Interventionelle Radiologie des UKB und der Forschungs-IT wurde deshalb eine eigene Plattform für LLMs implementiert. Das System läuft vollständig auf internen Servern unter Verwendung offener Modelle, sodass sensible Daten die Infrastruktur des UKB zu keinem Zeitpunkt verlassen.
Mehr als ein Chatbot: Ein „KI-Gehirn“ für die gesamte Klinik
„UKB-GPT“ bietet Anwendern eine vertraute Chat-Oberfläche. Die Entwicklung geht jedoch weit darüber hinaus: Es handelt sich um eine umfassende Sprach-KI-Plattform.
Zusätzlich stellt das System eine Programmierschnittstelle (API) zur Verfügung. Entwickler der gesamten Klinik können darüber Sprachmodell-Intelligenz direkt in klinische Anwendungen und IT-Prozesse integrieren. Perspektivisch soll die Plattform das technologische Herzstück für den Einsatz künstlicher Intelligenz am UKB bilden.
Was kann UKB-GPT?
Die Plattform bietet eine intuitive Chat-Oberfläche – ähnlich bekannten KI-Anwendungen. Sie kann unter anderem:
• Texte zusammenfassen
• bei der Erstellung von Dokumenten unterstützen
• medizinische Inhalte strukturieren
Die Technologie kann durch sog. Programmierschnittstellen auch direkt aus klinischen Anwendungen aufgerufen und somit in diese integriert werden.
Die technologische Entwicklung
Der Ursprung der Bestrebungen, offene Sprachmodelle am UKB zu etablieren, liegt im Jahr 2022 in einer Kooperation zwischen Radiologie und Fraunhofer IAIS. Dr. Sebastian Nowak, Data Scientist der Radiologie, und Ben Wulff, heutiger Leiter der Forschungs-IT und damals als Software Engineer am Fraunhofer IAIS im Einsatz, erprobten früh den Einsatz von Sprachmodellen zur Strukturierung von Befunden. Als in den Jahren 2023–2024 leistungsfähige offene Modelle wie Llama von Meta AI aufkamen, testete das Team deren Eignung für den klinischen Einsatz. Eine im Fachjournal Radiology veröffentlichte Studie zeigte, dass lokal gehostete Open-Weights-Modelle medizinische Informationen aus Befunden mit vergleichbarer Genauigkeit extrahieren können wie das proprietäre Modell GPT-4o von OpenAI.
Der regulatorische Weg zur eigenen Infrastruktur
Mit der Veröffentlichung großer Sprachmodelle durch OpenAI bestand am UKB früh Interesse an deren Einsatz für klinische Daten. Eine Abstimmung mit dem Datenschutzbeauftragten definierte jedoch klare Anforderungen an externe Cloud-Dienste: DSGVO-Konformität, Datenspeicherung innerhalb der EU, ein C5-Zertifikat des BSI sowie ein Auftragsverarbeitungsvertrag zur Wahrung des ärztlichen Berufsgeheimnisses (§ 203 StGB). Da ein direkter Kontakt zu OpenAI zur Erkenntnis führte, dass diese Anforderungen derzeit nicht erfüllt werden, verblieb Microsoft Azure als externe Alternative. Da die Forschungs-IT und Radiologie jedoch bereits über geeignete Hardware verfügte, als auch über das Know-How diese in Einsatz zu bringen, wurde bewusst auf externe Cloud-Lösungen verzichtet, auch um Abhängigkeit von einzelnen Anbietern zu vermeiden. Somit fiel die Entscheidung eine eigene, unabhängige Infrastruktur am UKB zu schaffen.
Das UKB-GPT-Team
Die Umsetzung der Plattform basierte auf der Arbeit eines interdisziplinären Kernteams. Dr. Sebastian Nowak brachte das Data-Science-Know-how ein. Zum einen durch Auswahl und Implementierung der Open-Source-Komponenten und LLMs, aber auch durch das Programmieren der Software-Applikationen und API-Schnittstellen. Jan-Frederik Lass, Mitarbeiter bei der Forschungs-IT des UKB, verantwortete insbesondere die IT-Architektur sowie die Integration in die bestehende Infrastruktur, die Netzwerkkonfiguration mit sicherer Isolierung vom Internet und die Anbindung an das klinikinterne User-Management. Ben Wulff leitete das Projekt und koordinierte die Abstimmungen mit Datenschutz, IT-Sicherheit, Personalräten und Compliance. Gemeinsam entstand so eine Plattform, die sowohl technisch leistungsfähig als auch regulatorisch abgesichert ist.
Wissenstransfer durch Open Source
Das UKB stellt den Code der Infrastruktur im Zuge einer gemeinsamen Veröffentlichung von Radiologie und Forschungs-IT als Open-Source-Projekt auf GitHub zur Verfügung (siehe https://github.com/ukbonn/ukb-gpt). Dieses wird aktuell von anderen medizinischen Einrichtungen genutzt, um die KI-Plattform auch dort zu etablieren.
Jetzt starten – Zugang für Mitarbeitende
UKB-GPT ist ab sofort intern verfügbar.
Zugang: https://gpt.ukb.intern
Vor der Nutzung ist nach Art. 4 des EU AI Acts eine kurze verpflichtende Schulung erforderlich. Nach Abschluss der Schulung beantragen Sie den Zugang in Matrix42. Als Login verwenden Sie bitte Ihre UKB-Nutzerkennung.
Detaillierte Informationen zum Zugang finden Sie im Intranet: UKB-GPT
BU: Das Team hinter UKB-GPT: Dr. Sebastian Nowak (Radiologie), Jan-Frederik Lass und Ben Wulff (Forschungs-IT) entwickelten die datenschutzsichere KI-Plattform des UKB.