Vier Jahre SAIL: KI besser verstehen, weiterentwickeln und verantwortungsvoll einsetzen – ein Resümee aus HSBI-Sicht

Bielefeld (hsbi). Annähernd vier Jahre ging es um Künstliche Intelligenz (KI), nun hat das Forschungsnetzwerk SAIL seine Arbeit beendet und eine Reihe von wertvollen Ergebnissen erzielt. Die Abkürzung SAIL steht für „SustAInable Life-cycle of Intelligent Socio-Technical Systems“, zu Deutsch: Nachhaltiger Lebenszyklus intelligenter soziotechnischer Systeme. Dahinter steht, dass die Universität Bielefeld als Konsortionalführer im Projekt gemeinsam mit der Hochschule Bielefeld (HSBI), der TH OWL und der Universität Paderborn im Rahmen des Projekts erforschen wollte, wie KI nicht nur langfristig zuverlässig, sondern auch ressourcenschonend und gesellschaftlich verantwortungsvoll eingesetzt werden kann. „Wesentlicher Erfolgsfaktor von SAIL war tatsächlich die Verbindung unterschiedlicher wissenschaftlicher Profile von Akteuren der vier beteiligten Hochschulen“, sagt Prof. Dr. Wolfram Schenck, Sprecher der HSBI-Akteure im Projekt. „Gerade diese vielfältigen Perspektiven ermöglichten es, Fragen von der methodischen Grundlagenforschung über sichere, nachhaltige und verantwortungsvolle KI-Systeme bis hin zur konkreten Anwendung in unterschiedlichen gesellschaftlichen und wirtschaftlichen Bereichen gemeinsam zu bearbeiten und die Auswirkungen von KI auf den Menschen und die Gesellschaft zu reflektieren“, so Schenck. „Bei alledem haben wir uns orientiert am Leitbild einer humanzentrierten KI, die nachhaltig sein soll, sowohl vom Ressourcenverbrauch her, als auch wenn es um ihre Auswirkungen auf den Einzelnen und die Gesellschaft geht.“

HSBI arbeitete insbesondere an den Schnittstellen von KI mit Engineering und Gesundheit

Die HSBI setzte im Rahmen von SAIL mit ihrer anwendungsorientierten Forschung insbesondere Akzente an den Schnittstellen von KI und Engineering, KI und Gesundheit sowie KI und Sozialbereich. Sogenannte „Principal Investigators“, die an der Spitze der Arbeitsgruppen auf HSBI-Seite standen, waren neben Schenck Prof. Dr. Jens Haubrock, Prof. Dr. Thorsten Jungeblut, Prof. Dr. Martin Kohlhase und Prof. Dr. Axel Schneider, alle vom Fachbereich Ingenieurwissenschaften und Mathematik, außerdem Prof. Dr. Rena Isabel Amelung vom Fachbereich Gesundheit, die sich dem Thema Diversität annahm, sowie Prof. Dr. Gerrit Hirschfeld vom Fachbereich Wirtschaft, der seine wirtschaftspsychologische Expertise einbrachte.

AG Haubrock: KI für stabile zellulare Verteilnetze

Wenn mehr Elektrofahrzeuge, Wärmepumpen und erneuerbare Energien ins System kommen, müssen Stromnetze flexibler und intelligenter werden – das war die Ausgangslage von Doktorand Lars Quakernack in der Arbeitsgruppe von Prof. Dr. Jens Haubrock. Innerhalb von SAIL arbeitete Quakernack an der Frage, wie KI so eingesetzt werden kann, dass sie technische Systeme nicht nur effizienter macht, sondern auch robust, nachvollziehbar und gesellschaftlich verantwortbar. Inhaltlich drehte sich seine Forschung um die Zukunft von Verteilnetzen: Mehr Elektrofahrzeuge, Wärmepumpen und volatile erneuerbare Einspeisung erhöhen heute die Belastung der Netze und können Engpässe, Spannungsprobleme und Trafoüberlastungen verursachen. Statt ausschließlich auf teuren Netzausbau zu setzen, entwickelte Quakernack intelligente KI-gesteuerte Verfahren, um die vorhandene Infrastruktur besser zu nutzen. Ein Schwerpunkt lag dabei auf dem Betrieb von Niederspannungsnetzzellen, die in komplexen Netzzuständen geeignete Maßnahmen zum Flexibilitätsaustausch ableiten. In einem untersuchten Niederspannungsnetz mit Haushalten, PV-Anlagen, Batteriespeichern und Elektrofahrzeugen zeigten seine Ansätze messbare Verbesserungen, etwa stabilere Spannungsniveaus und weniger kritische Lastflüsse. Als nächstes wird Quakernack an der Integration von Prognosen zur Flexibilität im Netz arbeiten und sich mit den in SAIL relevanten Anforderungen wie Datenschutz, Fairness und Robustheit befassen.

AG Jungeblut: Mit SHARLY können Pflegebedürftige sicher selbstständig zu Hause wohnen

Die Arbeitsgruppe rund um Prof. Dr. Thorsten Jungeblut und Doktorand Justin Baudisch entwickelte im Rahmen von SAIL den „Smart Home Agent Really“ – kurz „SHARLY“. Dieser wurde in der Bielefelder Forschungswohnung KogniHome verbaut und getestet, um den Einsatz von Smart-Home-Technologien in Wohnungen für pflegebedürftige Menschen mittels KI zu optimieren. Das Ziel war eine kostengünstige, ressourcenschonende und datenschutzkonforme Lösung, damit mittelfristig körperlich oder geistig beeinträchtigte Menschen so lange wie möglich selbstständig und sicher in ihren eigenen vier Wänden leben können. SHARLY arbeitet mit handelsüblichen Sensoren, deren Daten vor Ort gesammelt und analysiert werden – wichtig für den Datenschutz und für die Energieeffizienz, denn eine energieintensive Aufbereitung in der Cloud wird vermieden. Das System ist trotzdem in der Lage, eine Unmenge von Sensordaten zu speichern und zu bewerten. Über eine gewisse Zeit entsteht so ein Gesamtbild von typischen, normalen Zeitabläufen. Sobald es zu Abweichungen von der Norm kommt, kann SHARLY nun wertvolle Hinweise geben, denen Pflegende nachgehen können. Analysiert werden die Daten von Sensoren in Bewegungsmeldern, Lichtschaltern, Türen, Klappen und Fenstern, aber auch diejenigen in intelligent vernetzten Haushaltsgeräten wie Kaffeemaschinen, Staubsaugrobotern oder Waagen. Außerdem verarbeitet SHARLY alles, was Smartmeter monitoren: Heizung, Strom, Wasser. Angehörige und Pflegedienste erhalten die Möglichkeit, durch intelligent ausgewertete Daten von Ferne stets auf dem Laufenden zu sein, ob es einer von ihnen betreuten Person gut geht oder ob Handlungsbedarf besteht. Ein großer Vorteil des Ansatzes besteht darin, dass Minimalsensoren heute schon Standard sind für viele Gebäudeeinrichter, Bad- und Küchenhersteller. Die Technologie ist also relativ kostengünstig verfügbar und so besteht eine gute Chance, dass das System mittelfristig, zum Beispiel in der ambulanten Pflege, eingesetzt wird.

AG Kohlhase: Mehr Vertrauen bei wenigen Daten: robustes Active-Learning für die Praxis

Moderne KI-Modelle benötigen für präzise Vorhersagen grundsätzlich große Mengen an Trainingsdaten. In einigen Situationen oder Use Cases liegen diese Mengen an Trainingsdaten jedoch nicht vor und müssen auf manuellem oder messtechnischem Wege zeit- und kostenintensiv gelabelt werden. Hier bietet „Active Learning" ein enormes Potenzial: Algorithmen wählen dabei nur die informativsten Daten zum Labeln aus, was den menschlichen oder messtechnischem Aufwand drastisch senkt und wertvolle Ressourcen spart. In der Praxis scheitert der Einsatz allerdings oft am fehlenden Vertrauen, da sich der Erfolg der KI mangels unabhängiger Testdaten kaum verlässlich evaluieren lässt. Um diese Hürde zu nehmen, hat Bjarne Jaster aus der AG von Prof. Dr. Martin Kohlhase im Rahmen von SAIL innovative Ansätze für interpretierbare und robuste Active-Learning-Methoden entwickelt, die eine direkte Überprüfung durch den Menschen erlauben und eine stabile Leistung garantieren. Damit haben Jaster und Kohlhase Transparenz und dauerhafte Zuverlässigkeit in die Anwendung gebracht und den Weg geebnet für einen ressourcenschonenden Lebenszyklus intelligenter Systeme.

AG Schneider: Handelsübliche Kameras und eine schlaue Matratze für ein intelligentes Pflegebett

Druckverletzungen, auch als Dekubitus oder Druckgeschwüre bekannt, treffen weltweit schätzungsweise 12,8 Prozent aller erwachsenen Krankenhauspatienten. Zu den wichtigsten Risikofaktoren zählen langanhaltender, physikalischer Druck auf das Gewebe, Schwerkräfte und Reibung wie sie beispielsweise beim Liegen auftreten. Um solche Verletzungen besser zu verhindern, hat der Doktorrand Neev Manavar aus der Arbeitsgruppe von Prof. Dr. Axel Schneider im Rahmen von SAIL ein neuartiges, nicht-invasives KI-gestütztes Verfahren zur Drucküberwachung für besonders gefährdete Patienten entwickelt: Mithilfe einer einzigen Tiefenkamera über dem Bett und einer umfassend trainierten und die Bilder analysierenden KI kann das System die Druckverteilung zwischen einer im Bett liegenden Person und der Matratze berechnen und erzielt dabei bessere Ergebnisse als bisherige Verfahren. So könnten Pflegekräfte Patienten künftig gezielt und rechtzeitig in eine andere Position bringen, anstatt sich ausschließlich auf die bisher übliche Praxis zu verlassen, Patienten routinemäßig alle zwei Stunden umzulagern. Nächstes Ziel der Arbeitsgruppe ist die Erweiterung des Verfahrens auf eine dreidimensionale Überwachung von Druckverteilung und Körperhaltung. Dazu sollen Tiefen- und Wärmebildkameras kombiniert werden, sodass die Überwachung auch unter Bettdecken möglich wird.

AG Hirschfeld: Akzeptieren Nutzer:innen KI-basierte Gesundheitsapps?

In der AG von Prof. Dr. Gerrit Hirschfeld untersuchte Inga Jagermann, wie Nutzer:innen Akzeptanz gegenüber KI-basierten Gesundheits-Apps entwickeln und welche Faktoren ihre Entscheidungen beeinflussen. Mithilfe verhaltenswissenschaftlicher Methoden wie Choice-Based-Conjoint-Analysen, Eye-Tracking-Experimenten und experimentellen Vignettenstudien wurden zentrale Einflussfaktoren auf die Akzeptanz und Bewertung KI-basierter Gesundheits-Apps identifiziert. Konkret zeigte sich etwa, dass Nutzer:innen Menschen als Behandler:innen einer KI vorziehen, dass allerdings geringe Kosten eine zentrale Nutzerpräferenz darstellen und dass Vertrauen, noch vor dem wahrgenommenen Nutzen, der stärkste Prädiktor der Akzeptanz ist, über den auch die Ablehnung von KI vermittelt wird. Die Ergebnisse tragen dazu bei, den Akzeptanzprozess von KI-basierten Gesundheits-Apps besser zu verstehen, und zeigen, welche Faktoren für eine nutzerorientierte Gestaltung dieser Anwendungen entscheidend sind.

AG Schenck: Wichtige wissenschaftliche Impulse, Active Learning, medizinische Anwendungsfelder

Unter der Ägide von Prof. Dr. Wolfram Schenck, der auch als Sprecher der HSBI-Akteure in SAIL fungierte (s.o.), konnte Alaa Othman, PhD, als Nachwuchsgruppenleiter wichtige wissenschaftliche Impulse setzen. Er und seine Kollegen, zu denen auch Dr. Peter Kuchling gehörte, entwickelten u.a. neue Active-Learning-Verfahren, bei denen der Algorithmus selbst bestimmt, welche Datenpunkte er zum Training nutzen möchte, und sie adressierten grundlegende Fragen, etwa zum Umgang mit unvollständigen Daten, zum Lernen mit besonders kleinen Datenbudgets sowie zur Entwicklung neuer Evaluationsmetriken. Die erzielten Ergebnisse wurden in mehreren hochrangigen Fachzeitschriften veröffentlicht und erfolgreich auf medizinische Anwendungsfelder wie die Mikroskopie und die Segmentierung von Zellen übertragen. Hier war insbesondere die Doktorandin Eiram Mahera Sheikh aktiv. Darüber hinaus hat die Arbeitsgruppe durch die Organisation internationaler Workshops und Tutorials den Aufbau einer internationalen Forschungsgemeinschaft zum Thema „Small Data“ vorangetrieben. Mit der Einreichung eines umfangreichen DFG-Antrags wurden zudem wichtige Weichen für die Fortführung der Forschungsarbeiten gestellt. Gleichzeitig engagierte sich Othman intensiv in der Betreuung von Masterstudierenden und Promovierenden und stärkte durch eingeladene Vorträge an Einrichtungen wie der University of Hyogo (Japan) und dem Bosch Center for Artificial Intelligence den Austausch und Wissenstransfer mit der internationalen Forschungslandschaft. Kuchling wiederum fungierte im Rahmen von SAIL neben seiner Forschungstätigkeit auf der administrativen Seite als Schnittstelle zu den anderen Hochschulen und kümmerte sich auch um das Thema Citizen Science. Dazu gehörten insbesondere die Organisation diverser Veranstaltungen bei der GENIALE der Bielefelder „Wissenswerkstadt“ sowie sein Auftritt beim Science Slam ebendort. Darüber hinaus bearbeitete Kuchling das Thema Diversität innerhalb von SAIL und kooperierte hier mit Akteuren der anderen Hochschulen sowie insbesondere mit der HSBI-Kollegin Prof. Dr. Rena Isabel Amelung.

AG Amelung Diversity-Aspekte von KI in SAIL

In der Arbeitsgruppe für Diversität untersuchten Amelung und ihr Team die bestehenden Werte, Überzeugungen und Erfahrungen zu Diversitätsaspekten in den Einzelprojekten von SAIL. Auf der Grundlage dieser empirischen Forschung wurde ein Diversitätsprogramm entwickelt für große kollaborative Forschungsprojekte. Das Programm ist bedarfsorientiert ausgerichtet und basiert auf dem Aufbau eines diversitätssensiblen Kompetenzprofils. Dabei geht es u.a. um den Ausbau von Mentoringkompetenzen, um Schulungen zu kulturellen Kompetenzen und um implizite und explizite Vorurteile. Außerdem beinhaltet es fest etablierte Strukturen zur Sicherung von Diversität, z.B. ausgewogene Rekrutierung und Englisch als Arbeitssprache, sowie eine diversitätssensible Strategieausrichtung, die von einer echten Willkommenskultur geprägt sein sollte. Die Erkenntnisse mündeten in einer Publikation. Zudem bot die Diversity-AG fortlaufend einen Überblick über diversitätsrelevante Lehrangebote für alle beteiligten Forscher:innen und beriet andere Forschende zu Diversitätsaspekten in ihren Projekten. Die Arbeit zu einem Scoping Review über die Nutzung von KI im Gesundheitswesen geht noch über die zeitliche Begrenzung von SAIL hinaus weiter.

Vier Hochschulen im engen Austausch – das war SAIL

„Mit der Präsentation der HSBI-Beiträge zu SAIL ist die Arbeit des Forschungsnetzwerks bei weitem noch nicht erschöpfend beschrieben“, betont Wolfram Schenck. „Die Universität Bielefeld brachte ihre ausgewiesene Expertise in der KI-Grundlagenforschung ein und ergänzte ihren Beitrag um geisteswissenschaftliche Perspektiven auf die Entwicklung und den Einsatz von KI. Die TH OWL integrierte ihre Expertise zu industriellen KI-Anwendungen, zum Einsatz von KI im ländlichen Raum und in der Pharmazie. Die Universität Paderborn steuerte unter anderem Kompetenzen in den Bereichen Sprachmodelle und Wissensgraphen, IT- und KI-Sicherheit sowie im Engineering intelligenter Systeme bei.“ Auch über das Ende der Förderung hinaus sollen die Ergebnisse weiterwirken. Schenck: „SAIL hat nicht nur wichtige wissenschaftliche Ergebnisse hervorgebracht, sondern auch Kompetenzen gebündelt, neue Forschungsimpulse gesetzt und tragfähige Strukturen für die weitere Zusammenarbeit zwischen den Hochschulen geschaffen. Für die Zukunft gilt, KI in und aus OWL noch stärker sichtbar zu machen. Die im Projekt gewachsene Zusammenarbeit bildet dafür eine hervorragende Grundlage.“ (lk)