IT Kongress 2024 Neu-Ulm | Ulm
New Work
Lokal gehostet, Datenschutz garantiert: Wissensmanagement mit Private GPT
Diplom Betriebswirt (FH), Geschäftsführer der Systemhaus Ulm GmbH
Geschäftsführer und Gründer der Unternehmen Systemhaus Ulm GmbH und NeuroSys GmbH. Neben vielen Jahren in der Jugendarbeit und der Kommunalpolitik ist Martin Mayr nach wie vor der Hochschule Neu-Ulm sehr verbunden und dort unter anderem im Beirat für Health Care Management aktiv. Nach über 30 Jahren als Unternehmer legt er Wert auf die Vermittlung von Wissen an die nächste Generation.
M.Sc., Projektmitarbeiter in der Abteilung Data Science des Transferzentrums für Digitalisierung, Analytics und Data Science Ulm (DASU)
Joachim Hegenauer ist seit 2024 Projektmitarbeiter im Data Science Team des DASU.
Seit dem Abschluss des Studiums der Mathematischen Biometrie, mit dem Schwerpunkt auf den
Themen Machine Learning und KI, arbeitet er an der Umsetzung von Digitalisierungs- und KI-Projekten in Zusammenarbeit mit externen Unternehmen.
Large Language Models wie ChatGPT haben in der jüngsten Vergangenheit viel Aufmerksamkeit auf sich gezogen. Um die vollständige Daten- und Modellhoheit bei der Verwendung von intelligenten Sprachassistenten zu bewahren, sind On-premises Lösungen unerlässlich.
Der Vortrag stellt Lösungsansätze vor, wie mit einer lokal gehosteten, datenschutzkonformen Anwendung erfolgreiches und nachhaltiges Wissensmanagement im Unternehmen betrieben werden kann, ohne mit dem Datenschutz in Konflikt zu geraten. Es werden Limitationen im Vergleich zur Nutzung von Cloudlösungen aufgezeigt, Hardwareanforderungen für die Handhabung von 100 parallelen Zugriffen erläutert und Einflussfaktoren auf die Qualität der Antworten diskutiert. Zusätzlich wird die Bedeutung einer geeigneten Dokumentenstruktur und einer automatisierten Erfassung der Dokumentenqualität betont. Des Weiteren wird dargelegt, wie ein solches System im Rahmen eines Qualitätsmanagements evaluiert werden kann und wie zusätzliche Sprachen integriert werden können. Durch praxisorientierte Ansätze werden Lösungsansätze für Herausforderungen aufgezeigt.