Hinweis: Die Veranstaltung wird hybrid stattfinden. Bei Interesse daran online teilzunehmen, wenden Sie sich für den Teams-Einwahlcode bitte an zaki@host.fra-uas.de.
In einer Werkstattpräsentation stellen wir Arbeiten mit großen Sprachmodellen (Large Language Models) aus dem Masterstudiengang Wirtschaftsinformatik des vergangenen Semesters vor:
- ChatLLM: Diese prototypische Anwendung ermöglicht den Zugriff auf LLMs verschiedener Anbieter (z. B. GWDG, OpenAI, Frankfurt UAS, Microsoft, Google). Eine kuratierte Prompt-Bibliothek hilft bei der Erstellung von Anfragen, und eine Auswahlhilfe unterstützt bei der Wahl geeigneter Sprachmodelle und Anbieter. ChatLLM wurde auf Basis von HAWKI 2 (HAWKünstliche Intelligenz) entwickelt, einer weit verbreiteten Open-Source-Plattform für LLM-Clients an deutschen Hochschulen. Wir stellen ChatLLM ähnlichen Anwendungen wie Fran.KI oder ChatAI (Angebot der GWDG) gegenüber, die für Angehörige unserer Hochschule mittlerweile verfügbar sind.
- OpenWebUI: Diese vielseitige und skalierbare Anwendung ermöglicht den Zugriff auf zahlreiche LLMs, sowohl von verschiedenen Anbietern als auch lokal gehostet über Ollama. Wir beleuchten ausgewählte Unterschiede zwischen einem Hosting mit Ollama bzw. vLLM. Die erweiterten RAG-Fähigkeiten von OpenWebUI zeigen wir anhand von Beispielen mit einem Add-in für MS Office-Anwendungen.
- Recycling Bot: Dieser prototypische Chatbot kann Angehörige der Frankfurt UAS bei der Optimierung der Mülltrennung und der Entsorgung von Gefahrstoffen unterstützen. Die hierfür benötigten Informationen stammen aus heterogenen, teils strukturierten und unstrukturierten Datenquellen, die für eine semantische Suche in einer ChromaDB (Vektordatenbank) und der MariaDB gespeichert werden. Zur Laufzeit erfolgt eine kontextbezogene Anreicherung der Nutzeranfragen durch relevante Informationen aus der Vektordatenbank (RAG), die anschließend an verschiedene Large Language Models (LLMs) von OpenAI zur Antwortgenerierung übergeben werden. Die Dialogsteuerung der Pipeline erfolgt über LangChain, was komplexere Anfragen, mehrstufige Dialoge und die Nachbereitung der Antworten ermöglicht.
Wir freuen uns auf Ihre Teilnahme und eine interessante Diskussion!
Wir bitten um Anmeldung per Mail unter: zaki(at)host.fra-uas.de bis zum 18.11.2025.