Das Projektseminar beschäftigt sich mit der Frage, inwieweit Large Language Models (LLMs) in der Lage sind, Aufgaben der räumlichen Vorstellung zu lösen. Zu Beginn werden theoretische Grundlagen zu Spatial Reasoning, zu LLM-Architekturen sowie zu Evaluations- und Interpretationsmethoden in Kurzvorträgen erarbeitet und vorgestellt. Im praktischen Teil entwickeln die Teilnehmenden gemeinsam ein experimentelles System, das auf einem eigens entworfenen Benchmark-Datensatz basiert. Darauf aufbauend werden verschiedene Modellvarianten (u.a. Prompting-Strategien, Fine-Tuning kleiner Modelle, Reasoning-Modelle trainiert auf entsprechenden Traces) verglichen und evaluiert. Dabei werden auch Methoden zur Analyse der interner Repräsentationen der Neuronalen Netze eingesetzt, um das räumliche „Verständnis“ der Modelle zu untersuchen.

Das Projektseminar bietet den Studierenden eine forschungsnahe Möglichkeit, sich vertieft mit einem aktuellen Thema der KI auseinanderzusetzen und praktische Erfahrung in der systematischen Entwicklung und Evaluation von LLM-basierten Systemen zu sammeln. Es ist ausgerichtet auf eine Gruppe bis 8 Studierende – idealerweise mit Vorkenntnissen im Bereich Machine Learning und Python.

Kurs im HIS-LSF