Die Fortschritte in der Computer Bildverarbeitung haben die Automatisierung der Klassifizierung ermöglicht, und unser Alltag wird zunehmend von Maschinen beeinflusst, die Menschen klassifizieren. Die automatisierte Klassifizierung ist jedoch weder neutral noch objektiv. KI-gestützte Wahrnehmung wird auf visuellen Daten trainiert, und diese Datensätze beinhalten immer auch Weltanschauungen. Bis vor kurzem wurde der Kuratierung und Kommentierung visueller Datensätze für das maschinelle Lernen bei der Modellbildung nur wenig Bedeutung beigemessen, doch eine Reihe von künstlerischen Forschungsarbeiten war einflussreich, um zu zeigen, wie schädlich voreingenommene Trainingssätze für eine diskriminierende Klassifizierung sind. Voreingenommenes maschinelles Sehen ist besonders schädlich für diejenigen, die bereits von der Gesellschaft ausgegrenzt werden. Die Klassifizierung ist jedoch auch eine sehr menschliche Angelegenheit. Daten müssen auf irgendeine Weise klassifiziert werden, um nützlich zu sein. In der maschinellen Bildverarbeitung beinhaltet dies in der Regel eine Bildbeschriftung. In diesem Workshop untersuchen wir daher die Verzerrung von Datensätzen aus der Perspektive der Bildbeschriftung. Wie wird ein Bild mit einem Label versehen?

Als Ausgangspunkt für unsere Untersuchungen nehmen wir das Kunstwerk "Suspicious Behavior" - ein spekulatives Annotations-Tutorial - und reale visuelle Datensätze, die zur Klassifizierung von anomalem Verhalten in Überwachungsfilmen verwendet werden. Wir erforschen, wie die Datensätze klassifiziert werden, indem wir den Rhythmus der On-Demand-Annotation durch die Crowd verkörpern und die Verzerrung der Datensätze durch die Eingabe von Annotationsanweisungen in KI-Bildgeneratoren rückgängig machen.

Praktische Übungen sollen zu einer kritischen Diskussion über die Verzerrung von Datensätzen und die Ethik der KI anregen. Gemeinsam entwickeln wir algorithmisches Wissen darüber, wie die Klassifizierung von Datensätzen die KI-gestützte Wahrnehmung beeinflusst. Der Workshop setzt keine technischen Vorkenntnisse voraus und richtet sich an alle, die sich kritisch mit den Fortschritten der künstlichen Intelligenz auseinandersetzen wollen.

Um Anmeldung wird gebeten: discourse@elevate.at