(Un)trustworthy AI

“The danger isn’t that AI destroys us. It’s that it drives us insane.” Jaron Larnier

Künstliche Intelligenz ist kein neutraler Fortschritt, sondern eine Kampfzone. Sie wird nicht einfach entwickelt, um unser Leben zu erleichtern, sondern von den mächtigsten Konzernen unserer Zeit geformt, die Interessen verfolgen, die oft nicht mit den Bedürfnissen der Gesellschaft und den Grenzen des Planeten übereinstimmen. Wo KI-Systeme in der Lage sind, Täuschungen und Lügen in bisher unvorstellbarem Ausmaß zu verbreiten, geht es nicht um blindes Vertrauen in „Trustworthy AI“; ein Begriff, der längst von PR-Kampagnen der Big-Tech-Unternehmen vereinnahmt wurde. Es geht darum, die Infrastruktur und Regeln zu hinterfragen, die diese Systeme formen.

Dieses Panel versammelt Expert:innen, die sich dem unkritischen Vertrauen in KI und den dahinter stehenden Machtstrukturen entgegenstellen. Irma Mastenbroek, Expertin für globale KI-Standards und Aktivistin für queere und feministische Tech-Politik, plädiert für verantwortungsvolle Entwicklung und die Einhaltung technischer Standards, die soziale Gerechtigkeit fördern. Lajla Fetic, Spezialistin für Tech-Governance, analysiert die gesellschaftlichen Folgen von KI und fordert klare Regeln für Transparenz und Verantwortlichkeit. Alfred Ongere, Gründer von AI Kenya, zeigt, wie KI in Ostafrika als Werkzeug für Bildung und Demokratie und gegen Korruption eingesetzt wird – und wie wichtig es ist, lokale Communities in die Gestaltung der Technologie einzubeziehen.

Die Diskussion, moderiert von Christoph Weiss alias Burstup, wird zentrale Fragen zur Vertrauenswürdigkeit von KI und den Menschen, die sie entwickeln, aufwerfen: Wie definieren wir „vertrauenswürdig“ in einem technologischen Kontext? Welche globalen Unterschiede gibt es in der Wahrnehmung und Gestaltung von KI? Welche globalen Mechanismen können Transparenz und Gerechtigkeit in einer technologiegetriebenen Welt sichern? Ist Vertrauen in die Technologie überhaupt das Ziel – oder sollte es vielmehr um Vertrauen in die Menschen, Prozesse und Werte gehen, die diese Technologie gestalten?