Erfolgreiche Publikation auf Top-Konferenz FAccT

Die beiden Researcher Lukas Daniel Klausner und Martin Lackner vom  Institut für IT Sicherheitsforschung der USTP haben gemeinsam mit Niclas Boehmer, Hasso Plattner Institute, Universität Potsdam und Paul Anton Bachmann, Institute of Logic and Computation, TU Wien ihr Forschungspaper „AI of the People, by the People, for the People: A Social Choice Approach to Collective Control of Artificial Intelligence“ auf der renommierten Konferenz FAccT (Fairness, Accountability, and Transparency) präsentiert. Die FAccT zählt zu den weltweit höchstgerankten Konferenzen im Bereich der verantwortungsvollen und vertrauenswürdigen Künstlichen Intelligenz.

Kollektive Kontrolle künstlicher Intelligenz

In ihrem Beitrag setzen sich die Forscher mit einer der zentralen Fragen der modernen KI-Entwicklung auseinander: Wie kann die Gesellschaft demokratisch Einfluss auf KI-Systeme nehmen? Während bestehende Ansätze vor allem die Steuerung auf gesellschaftlicher oder politischer Ebene betrachten, schlagen Klausner und Lackner einen neuen Weg vor. Ihr Konzept der „kollektiven Kontrolle künstlicher Intelligenz“ basiert auf Methoden der Sozialwahltheorie und ermöglicht es, gesellschaftliche Beiträge entlang des gesamten Entwicklungsprozesses von KI einzubeziehen.Der vorgeschlagene Ansatz sieht vor, kollektive Entscheidungen in allen Phasen der Entwicklung von Machine-Learning-Systemen zu berücksichtigen – von der Auswahl und Erhebung von Daten über die Definition von Zielen bis hin zur Ausrichtung und Bewertung der Systeme. Die Forschenden zeigen, dass die Sozialwahltheorie hierfür einen mathematisch fundierten Rahmen bietet, um unterschiedliche Formen gesellschaftlicher Mitbestimmung zu modellieren und deren Auswirkungen systematisch zu analysieren.

Mit ihrer Arbeit leisten die Autoren einen wichtigen konzeptionellen Beitrag zur Frage, wie KI-Systeme künftig nicht nur technisch leistungsfähig, sondern auch demokratisch legitimiert und gesellschaftlich verantwortungsvoll gestaltet werden können.

Über die FAccT

Die Conference on Fairness, Accountability, and Transparency (FAccT) ist eine international führende, interdisziplinäre Informatikkonferenz. Sie bringt Forschende und Praktiker*innen aus unterschiedlichen Fachrichtungen zusammen, die sich mit Fairness, Transparenz und Rechenschaftspflicht in soziotechnischen Systemen beschäftigen. Die diesjährige Konferenz fand in Montreal, Kanada, statt.