Die Tagung wurde mit einem Grußwort von der Vize-Präsidentin der Universität Potsdam, Dr. Britta van Kempen, eröffnet.
Im Anschluss hielt Prof. Dr. Hannah Ruschemeier die Keynote "AI and Human Rights: Normative Challenges". Sie betonte die Notwendigkeit, KI als soziotechnische Entwicklung zu begreifen, die von kapitalistischen Logiken und strukturellen Machtasymmetrien beeinflusst wird. Vor diesem Hintergrund machte sie auf die zunehmende Macht großer Technologieunternehmen und deren Einfluss auf regulatorische Prozesse aufmerksam. Die anschließenden Fachpanels boten eine breite Diskussion über verschiedene Aspekte des Zusammenspiels von KI und Menschenrechten. Im Bereich Gesundheitswesen thematisierten Prof. Dr. Niclas Boemer und Peter Schaar ethische und technische Fragen des KI-Einsatzes. Schaar betonte die zentrale Bedeutung des Datenschutzes bei der Vielzahl technischer Errungenschaften, während Boemer auf Verzerrungen in KI-Modellen und deren Auswirkungen auf Diagnose- und Behandlungsentscheidungen einging. Er diskutierte die Problematik von Black-Box-Algorithmen und die Schwierigkeit, Erklärbarkeit und Effizienz in Einklang zu bringen. Einig waren sich die Referenten, dass eine verantwortungsvolle Implementierung essenziell ist, um Transparenz, Fairness und ethische Standards zu gewährleisten. Auch die Einsatzmöglichkeiten und Risiken von KI im Bereich Klimaschutz wurden beleuchtet. Prof. Dr. Lynn Kaack zeigte auf, wie KI zur Optimierung von Energiepolitik und Klimaschutzmaßnahmen beitragen kann. Nicolas Alder lenkte den Fokus auf die Kehrseite dieser Entwicklung: den steigenden Energieverbrauch von KI-Systemen. Paul Schütze hinterfragte das Konzept nachhaltiger KI und betonte, dass KI Systeme tief in kapitalistische Strukturen eingebettet sind, die Gewinnmaximierung über ethische und nachhaltige Ziele stellen. Nachhaltige KI müsse daher soziale, ökologische und wirtschaftlicheVerantwortung vereinen. Ein weiterer Schwerpunkt lag auf der algorithmischen Fairness in Asylverfahren. Dr. Francesca Palmiotto analysierte den Einsatz von KI in Asylverfahren und betonte die damit verbundenen menschenrechtlichen Risiken. Automatisierte Systeme werden bereits in verschiedenen Verfahrensstufen genutzt, etwa bei der Dokumentenprüfung oder Fallbearbeitung, bergen jedoch Gefahren für Datenschutz, Transparenz in den Entscheidungsprozessen und Nichtdiskriminierung. Prof. Dr. Manuel Brunner und Hadi Al-Khatib diskutierten die ambivalente Rolle von KI zur Verteididung von Menschenrechten. Während KI zur Dokumentation von Menschenrechtsverletzungen genutzt werden kann, birgt sie zugleich Risiken durch Überwachung und Zensur. Al-Khatib zeigte dies am Beispiel des Syrian Archive, das KI nutzt, um Beweise für Kriegsverbrechen zu sichern. Zudem verdeutlichte die Tagung, dass die Regulierung von KI eine besondere Herausforderung darstellt. Dringend erforderlich seien kohärente rechtliche Rahmenbedingungen, die technologische Entwicklungen erfassen und zugleich Grundrechte wirksam schützen. In diesem Zusammenhang unterstrichen Dr. William Letrone, Dr. Tony Cabus und Jaspar Finke die zentrale Rolle flexibler Regulierungsansätze, die mit der Dynamik von KI-Systemen Schritt halten und gleichzeitig effektiven Rechtsschutz gewährleisten.
Ergänzend zur Tagung bot zudem ein PhD-Panel internationalen Nachwuchsforschenden die Möglichkeit, ihre aktuellen Arbeiten im Spannungsfeld von KI und Menschenrechten vorzustellen. Thematisiert wurden u.a. autonome Waffensysteme und das Problem ihrer Regulierbarkeit, die Implikationen des risikobasierten Ansatzes des EU AI Acts sowie die rechtliche und gesellschaftliche Dimension von Blockchain-Technologien.