Das GOAL-Projekt ist auch auf Twitter: GOAL-Projekt

Online-Beteiligung zu KI-Enquete-Kommission

Noch bis zum 5. April können interessierte Bürger*innen und Expert*innen bei der vom Bundestag eingesetzten Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ mitdiskutieren. Frau Prof. Dr. Katharina Zweig (TU Kaiserslautern; Projektpartnerin von GOAL) ist Mitglied dieser Kommssion in den Projektgruppen KI und Medien sowie KI und Staat. Die Webseite ist abrufbar unter: https://enquetebeteiligung.de/

 

Stellungnahme zu White Paper der EU-Kommission

Mehrere wissenschaftliche MitarbeiterInnen des GOAL-Team des ITM der WWU Münster haben zu dem White Paper und zu der europäischen Datenstrategie der EU-Kommission Stellung genommen.

Eine vollständige Version der Stellungnahme findet sich unter: Fundamentalkritik

 

Kickoff und Workshop am 24.-25.02.2020 in Kaiserslautern

Am 24. und 25. Februar fand am Algorithm Accountability Lab der Technischen Universität Kaiserslautern das gemeinsame Kickoff-Meeting der Projektpartner:innen mit dem DLR und ein Face-to-Face Workshop statt.

Am ersten Tag stellten die Partneruniversitäten nach einer kurzen Vorstellungsrunde ihre Arbeitsschwerpunkte vor, beleuchteten das Projekt von ihrem Forschungsansatz und informierten über den aktuellen Stand ihrer Arbeit. Der DLR informierte dabei über das Zuwendungsrecht. Zunächst erläuterte Frau Prof. Dr. Katharina Zweig, Leiterin des Algorithm Accountability Labs (AAL), ihre aktuellen Forschungsansätze. Dabei ging sie insbesondere auf die Diskussion um einen neuen „Fairness-Maßstab“ und die Entwicklung einer neuen Risikomatrix ein. Anschließend berichtete Dr. Carsten Orwat über aktuell veröffentlichte Papiere der EU-Kommission und deren Bedeutung für das GOAL-Projekt. Es sei insbesondere herauszuarbeiten, welche passenden Governance-Instrumente und -Ansätze es für Regulierungsmöglichkeiten gäbe. Dabei ging er noch einmal auf die Bedeutung der interdisziplinären Ausrichtung des Projekts ein. Frau Prof. Dr. Judith Simon von der Universität Hamburg wurde via Video-Konferenz zu dem Treffen hinzugeschaltet und berichtete über den aktuellen Stand ihres Teams. Die Literaturrecherche und -systematisierung sei abgeschlossen, sodass man nun mit der inhaltlichen Arbeit beginne. Für das ITM stellte Herr Matthias Haag die Zwischenergebnisse vor. Dabei ging er vor allem auf den bisherigen Forschungsstand, die aktuelle Öffentlichkeitsarbeit, sowie erfolgte und anstehende Publikationen des ITM ein. Herr Nicholas Schmidt von der Ruhr-Universität Bochum stellte den Fortschritt der Fallstudie in Form der Newsfeed-App vor. Dabei ging er insbesondere auf das geplante Design des Experiments sowie auf die verschiedenen eingesetzten Elemente zur Verhaltenssteuerung ein.

Abschließend informierten Herr Mader und Herr Nordengrün von dem DLR über die allgemeinen Strukturen des Projekts. Dabei gingen sie insbesondere auf das Finanzierungswesen und Berichtwesen ein und gaben hilfreiche Hinweise an alle Projektpartner:innen.

Am zweiten Tag fand unter der Leitung von Frau Prof. Dr. Zweig ein anregender Face-to-Face Workshop mit innovativen Themen statt. Dabei wurde in mehreren Themengebieten die informationstechnischen Grundlagen dargestellt und notwendigen statistischen Grundlagen vermittelt. Im Anschluss an eine Begrenzung des Anwendungsbereichs von ADM-Systemen stellte Frau Prof. Dr. Zweig die strukturellen Unterschiede verschiedener informationstechnischer Modelle für Entscheidungssysteme dar. In diesem Zusammenhang erfolgte auch eine Einführung in die Lernmethode von künstlichen neuronalen Netzen. Hierbei wurde auch auf die verschiedenen Qualitätsmaße eingegangen, auf die ein ADM-System optimiert werden kann.

In einer weiteren Einheit stellte Frau Prof. Dr. Zweig das von ihr entwickelte Kritikalitätsmodell und dessen Grundlagen dar. Hierbei wurde auch eine Möglichkeit aufgezeigt, die im Rahmen des Einsatzes von ADM-Systemen bestehenden Verantwortlichkeiten zuzuweisen. Sie erläuterte, inwieweit gesellschaftliche Grundentscheidungen im Rahmen von KI-Systemen notwendig sind und an welchen Stellen ihrer Entwicklung und ihres Einsatzes diese implementiert werden können. Dabei wurde die Signifikanz einer sozioinformatorischen Gesamtbetrachtung deutlich. Gleichzeitig wurde das Kritikalitätsmodell im Rahmen einer ökonomischen Analyse eingeordnet. Zudem stellte Frau Prof. Dr. Zweig anhand eines Entscheidungsbaumes anschaulich die Kategorisierung der ersten beiden Stufen des Kritikalitätsmodelles dar. Sie führte insbesondere die Notwendigkeit von Transparenz- und Nachvollziehbarkeitsmechanismen dar. Hierauf aufbauend wurde weiteres Arbeitsmaterial für eine vertieftere Auseinandersetzung.

Die GOAL-Teilnehmer:nnen möchten sich hiermit sehr herzlich bei Frau Prof. Dr. Zweig und ihrem Team (Herr Marc Hauer und Herr Tobias Krafft) für deren Gastfreundschaft und den sehr kompetenten und informativen Workshop bedanken, sowie bei Herrn Marder und Herrn Nordengrün vom DLR für deren zahlreiche Hinweise.

 

Veröffentlichung von Prof. Grunwald zu KI

Herr Prof Dr. Armin Grunwald (ITAS/Karlsruhe) hat ein neues Buch zur KI-Forschung veröffentlicht „Der unterlegene Mensch. Die Zukunft des Menschen angesichts von Robotern, Algorithmen und Künstlicher Intelligenz“ München: riva 2019. Weiterführende Informationen finden sich unter: http://www.itas.kit.edu/pub/m/2018/grun18b_buchinfo.htm

Vortrag im Mai 2020 von Prof. Simon

Frau Prof. Dr. Judith Simon (Universität Hamburg; Projektpartnerin von GOAL) wird am 8. Mai 2020 ab 17:30 Uhr einen Vortrag in Hamburg zu dem Thema „Was soll die Ethik in der Informatik?“ halten. Der Vortrag befasst sich mit dem Zugang zur Ethik bei Informationstechnologien insbesondere hinsichtlich von Big Data und Künstlicher Intelligenz.

Weiterführende Informationen finden sich unter: https://hul-ringvorlesung.blogs.uni-hamburg.de/2019/10/prof-dr-judith-simon-was-soll-die-ethik-in-der-informatik/

Ernennung in den D64-Beirat von Prof. Simon

Frau Prof. Dr. Judith Simon (Universität Hamburg; Projektpartnerin von GOAL) ist in den Beirat von D64 – Zentrum für digitalen Fortschritt e. V ernannt worden. Der Beirat soll dabei helfen die digitale Transformation in Deutschland voranzubringen.

Weiterführende Informationen finden sich unter: https://d-64.org/neuer-beirat-2020/

Vortrag und Workshop im Januar 2020 von Prof. Simon

Frau Prof. Dr. Judith Simon (Universität Hamburg; Projektpartnerin von GOAL) hat am 29. Janauar 2020 einen Vortrag in Weimar zu dem Thema »Entscheiden jetzt die Algorithmen? Zur Normativität des Digitalen« gehalten und am 30. Januar 2020 einen Workshop zu dem Thema »Die Normativität des Digitalen« ebenfalls in Weimar durchgeführt.

Weiterführende Informationen finden sich unter: https://www.uni-weimar.de/de/universitaet/aktuell/bauhausjournal-online/titel/normativitaet-des-digitalen-abendvortrag-und-workshop-mit-bauhaus-gastprofessorin-prof-dr-judit/

Vortrag von Prof. Zweig

Frau Prof. Dr. Katharina Zweig (TU Kaiserslautern; Projektpartnerin von GOAL) hat am 28. Januar 2020 auf dem 14. Europäischen Datenschutztag in Berlin einen Vortrag gehalten und an einer Podiumsdiskussion teilgenommen. Im Rahmen ihres Beitrages hat sie zu der Regulierung von KI Stellung genommen.

Das Tagungsprogramm ist abrufbar unter: https://www.datenschutzkonferenz-online.de/media/index/flyer_14_europaeischer_datenschutztag_2020.pdf

Neue Publikation des ITM

Herr Prof. Dr. Hoeren (WWU Münster; Projektpartner von GOAL) hat im Rahmen einer internationalen Veröffentlichung vom Januar 2020 in „Data Protection in the Internet“ (Herausgeber: Moura Vicente, Dário/ de Vasconcelos Casimiro, Sofia) einen Beitrag zu den Themenkomplexen des GOAL-Projektes verfasst.

Weitere Informationen über den Beitrag befinden sich unter: https://www.springer.com/gp/book/9783030280482

Enquete-Kommission KI

Am 18. Dezember 2019 hat die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ des Deutschen Bundestages eine Zusammenfassung der vorläufigen Ergebnisse der Projektgruppe „KI und Staat“ veröffentlicht. Frau Prof. Dr. Katharina Zweig (TU Kaiserslautern; Projektpartnerin von GOAL) ist Mitglied dieser Projektgruppe und Mitglied der Enquete-Kommission.

Das Dokument ist abrufbar unter: https://www.bundestag.de/resource/blob/672932/8dafccf73bce9d9560223d1683d82cb9/PG-2-Projektgruppenbericht-data.pdf

Vorträge zu  Goal-Themen an der WWU Münster

Am 13.1.2020 haben Herr Johannes Kevekordes (wissenschaftlicher Mitarbeiter, GOAL-Projekt) und Herr Zhang Kaiye (Promotionsstudent an der School of Law der Tsinghua University in China, Gastwissenschaftler am ITM) Vorträge vor Zuhörer*innen aus der Studierendenschaft und Wirtschaft zu Themen des GOAL-Projektes gehalten. Die Vorträge fanden außerordentliche Begeisterung unter den Zuhörer*innen.

Weitere Informationen zu den Vorträgen finden sich unter: https://www.itm.nrw/vortraege-zu-aktuellen-fragen-im-informationsrecht/

Kickoff-Meeting GOAL

Am 11. Dezember fand am Institut für Informations-, Telekommunikations- und Medienrecht (ITM) in Münster das Kickoff-Meeting des vom Bundesministerium für Bildung und Forschung geförderten interdisziplinären Projekts „GOAL – Governance von und durch Algorithmen“ statt. Dabei gingen die Vertreter der verschiedenen Partneruniversitäten auf ihre Rolle im Projekt ein und präsentierten die verschiedenen Blickwinkel und Ansätze ihrer Fachrichtung zu dem Thema.
Zunächst erläuterten Prof. Dr. Hoeren, Verena Vogt, Johannes Kevekordes und Yannik Borutta vom ITM den Hintergrund des Projekts. Der zunehmende Einsatz von Algorithmen sorge für Chancen, stelle die Gesellschaft aber auch vor Herausforderungen. Ziel des Projekts sei daher insbesondere die Identifikation von Handlungserfordernissen und Entwicklung von Handlungsoptionen für den Umgang mit Algorithmen. Das ITM nehme insbesondere die Rolle als Projektkoordinator ein und befasse sich mit den rechtlichen Fragestellungen.
Im Anschluss trug Prof. Dr. Ingrid Schneider von der Universität Hamburg vor, dass ihre Hauptaufgabe die Erarbeitung der ethischen und politischen Herausforderungen sei. Sie betonte, dass es aus einer ethischen Perspektive entscheidend sei, Werte im Umgang mit Algorithmen klar zu definieren und das Verhältnis der Werte zueinander festzulegen.
Prof. Dr. Katherina Zweig von der Technischen Universität Kaiserslautern erläuterte die grundlegenden technischen Begrifflichkeiten, da im allgemeinen Sprachgebrauch viel Verwirrung herrsche. Auch stellte sie aktuelle Phänomene vor, die bei der Implementierung algorithmischer Systeme auftreten.
Dr. Christina Timko und Nicholas Schmidt von der Ruhr-Universität Bochum stellten insbesondere die Idee der Durchführung einer Fallstudie anhand einer Newsfeed-App vor, die zum Ziel hat, durch verhaltenssteuernde Elemente die Interaktion zu erhöhen. Sie zeigte auch einen ersten Designentwurf der App.
Dr. Carsten Orwat zeigte auf, dass bei Vorliegen von Wertekollisionen die Interessenabwägungen häufig den Verwendern algorithmischer Systeme überlassen werden. Dies muss bei der Ausarbeitung neuer Governanceoptionen Berücksichtigung finden.
Am Nachmittag wurden noch vielfältige organisatorische Fragen geklärt, unter anderem rund um die geplante Summer School, welche im Sommer 2020 als mehrtägige Veranstaltung geplant ist.
Zusammenfassend lässt sich sagen, dass sich alle Partner auf ein spannendes Projekt und die intensive Zusammenarbeit freuen, aus welcher sich alle Fachbereiche einen deutlichen Vorteil bei der Erarbeitung des komplexen Forschungsthemas erhoffen.

Goal-Tagung „Künstliche Intelligenz und Recht – Gegenwart und Zukunft“

Am 6. November fand im Erbdrostenhof in Münster die vom ITM und der RWTÜV Stiftung ausgerichtete Tagung „Künstliche Intelligenz und Recht – Gegenwart und Zukunft“ statt. Referentinnen und Referenten aus Wissenschaft und Industrie präsentierten aus rechtlichen und technischen Blickwinkeln aktuelle Trends und Fragestellungen aus dem Bereich Künstlicher Intelligenz. Die Tagung bot auch dem GOAL-Projekt einen ersten Austausch der Projektpartner mit Experten aus dem Bereich der Algorithmenforschung.

Die rund 150 Teilnehmerinnen und Teilnehmer wurden zunächst von Prof. Dr. Karl Friedrich Jakob, Vorsitzender des Vorstands der RWTÜV Stiftung, begrüßt. Im Anschluss referierte Dr. Nikolas Guggenberger, ehemaliger Juniorprofessor am ITM, über das Problem der Diskriminierung durch Algorithmen Zudem stellte er das GOAL-Projekt vor. Dr. Rainer Baumgart, ehemals CEO der secunet AG, stellte den regulierungsrechtlichen Rahmen für die Sicherheit im Cyberraum vor. Mit dem Spannungsverhältnis zwischen Künstlicher Intelligenz und Datenschutz befasste sich Prof. Vigjilenca Abazi von der Universität Maastricht.

Nach der Mittagspause, in der sich die Tagungsteilnehmer bereits angeregt über die Vorträge austauschten, nahm sie Prof. Dr. Maximilian Herberger mit auf eine Zeitreise durch die Entwicklungsgeschichte von Expertensystemen in den letzten fünf Jahrzehnten. Die technischen Grundlagen von Machine-Learning-Systemen und ihre fehlende sicherheitstechnische Überprüfbarkeit erläuterte Dirk Kretzschmar, Geschäftsführer der TÜV Informationstechnik GmbH. Im letzten Vortrag beschäftigte sich Marco Müller-ter Jung, Rechtsanwalt bei DWF Germany, mit haftungsrechtlichen Fragen bei Schäden, die durch KI-Anwendungen verursacht wurden. Die Tagung endete mit einer Podiumsdiskussion mit Frau Elrifai (Gnosis/Berlin) und Frau Mulder (Münster) unter der Leitung von Prof. Dr. Thomas Hoeren.

Im Anschluss an die Vorträge entwickelten sich spannende Diskussionen bei der Beantwortung der Fragen der Teilnehmenden durch die Referentinnen und Referenten. Die Veranstaltung gab interessante Einblicke in Themengebiete rund um Künstliche Intelligenz sowie Impulse für deren weitere Erforschung. Mit dem kürzlich angelaufenen interdisziplinären Forschungsprojekt „GOAL“ (Governance von und durch Algorithmen) werden die Themen Künstliche Intelligenz und Algorithmen am ITM in Zukunft weiterhin eine prominente Rolle einnehmen. An dem vom Bundesministerium für Bildung und Forschung geförderten Projekt sind fünf deutsche Hochschulen als Partner beteiligt, die die Forschungsbereiche Informatik, Rechtswissenschaften, Ethik, Verwaltungswissenschaften und Ökonomie abdecken. Im Rahmen von GOAL sollen  unter anderem internationale Workshops mit externen Experten stattfinden sowie eine Fallstudie mit einer selbst entwickelten App durchgeführt werden.

Prof. Simon veröffentlicht Gutachten

Am 23. Oktober 2019 hat die von der Bundesregierung eingesetzte Datenethikkommission ihr Gutachten veröffentlicht. Frau Prof. Dr. Judith Simon (Universität Hamburg; Projektpartnerin von GOAL) ist Mitglied der Datenethikkommission. In dem Gutachten sind umfangreiche Empfehlungen zum Umgang mit algorithmischen Systemen enthalten. Die Handlungsempfehlungen der Kommission werden in der nächsten Zeit den Diskurs über die Regulierung von KI prägen. Der Bericht der DEK ist abrufbar unter: https://www.bmi.bund.de/DE/themen/it-und-digitalpolitik/datenethikkommission/arbeitsergebnisse-der-dek/arbeitsergebnisse-der-dek-node.html

Neue Publikation von Prof. Zweig

Am 15. Oktober 2019 ist das Buch von Frau Prof. Dr. Katharina Zweig (TU Kaiserslautern; Projektpartnerin von GOAL) „Ein Algorithmus hat kein Taktgefühl“ im Heyne-Verlag erschienen. Das Buch richtet sich an alle Leser*innen, welche einen ersten Zugang zu den Themen: KI, Big Data und Algorihtmen erhalten möchten.

Mehr Informationen zu dem Buch finden sich unter: https://www.uni-kl.de/pr-marketing/news/news///ein-algorithmus-hat-kein-taktgefuehl/

Internationaler Vortrag von Projektpartnerin

Frau Prof. Dr. Ingrid Schneider (Universität Hamburg; Projektpartnerin von GOAL) hat am 26. September 2019 eine Präsentation in Helsinki (Finnland) zu dem Thema “Models for the governance of data economics” bei der internationalen MyData Konferenz gehalten.

Weiterführende Informationen finden sich unter: https://mydata2019.org/presenter/ingrid-schneider/