Künstliche Intelligenz

Was kann KI leisten und welche vormals menschlichen Aufgaben könnte sie übernehmen? Inwieweit sollte sie das tun oder tun dürfen und welche Konsequenzen hätte und hat dies?

Ein abstraktes Foto von kreisförmigen Lichtzeichnungen
Foto: Gertrūda Valasevičiūtė

Künstliche Intelligenz („KI“) ist in aller Munde. Ihre potentiellen und tatsächlichen Anwendungen sind Legion, etwa im Bereich der Medizin, Industrie, Stadtplanung oder Rechtsanwendung. Die verschiedenen Wissenschaftszweige diskutieren nicht nur, was KI leisten und welche vormals menschlichen Aufgaben sie übernehmen könnte, sondern auch, inwieweit sie das tun sollte oder darf und welche Konsequenzen dies hätte und hat. Dabei hat jede Wissenschaft ihre eigenen Zugänge zum Thema KI gefunden.

Die AG Künstliche Intelligenz der Jungen Akademie möchte sich dem Thema über konkrete Anwendungen von KI-Methoden nähern und so in ein interdisziplinäres Gespräch über die Möglichkeiten und Grenzen ausgewählter KI-Anwendungen kommen. Dabei möchte die AG auch technologisch, sozialwissenschaftlich und rechtlich informierte Regulierungsvorschläge für den KI-Einsatz diskutieren.

Entsprechend ihrer interdisziplinären Zusammensetzung bestimmen ganz unterschiedliche Perspektiven das Interesse der AG.

Die AG beschäftigt sich mit den Voraussetzungen, Potentialen und Konsequenzen des KI-Einsatzes in ausgewählten Anwendungsbereichen. Fragestellungen wären etwa, was eine KI-gestützte Auswertung von digitalen Krankheits- und Patientendaten zur Stellung von Diagnosen oder Verbesserung von Therapien leisten kann. Wie müsste diese aussehen? Welche Anforderungen stellen KI-Innovationen an Datenqualität und Datengenerierung, um ihre Optimierungsversprechen einlösen zu können? Auf dieser Ebene berücksichtigt die AG auch indirekte Konsequenzen des KI-Einsatzes. So stellt sich etwa die Frage, welche „neuen“ Aufgaben für welche Berufsgruppen entstehen, um Daten für KI-Anwendungen zur Verfügung zu stellen („data work“). Wie könnte sich der Einsatz von legal tech auf das Rechtssystem in seiner Gesamtheit, wie autonom fahrende Fahrzeuge auf den Verkehr insgesamt auswirken? Wie verändert der Einsatz von KI in Diagnose und Therapie die Beziehungen der Menschen innerhalb des Gesundheitssystems? Soziologisch interessiert die AG auf dieser Ebene auch die Verbindung von KI mit konkreten Utopien der Optimierung und Innovation. Sie fragt nach der konkreten Richtung dieser Utopien, welche Handlungsalternativen sie eröffnen und verschließen.

In normativer Hinsicht stellt sich die AG die Frage, an welcher Stelle der KI-Einsatz sinnvoll und ethisch und rechtlich möglich erscheint und unter welchen Voraussetzungen. Können die Probleme des KI-Einsatzes in konkreten Anwendungen regulativ eingefangen werden? In welchen Bereichen sind KI-Anwendungen generell zu verbieten? Im obigen Beispiel bleibend: Wie ist mit Fehldiagnosen oder Behandlungsfehler, die auf KI-Anwendungen zurückgehen, umzugehen? Welchen Einfluss dürfen KI-gestützte Systeme auf hoheitliche Entscheidungen nehmen? Welche Vorgaben macht das Datenschutzrecht? Diese Ebene ist also vor allem mit der Regulierung von KI-Anwendungen befasst. Auch dies wird vornehmlich anwendungsbezogen zu diskutieren sein, da der Einsatz von KI-Anwendungen in der Industrieproduktion andere Regulierungsbedürfnisse hervorruft als der Einsatz in der klinischen Diagnostik oder zur Verbrechensbekämpfung.

2022

Workshop „Interdisciplinary Conversations on the Fairness, Explainability and Uncertainty of AI“

Vom 19. – 20. September treffen sich die Mitglieder der AG Künstliche Intelligenz zu einem interdisziplinären Dialog über die Chancen und Grenzen der KI und ihrer Anwendungen. Verschiedene Disziplinen bringen unterschiedliche Perspektiven ein, und ähnlich klingende Konzepte bedeuten nicht unbedingt dasselbe. Selbst wenn die Konzepte in allen Disziplinen gleich sind, können diese sich auf unterschiedliche Aspekte konzentrieren. Der Workshop "Interdisciplinary Conversations on the Fairness, Explainability and Uncertainty of AI" (Interdisziplinäre Gespräche über die Fairness, Erklärbarkeit und Ungewissheit von KI) versucht diese Lücken zu schließen und bringt Forschende aus verschiedenen Disziplinen ins Gespräch über diese drei Hauptkonzepte der aktuellen KI-Forschung.

Zu Beginn jedes der drei Panels (Fairness, Erklärbarkeit und Quantifizierung von Unsicherheit) wird ein Vortrag aus dem Bereich der Informatik oder Statistik eine konzeptionelle Grundlage für den weiteren interdisziplinären Austausch liefern. Im Anschluss daran folgen Präsentationen, die aktuelle Forschungsarbeiten zu den jeweiligen Konzepten aus verschiedenen Disziplinen wie Informatik, Politikwissenschaften, Soziologie, Sozialpsychologie oder Recht widerspiegeln. Jeder Vortrag berücksichtigt den breiten Hintergrund des Publikums, das möglicherweise mit unterschiedlichen Vorannahmen kommt. Die Forschungsgruppe hofft, auf diese Weise eine engagierte interdisziplinäre Debatte über Disziplinen und Anwendungen hinweg anzuregen und den Dialog zwischen Gruppen zu fördern, die inhaltlich an denselben Themen arbeiten.

Der Workshop wird von Nadja Klein und Pascal Langenbach organisiert.

Mit Beiträgen von:

  • Sebastian Lapuschkin
  • Gabrielle Ras
  • Carlos Zednik
  • Katharina Weitz
  • Telmo de Menezese
  • Silva Filho
  • Sebastian Lerch
  • Christian Wirth
  • Asia Biega
  • Nina Grgić-Hlača

2022

Workshop „Künstliche Intelligenz im Biobanking“

Vom 29. - 30. Juli 2022 organisiert die AG Künstliche Intelligenz in Berlin den Workshop „Künstliche Intelligenz im Biobanking“. Ziel ist es, Künstliche Intelligenz und Biobanking zusammenzudenken und in seinen weiterführenden Implikationen zu beleuchten. Dabei soll der Fokus sowohl auf Aspekte wie IT-Prozesse, organisatorische Arbeitsabläufe oder Qualitätsmanagementmaßnahmen, als auch auf übergeordnete Fragestellungen ethischer, rechtlicher und gesellschaftlicher Bedeutung gelegt werden.

Der Workshop wird von Isabel Nahal Schellinger organisiert und findet in Kooperation mit der Zentralen Biobank Charité (ZeBanC) statt.

Mit Beiträgen von:

  • Dr. med. Carol Geppert (MIA) (Institut für Pathologie | Universitätsklinikum Erlagen)
  • Dr. Dr. Christian Matek, M. Sc. (Institut für Pathologie | Universitätsklinikum Erlangen)
  • Prof. Dr. techn. Wolfgang Nejdl (Institut für Verteilte Systeme | Leibniz Universität Hannover)
  • Dr. Christina Schüttler (Central Biobank Erlangen | Universitätsklinikum Erlangen)
  • Thomas Endres und Jonas Mayer (TNG Technology)

Kaminabende

23.03.2022

Bei diesem Kaminabend der AG Künstliche Intelligenz war die Alumna der Jungen Akademie Ulrike von Luxburg zu Gast. Von Luxburg ist Professorin für Informatik an der Universität Tübingen und Fellow am Max-Planck-Institut für Intelligente Systeme. Sie arbeitet zu den theoretischen Grundlagen des maschinellen Lernens und interessiert sich darüber hinaus für den Einfluss der Forschung zu künstlicher Intelligenz (KI) auf die zukünftige Gesellschaft. Die Mitglieder der AG sprach mit Ulrike von Luxburg über ihre Arbeit und die Potentiale und Herausforderungen von KI-Anwendungen für Gesellschaft und Wissenschaft. Dabei interessierte die Mitglieder auch, welche Erfahrungen sie als Wissenschaftlerin in der öffentlichen Diskussion über die gesellschaftliche Bedeutung von KI gemacht hat.

26.01.2022

Gemeinsam mit der Arbeitsgruppe Transfer of Innovation in Academia veranstaltete die AG Künstliche Intelligenz einen winterlichen Kaminabend mit dem Astrophysiker und Erium-Gründer Theo Steininger. Die Mitglieder kamen mit ihm über seinen wissenschaftlich-unternehmerischen Weg ins Gespräch. Dabei ging Theo Steininger unter anderem auf technische, soziale und rechtliche Punkte im Bereich Künstliche Intelligenz ein.

2021/22

Understanding blood-brain dynamics with statistical learning

Das Gehirn dient allein der Kühlung des Blutes - so dachte zumindest Aristoteles. Auch wenn Medizin und Neurowissenschaft seither einige Fortschritte gemacht haben, ist die Dynamik zwischen neuronaler Aktivität und den Schwankungen verschiedener Botenstoffe und Stoffwechselprodukte im Blut noch immer unzureichend verstanden. Der Grund dafür sind u.a. Komplexität und Aufwand einer parallelen Ableitung von Hirn- und Blutparametern über mehrere Stunden, darüber hinaus die Existenz vielfältiger Interaktionen und Feedback-Schleifen zwischen diesen Parametern, die klassische statistische Analysemethoden schnell an ihre Grenzen stoßen lassen.

Im Rahmen des Projektes sollen biomedizinische und mathematisch-statistische Expertisen kombiniert werden, um komplexe Datenstrukturen zu entschlüsseln und zu verstehen. Dafür wurde die neuronale Aktivität und die Dynamik von verschiedenen Blutparametern von Versuchspersonen mit ausgeglichenem Alters- und Geschlechterverhältnis mit parallelen EEG/Blut-Messungen zeitlich erfasst. Schon in kondensierter Form resultieren daraus pro Versuchsperson und Schlafableitung hunderte Momentaufnahmen physiologischer Parameter im Gehirn und Körper. Zum akkuraten Verständnis dieser interaktiven Blut-Hirn-Dynamik bedarf es entsprechend komplexer Modellierung und Analyse sowie Methoden, die für derartige Datenmengen ausreichend skalieren und es erlauben, relevante Einflussgrößen und interpretierbare Effekte zu identifizieren.

Zur Zusammenführung verschiedener Expertisen aus Neurowissenschaft, Medizin, Statistik und Mathematik plant das Projektteam, das aus den Mitgliedern Martin Dresler, Nadja Klein, Isabel Schellinger und Timo de Wolff besteht, gemeinsam mit beteiligten PhDs und Post-Doktorand*innen 2021 und 2022 gegenseitige Besuche und Projekttreffen. Es wird eine gemeinsame Publikation angestrebt.

2020

Workshop „Ki und Hochschule“

Am 10.und 11. Januar 2020 organisiert die AG Künstliche Intelligenz ihren ersten Workshop in Frankfurt am Main mit dem Titel „KI und Hochschule“. Dieser wird sich am ersten Tag mit dem Thema „KI-Forschung trotz Datenschutzgrundverordnung“ befassen. Am zweite Tag wird das Thema „Einsatz von KI im Bildungsbereich“ (sog. Learning Analytics) im Fokus stehen.

Der erste Workshop-Tag startet mit einem Impuls von Prof. Nikolaus Marsch. Marsch lehrt u.a. Verfassungsrecht und Datenschutzrecht an der Universität des Saarlandes und zählt zu den besten Kennern der Materie in Deutschland, hat u.a. zu den grundrechtlichen und europäischen Dimensionen des Datenschutzes habilitiert. Für einen Impulsvortrag zu Learning Analytics am zweiten Tag konnte Prof. Dirk Ifenthaler gewonnen werden. Ifenthaler leitet den Lehrstuhl für Learning, Design and Technology an der Universität Mannheim und ist UNESCO Deputy Chair of Data Science in Higher Education Learning an der Curtin University in Australien. Er ist zudem Herausgeber mehrerer Zeitschriften und Sonderbände zum Thema Learning Analytics und Leiter mehrerer einschlägiger Forschungsprojekte, wie beispielsweise des BMBF-Projekts STELA (Utilizing Learning Analytics for Study Success).

Perspektivisch zielt die AG darauf ab, sich – nicht nur, aber gerade auch – im Bildungsbereich mit konkreten Regulierungsvorschlägen (model rules) wissenschaftspolitisch zu Wort zu melden.

Sprecher*innen

beteiligte Mitglieder

beteiligte Alumni / Alumnae

Aktivitäten

    • Workshop „Interdisciplinary Conversations on the Fairness, Explainability and Uncertainty of AI“

      Mitglieder der AG Künstliche Intelligenz treffen sich zu einem interdisziplinären Dialog über die Chancen und Grenzen der KI und ihrer Anwendungen. Verschiedene Disziplinen bringen unterschiedliche Perspektiven ein, und ähnlich klingende Konzepte bedeuten nicht unbedingt dasselbe. Selbst wenn die Konzepte in allen Disziplinen gleich sind, können diese sich auf unterschiedliche Aspekte konzentrieren. Der Workshop „Interdisciplinary Conversations on the Fairness, Explainability and Uncertainty of AI“ (Interdisziplinäre Gespräche über die Fairness, Erklärbarkeit und Ungewissheit von KI) versucht diese Lücken zu schließen und bringt Forschende aus verschiedenen Disziplinen ins Gespräch über diese drei Hauptkonzepte der aktuellen KI-Forschung.

      Themen:

      eventBeginsOn
      19.09.22
      eventEndsOn
      20.09.22

      Veranstaltungszugang: Intern

      Berlin

    • Workshop „Künstliche Intelligenz im Biobanking“

      In diesem Workshop möchten Mitglieder der AG Künstliche Intelligenz Biobanking und Künstliche Intelligenz stärker zusammendenken. Es sollen weitere Anwendungsfelder identifiziert werden, um mit Hilfe von Künstlicher Intelligenz das Biobanking zu optimieren und in seinen weiterführenden Implikationen zu beleuchten. Dabei soll der Fokus sowohl auf Aspekte wie IT-Prozesse, organisatorische Arbeitsabläufe oder Qualitätsmanagementmaßnahmen, als auch auf übergeordnete Fragestellungen ethischer, rechtlicher und gesellschaftlicher Bedeutung gelegt werden.

      Themen:

      eventBeginsOn
      29.07.22
      eventEndsOn
      30.07.22

      Veranstaltungszugang: Intern

      Berlin

    • Planungstreffen für den Workshop „Fairness, Explainability, Uncertainty & AI"

      In Vorbereitung auf den Workshop „Fairness, Explainability, Uncertainty & AI” im Frühjahr 2022 treffen sich die Mitglieder der Arbeitsgruppe Künstliche Intelligenz via Zoom.

      Themen:

      eventBeginsOn
      15.12.21

      Veranstaltungszugang: Intern

      Online

      16:00 — 17:00

    • Medizinische Diagnostik, Polizeieinsätze, demokratische Willensbildung - nicht ohne KI

      Auf dem Sommerplenum wurde die Arbeitsgruppe „Künstliche Intelligenz“ gegründet. Was die Ziele der AG sind, klärt unser Interview.

      Themen:

      date
      06.08.19