MARE BALTICUM LECTURE: Künstliche Intelligenz, Big Data und Verantwortung - Interdisziplinäre Herausforderungen im Zeitalter der Digitalisierung


Datum

22./25.11.2019

Zeit

9:00 - 17:00 Uhr

Referent

Prof. Dr. Klaus Mainzer

Teilnehmerzahl

bis max. 30

Ort

IBZ, Bergstraße 7a

Kurssprache

deutsch

Zielgruppe

Promovierende, Postdocs

Teilnahmegebühr*

kostenlos

Thema des Workshops

Jeder kennt sie. Smartphones, die mit uns sprechen, Armbanduhren, die unsere Gesundheitsdaten aufzeichnen, Arbeitsabläufe, die sich automatisch organisieren, Autos, Flugzeuge und Drohnen, die sich selber steuern, Verkehrs- und Energiesysteme mit autonomer Logistik oder Roboter, die ferne Planeten erkunden, sind technische Beispiele einer vernetzten Welt intelligenter Systeme. Aktuelle Schlüsseltechnologien für die KI Entwicklung liegen in den Bereichen Maschinelles Lernen, Big Data Analytik, Text- und Sprachverstehen, Bildverarbeitung, Neurotechnologie und Robotik. Sie betreffen damit nicht nur Technik-, Natur- und Wirtschaftswissenschaften, sondern auch Human- und Geisteswissenschaften.

Machine Learning verändert unsere Zivilisation dramatisch. Wir verlassen uns immer mehr auf effiziente Algorithmen, weil die Komplexität unserer zivilisatorischen Infrastruktur sonst nicht zu bewältigen ist. Aber wie sicher sind KI-Algorithmen? Komplexe neuronale Netze werden mit riesigen Datenmengen (Big Data) gefüttert und trainiert. Die Anzahl der dazu notwenigen Parameter explodiert exponentiell. Niemand weiß genau, was sich in diesen „Black Boxes“ im Einzelnen abspielt. Im Machine Learning benötigen wir mehr Erklärung (explainability) und Zurechnung (accountability) von Ursachen und Wirkungen, um ethische und rechtliche Fragen der Verantwortung (z.B. beim autonomen Fahren oder in der Medizin) entscheiden zu können! 

Seit ihrer Entstehung ist die KI-Forschung mit großen Visionen über die Zukunft der Menschheit verbunden. Sie ist bereits eine Schlüsseltechnologie, die den globalen Wettstreit der Gesellschaftssysteme entscheiden wird. Wie sollen wir unsere individuellen Freiheitsrechte in der KI-Welt sichern? Diese Veranstaltungsreihe zielt ab auf Technikgestaltung: KI muss sich als Dienstleistung in der Gesellschaft bewähren.

Damit unterliegt Künstliche Intelligenz ohne Zweifel dem Prinzip der Verantwortung: Erst der Mensch sollte bestimmen, wie sie eingesetzt wird. Spezialisierung und die damit wachsende Komplexität technischer, sozialer und ökologischer Zusammenhänge führen jedoch zu einer Diffusion von Verantwortung: Der Einzelne ist verstärkt auf die Informationen bzw. Einschätzungen anderer Experten angewiesen. Als Folge ergibt sich die Notwendigkeit der institutionellen Zuschreibung von Verantwortung durch gesetzliche oder vertragliche Bestimmungen, z.B. im Haftungsrecht, und/oder die Zuschreibung der Verantwortung auf kollektive Akteure wie z.B. Unternehmen und Verbände. Allerdings begünstigt die Diffusion von Verantwortung auch klare Rechtsverstöße und Missbrauch von Technik, die in der Öffentlichkeit zu Empörung und Verunsicherung führen. Sicherheit und Vertrauen in Technik sind aber Voraussetzung für die Zukunftsfähigkeit unseres Landes.

Mit Blick auf komplexe KI-Systeme und KI-Infrastrukturen ist der Verantwortungsbegriff zu erweitern. Systemtheoretisch muss neben individueller Verantwortung auch kollektive und kooperative Verantwortung analysiert werden. Dabei sollte Verantwortung auch denjenigen zugeschrieben werden können, die für das Design von KI-Systemen (z.B. Industrie 4.0), die Entstehung von Schnittstellen und den Einsatz der Infrastruktur zuständig sind. Hierbei sind die Grade der Einwirkungsmöglichkeit zu bemessen.

Die Verantwortung für die Zukunft erfordert es, Risiken frühzeitig zu erkennen und zu bewerten. In der Verantwortungsdebatte der Zukunft wurde insbesondere von Hans Jonas das Gebot herausgestellt, solche Handlungen zu unterlassen, die eine existenzielle Gefährdung der Umwelt oder künftiger Generationen nach sich ziehen könnten. Das trifft insbesondere für Künstliche Intelligenz zu. Niemand kann allerdings zukünftige Innovationen wie der Astronom die Stellung eines Planeten voraussagen. Daher wird statt Technologiefolgenabschätzung die Forderung der Technikgestaltung erhoben. Technikgestaltung berücksichtigt in einer Innovation von vornherein soziale, ökologische, ethische und rechtliche Bedingungen – und nicht erst nach einer Entwicklung in der Technologiefolgenabschätzung, wenn „das Kind bereits in den Brunnen gefallen ist“. Technikgestaltung muss verbunden sein mit frühzeitiger Bildung und Ausbildung, um zukünftige Entwickler und Nutzer für diese fachübergreifenden Fragen zu sensibilisieren.

Dazu wird gefordert, das Thema von Ethik und Verantwortung in allen Studiencurricula einer Hochschule, die mit KI-Themen befasst sind, in passenden Lehrformaten abzubilden. Erforderlich ist, den Studierenden aller Fakultäten, die sich mit KI-Themen beschäftigen, in ihren Studiencurricula Raum zu geben, um sich mit den ethischen Fragen der Verantwortung ihrer KI-Forschung beschäftigen zu können. Die Frage der ethischen Verantwortung muss bereits im Studium integriert sein, so wie später ethisch-gesellschaftliche Fragen bereits in der Forschung und Technikentwicklung berücksichtigt werden sollten. Nur so gelingt nachhaltige Technikgestaltung.

Umfang und Inhalt der ethischen Studienformate in den mit KI befassten Studiengängen sollte mit den Studiengangskoordinatoren abgesprochen werden. Die Inhalte müssen neben allgemeinen Grundsätzen an die konkreten ethischen Verantwortungsfragen der einzelnen KI-Studiengänge in Informatik, Ingenieur- und Naturwissenschaften, Medizin und Wirtschaftswissenschaften anschließen. Mit Data Mining und Digital Humanities zieht Machine Learning auch in die Geisteswissenschaften ein.

Ethik sollte also nicht als Innovationsbremse missverstanden werden. Sensibilisierung für Ethik und Verantwortung fördern vielmehr Innovationsvorteile wie z.B. größere Rechtssicherheit und soziale Akzeptanz von KI-Forschung in der Gesellschaft. Im Zentrum steht die internationale Herausforderung, wie KI-Systeme als Dienstleistung von demokratischen Gesellschaften verstanden werden sollen, die sich weiterhin auf ihre individuellen Freiheits- und Menschenrechte berufen wollen. International wird dadurch der Standortvorteil von Regionen gestärkt. Interdisziplinär sollte nicht nur die KI-Technologie in die Fächer einziehen und sie verändern, sondern auch die gesellschaftlichen Verantwortungsfragen berücksichtigen. Schutz von individuellen Freiheitsrechten und sichere Sozialsysteme in einer Marktwirtschaft bleiben auch im Zeitalter von Digitalisierung und Künstlicher Intelligenz hohe Güter, die allen Menschen nützen sollten.

Ablauf des Workshops

Der Workshop richtet sich fach- und fakultätsübergreifend an alle Doktoranden und PostDocs der Universität Rostock. Je nach Nachfrage sollen kleine Arbeitsgruppen („Labs“) gebildet werden, in denen Schwerpunktthemen von KI und Digitalisierung fachübergreifend von Natur-, Technik-, Computer-, Wirtschafts-, Sozial- und Geisteswissenschaftler/innen (auch natürlich Theologen/innen) gemeinsam bearbeitet werden.

Angaben zum Referenten

Klaus Mainzer war nach einem Studium der Mathematik, Physik und Philosophie, Promotion und Habilitation in Münster Heisenbergstipendiat; Professor für Grundlagen der exakten Wissenschaften, Dekan und Prorektor der Universität Konstanz; Lehrstuhlinhaber für Philo-sophie und Wissenschaftstheorie, Direktor des Instituts für Philosophie und Gründungsdirektor des Instituts für Interdisziplinäre Informatik an der Universität Augsburg; Lehrstuhlinhaber für Philosophie und Wissenschaftstheorie, Direktor der Carl von Linde-Akademie und Gründungsdirektor des Munich Center for Technology in Society (MCTS) an der Technischen Universität München. Er ist u.a. Mitglied der Academy of Europe (Academia Euro-paea), der Europäischen Akademie der Wissenschaften und Künste (dort Dekan der Klasse Naturwissenschaften), der Deutschen Akademie der Technikwissenschaften (acatech) (dort Sprecher der Projektgruppe Verantwortung), des Münchner Kreises für Digitalisierung, Gastwissenschaftler am Hausdorff Research Center for Mathematics/Bonn, Gastprofessor und Autor zahlreicher Bücher mit internationalen Übersetzungen. Seit 2016 lehrt er als Emeritus of Excellence an der Technischen Universität München. Seine Forschungsschwerpunkte sind mathematische Grundlagenforschung, Komplexitäts- und Berechenbar-keitstheorie, Grundlagen der Künstlichen Intelligenz, Robotik, Internet der Dinge, Wissenschafts- und Technikphilosophie, Zukunftsfragen der technisch-wissenschaftlichen Welt.