1. Saarland
  2. Merzig-Wadern
  3. Wadern

Können Computer moralische Prinzipien berücksichtigen?

Können Computer moralische Prinzipien berücksichtigen?

Eine Woche lang beschäftigen sich Wissenschaftler aus aller Welt und den verschiedensten Fachbereichen mit der Frage, ob und wie man Computern Moral „beibringen“ kann. Treffpunkt des Seminars ist Schloss Dagstuhl.

Künstliche Intelligenz ist von zunehmender Bedeutung in unserer Gesellschaft. Google und andere Unternehmen entwickeln autonome, selbstgesteuerte Fahrzeuge, das Militär verwendet in zunehmendem Maße unbemannte Drohnen, die mitunter autonome Entscheidungen treffen. Und auf längere Sicht werden autonome Roboter immer mehr Bereiche unseres täglichen Lebens einnehmen, von der industriellen Produktion über die Medizin bis hin zur häuslichen Altenpflege.

Vom 30. Mai bis 3. Juni treffen sich führende Informatiker mit Wissenschaftlern unterschiedlicher Disziplinen auf Schloss Dagstuhl , dem Leibniz-Zentrum für Informatik im nördlichen Saarland, um zu diskutieren, wie man solchen Maschinen menschliche Moral beibringen kann.

Zwangsläufig werden autonome Systeme mit schwierigen Entscheidungen konfrontiert. Das selbstgesteuerte Auto erkennt beispielsweise, dass plötzlich ein Kind auf die Straße läuft, aber ein Ausweichmanöver birgt das Risiko eines Frontalzusammenstoßes mit einem anderen Fahrzeug. Die Drohne erkennt das offiziell vorgegebene Ziel, steht aber vor dem Risiko, Kollateralschäden zu verursachen.

Ein häuslicher Pflegeroboter muss in einem medizinischen Notfall schnell reagieren. In all solchen Fällen muss das autonome System die Frage beantworten: Was ist die richtige Entscheidung? Anders ausgedrückt: Nicht nur Menschen, sondern auch Maschinen, die über künstliche Intelligenz verfügen, können vor moralische Entscheidungen gestellt werden. Wie bringt man solchen Maschinen die Moral bei?

Mit dieser Frage beschäftigt sich diese Woche ein internationales interdisziplinäres Seminar auf Schloss Dagstuhl . Die Teilnehmerinnen und Teilnehmer sind Wissenschaftler aus unterschiedlichen Ländern und kommen aus verschiedensten Fachbereichen: von der Informatik und der Mathematik über die Philosophie und Gesellschaftswissenschaften bis hin zu Wirtschafts- und Rechtswissenschaften. In mehreren Arbeitsgruppen erarbeiten die Teilnehmer die Fragestellung: "Wie macht man Maschinen moralisch?" und "Wie überträgt man menschliche Kriterien der Moral auf künstliche Intelligenz ?"

Um diese Fragen zufriedenstellend zu beantworten, bedarf es systematischer Grundlagenforschung. Auf der einen Seite müssen wir zunächst allgemeingültige moralische Kriterien entwickeln. Was ist in kritischen Fällen überhaupt die moralisch richtige Entscheidung? Auf der anderen Seite müssen wir die Frage stellen, ob solche Kriterien in Form von Computeralgorithmen umsetzbar sind, und - wenn ja - wie man Computern effektiv diese Kriterien "beibringen" kann. Soll man zum Beispiel moralische Kriterien explizit programmieren oder eher flexibel lernende künstliche Intelligenz schaffen, die dann - ähnlich wie kleine Kinder - durch Beobachtung und durch "Feedback" moralisches Verhalten erlernen? Zu dieser Thematik gibt es noch viel wissenschaftliches und praktisches Neuland zu erschließen. Ziel des einwöchigen Seminars ist es, durch interdisziplinäre Kooperation Fortschritte zu machen.

Die Organisation des Dagstuhl-Seminars haben übernommen: Michael Fisher (University of Liverpool, GB) - Christian List (London School of Economics, GB) - Alan FT Winfield (University oft he West of England - Bristol, GB)

Zum Thema:

Hintergrund Schloss Dagstuhl lädt das ganze Jahr über Wissenschaftler aus aller Welt ins nördliche Saarland ein, um über neueste Forschungsergebnisse in der Informatik zu diskutieren. Mehr als 3500 Informatiker von Hochschulen, Forschungseinrichtungen und aus der Industrie nehmen jährlich an den wissenschaftlichen Veranstaltungen in Dagstuhl teil. Seit 2005 gehört Schloss Dagstuhl zur Leibniz-Gemeinschaft , in der zurzeit 88 führende außeruniversitäre Forschungsinstitute und wissenschaftliche Infrastruktureinrichtungen in Deutschland vertreten sind. Aufgrund ihrer gesamtstaatlichen Bedeutung fördern Bund und Länder die Institute der Leibniz-Gemeinschaft gemeinsam. red www.dagstuhl.de