Saarländische Spitzenforschung Diese Programme erklären sich selbst
Saarbrücken · Neuer Sonderforschungsbereich der Informatik an der Saar-Uni entwickelt die Software der Zukunft.
„Achtung – ihre Route wurde aufgrund der Verkehrslage geändert“, so oder so ähnlich klingt’s, wenn das Navigationsgerät in unserem Auto die Meinung gewechselt hat, wie wir am schnellsten von A nach B gelangen können. Der erfahrene Autofahrer fügt sich meist, ärgert sich jedoch, weil er nicht erfährt, warum das besserwisserische Stück Elektronik hinterm Armaturenbrett sich mal wieder erdreistet, die Streckenführung zu ändern. Dabei ist er noch in einer relativ komfortablen Position. Er sitzt am Lenker, kann auf den digitalen Ratgeber pfeifen und einfach weiterfahren. Doch in der IT-Welt von morgen wird immer häufiger die Software am Steuer sitzen – in Flugzeugen oder Drohnen zum Beispiel, in KI-Anwendungen der Medizin, in Roboter-Fabriken und Kraftwerken. Und im autonomen Auto geht überhaupt nichts mehr ohne digitalen Steuermann. Wehe, wenn der versagt.
Wenn die Software in einem GPS-Gerät abstürzt, steht der Autofahrer hernach schlimmstenfalls im Stau. Wenn der Autopilot eines Flugzeugs oder eines Kraftfahrzeugs streikt, dann könnte es Tote geben. Weil die Zahl der Computerprogramme an lebenswichtigen Schnittstellen der digitalen und der realen Welt stetig wächst, brauchen wir neue Software, Computerprogramme, deren Algorithmen wir nicht mehr blind vertrauen müssen, sondern die ihr Handeln erklären können, sagt Holger Hermanns von der Saar-Universität. Der Informatik-Professor ist Sprecher des neuen transregionalen Sonderforschungsbereichs (SFB) der Saar-Uni und der TU Dresden. Elf Millionen Euro investiert die Deutsche Forschungsgemeinschaft (DFG) in den kommenden vier Jahren in diesen Forschungsverbund, zwei Drittel der Summe gehen nach Saarbrücken. Er hört auf den schwierig auszusprechenden englischen Namen „Foundations of Perspicuous Software Systems“. Wobei das Schlüsselwort „perspicuous“ für „einleuchtend“ oder „verständlich“ steht. In einem Satz: Die Informatiker aus Saarbrücken und Dresden entwickeln Grundlagen selbsterklärender Computerprogramme.
Bei der Softwareentwicklung, sagt Holger Hermanns, habe in der Vergangenheit der Aspekt der Funktionalität im Vordergrund gestanden. Fragen der Sicherheit und Verständlichkeit seien zu kurz gekommen.
Dass den Benutzer eines digitalen Geräts der Ärger packt, wenn er nicht erkennen könne, was die Software gerade tut, könne er gut verstehen, sagt der Saarbrücker Informatiker. Doch dass Abläufe in komplexen IT-Systemen heute selbst für Fachleute in vielen Fällen nicht mehr nachzuvollziehen seien, sei ein Sicherheitsrisiko. Und das müsse abgestellt werden. Die Wurzel des Übels liege darin, dass Computerprogramme von heute nicht in der Lage seien, ihre Aktionen zu begründen. „Das ist ein wenig“, sagt Hermanns, „wie bei der Motorkontrollleuchte eines Autos. Wenn sie aufleuchtet, weiß man auch nicht genau, was defekt ist.“
Die Forscher des Informatikverbunds wollen Grundlagen neuer IT-Systeme entwickeln, die zur Laufzeit darüber informieren können, warum ihre Algorithmen zu welchen Ergebnissen gelangen. Das würde im Fall einer Panne erlauben, das Verhalten eines Programms zu analysieren, um so schnell die Ursache zu finden. Im Zeitalter der Künstlichen Intelligenz ist es schwierig geworden, von einem Softwarefehler zu sprechen, wenn Software Fehler macht. Programme, die auf Techniken des Maschinellen Lernens setzen, müssen in tausenden Durchgängen an Beispielen aus ihrem Spezialgebiet für den Einsatz trainiert werden. Wenn dieser Lernprozess nicht vollständig oder fehlerhaft war, kann ein fehlerfrei arbeitendes Programm trotzdem zu falschen Schlussfolgerungen gelangen. „Unsere Arbeit soll gewissermaßen ein Korsett für Software des Maschinellen Lernens bilden, um so etwas zu verhindern“, sagt Hermanns.
Einsatzgebiete für selbsterklärende Software sehen die Wissenschaftler des Sonderforschungsbereichs praktisch überall. Sie beginnen bei allen denkbaren Arten von „Autopiloten“ – Computerprogrammen, die Maschinen steuern, dabei aber unvorhergesehen in Situationen geraten können, in denen sie an die Grenzen ihrer Möglichkeiten gelangen und die Kontrolle an einen menschlichen Steuermann zurückgeben müssen. Auch sich selbst steuernde Fluggeräte wie Drohnen benötigten die neue Hochsicherheits-Software. Wichtig, so Holger Hermanns, sei selbsterklärende Software darüber hinaus in industriellen Anwendungen, in denen Menschen und Roboter zusammenarbeiten müssen, und im digitalisierten Haushalt der Zukunft. Und wenn es selbsterklärende Software schon vor zehn Jahren gegeben hätte, wäre höchstwahrscheinlich der Abgasskandal um den Dieselmotor vermieden worden, sagt der Informatiker der Saar-Uni. Der sei ja nur möglich gewesen, weil eine hinterlistig programmierte Motorsteuerung die offiziellen Testprozeduren auf den Prüfständen austricksen konnte. „Eine selbsterklärende Motorsteuerung hätte ihre Tricks nicht verheimlichen können.“
