Künstliche Intelligenz, News, zAufi

Forschergruppe will KI-Entscheidungen durchleuchten

Wie stark verändert Künstliche Intelligenz unseren Planeten?. Foto: geralt, Pixabay.com, Lizenz: CC0

Wie stark verändert Künstliche Intelligenz unseren Planeten?. Foto: geralt, Pixabay.com, Lizenz: CC0

Je mehr Künstliche Intelligenzen den Alltag dominieren, umso lauter wird der Ruf nach mehr Transparenz der Elektronenhirne.

Chemnitz, 3. September 2020. Bisher kennen viele Deutsche „Künstliche Intelligenzen“ (KI) in der Praxis vor allem unter Namen wie Alexa oder Siri –als mehr oder minder nützliche sprachgesteuerte Assistentinnen. Auch bei Online-Einkäufen oder bei der Google-Suche agieren sie längst im Hintergrund. Doch was passiert, wenn KIs nicht mehr nur Helfer sind, sondern sie – wie etwa in China – über unsere Kreditwürdigkeit, unsere Versicherungsbeiträge oder die Erziehung der Kinder zu befinden beginnen? In Forschung und Wirtschaft ist längst eine Diskussion darüber entbrannt, wie Menschen die KI-Entscheidungen im Nachhinein durchschaubar machen kann. Eine neue KI-Nachwuchsforschergruppe „Schnelle Algorithmen für transparente Empfehlungssysteme“ (SAlE) an der TU Chemnitz wird sich eben diesen Themen nun widmen. Die Mathematikerin Dr. Franziska Nestler hat dafür nun 1,6 Millionen Euro Förderung vom Bundesforschungsministerium bekommen, teilte die Uni mit.

Die Mathematikerin Dr. Franziska Nestler. Foto: Jacob Müller für die TU Chemnitz

Die Mathematikerin Dr. Franziska Nestler. Foto: Jacob Müller für die TU Chemnitz

Nur KIs können die wachsenden Datenmengen analysieren – doch Überprüfung muss möglich sein

„Im Zuge der Digitalisierung unserer Gesellschaft werden Datenmengen enormen Ausmaßes generiert“, hieß es von der Uni Chemnitz. Diese wachsenden „Big Data“-Ströme zu analysieren sei eine solch komplexe Aufgabe, dass „der Einsatz künstlicher Intelligenz nahezu alternativlos“ sei. Doch die meisten KIs seien bisher kaum transparent in ihren Analyseentscheidungen. „Das Phänomen der Nichtnachvollziehbarkeit von KI-Prozessen wird zum Beispiel dann relevant, wenn KI-gestützte Entscheidungen getroffen werden, deren Hintergrund für Betroffene nicht einsichtig ist, etwa bei der Kredit-Vergabe“, betont die Uni. Daher wollen die Chemnitzer Forscherinnen beispielsweise „Methoden zur hochdimensionalen Fourier-Analyse“ einsetzen, um das zu ändern.

In Dresden widmet sich ganzes Zentrum der Erklärbarkeit von KI-Entscheidungen

Auch in Dresden mühen sich Wissenschaftler bereits daran, KI-Entscheidungen durchschaubarer zu machen – nicht zuletzt auch um zu erkennen, wenn sich die Computer einfach Mumpitz zusammengereimt haben, der einer menschlichen Korrektur bedarf. Die TU Dresden und Fraunhofer bauen daher in der sächsischen Landeshauptstadt derzeit eine neues „Center for Explainable and Efficient AI Technologies“ (CEE AI) ein. Generell hat sich Sachsen innerhalb des Hype-Themas „KI“ in hohem Maße auf die Analyse großer Datenmengen eingeschossen.

Autor: Heiko Weckbrodt

Quellen: TUC, Oiger-Archiv, Wikipedia

Zum Weiterlesen:

Fraunhofer und TU Dresden gründen KI-Forschungszentren

KIs sollen moralisch entscheiden

KI erkennt Nebenwirkungen neuer Medikamente