Körber-Preis 2019
13/24

Simon Guist, Doktorand im MPI Tübingen, bringt einem künstlichen Arm bei, virtuelle Bälle zurückzuspielen.


Aktuell erforscht das Schölkopf-Team am MPI Tübingen Algorithmen, die aus Daten auch kausale Zusammenhänge erkennen können. Kausale Inferenz nennt sich diese vielversprechende neue Forschungsrichtung. Ziel ist unter anderem, KI-Systeme robuster gegen Störeinflüsse zu machen. »Wenn in einer geschlossenen Ortschaft ein Tempo-30-Schild so überklebt wurde, dass es wie ein Tempo-120-Schild aussieht, dann muss das KI-System eines selbstfahrenden Autos aus dem Kontext erschließen können, dass dieses Schild zu ignorieren ist«, erklärt Schölkopf. Tatsächlich haben selbstfahrende Autos in den USA bereits mehrere tödliche Unfälle verursacht. 

KI-Technologie arbeitet aber noch längst nicht perfekt. »Ein neuronales Netz kann zum Beispiel eine Kuh auf den meisten Bildern problemlos erkennen«, sagt Schölkopf. »Es bekommt aber Probleme, wenn das Bild einer Kuh am Meeres­strand gezeigt wird. Dies liegt an den Trainingsdaten, die Kühe meist auf Wiesen zeigen. Das System wird durch das zu Kuh unpassende Umfeld Strand gleichsam in die Irre geführt und erkennt die Kuh nicht, da es nur auf Korrelationen achtet und Kausalität ignoriert. Zukünftige KI-Systeme«, so Schölkopf, »sollten auch Kausalität verstehen: Denken ist laut Konrad Lorenz nichts anderes als Handeln im vorgestellten Raum. Die Repräsentationen, die wir lernen, sollten also ein Verständnis abbilden, wie die Welt auf unser Handeln reagiert – dies geht über die statistischen Methoden hinaus, die den derzeitigen Methoden zugrunde liegen.« 

Fehler treten unter anderem auch bei der automatischen Bearbeitung von Online-Kreditanträgen auf. Immer wieder kommt es vor, dass KI-Systeme Kredite verweigern, obwohl der Kreditnehmer beste Bonität vorweisen kann. Ganz auszumerzen werden solche Fehler nach Expertenmeinung wohl niemals sein, weil Informatiker oft unterschiedlicher Meinung sind, welcher Algorithmus sich für welche Anwendung am besten eignet. Außerdem können beispielsweise bei autonomen Fahrzeugen die Sensoren altern oder verschmutzen.

NEUE KI-SYSTEME BRINGEN SICH SOGAR DAS LERNEN SELBER BEI

Der neueste Trend im Maschinellen Lernen geht dahin, die Systeme nicht mehr aufwendig mit teils Millionen Trainingsdaten zu trainieren, sondern sie vollkommen eigenständig Gesetzmäßigkeiten, Strukturen und Regeln erkennen zu lassen. Nach dem ›überwachten Lernen‹ (mit Training) kommt also nun das ›unüberwachte Lernen‹.