"Die Schweiz hat die Bedeutung der künstlichen Intelligenz sehr lange unterschätzt"

Was sind Ihrer Einschätzung nach die grössten Herausforderungen eines zunehmend durch künstliche Intelligenz, Data Science, Machine Learning und Robotik unterstützten, digitalisierten Lebensraumes und Wirtschaftssystems?
Neben der grossen Chance auf ein sehr effizientes, nachhaltiges und ökologisch ausgerichtetes Wirtschaftssystem, die uns durch diese Technologien geboten wird, wird es darauf ankommen, den ungeheuren Reichtum, den wir erarbeiten, auch an alle Menschen gerecht zu verteilen und ihnen die Möglichkeit zu bieten, einer sinnvollen und anerkannten Tätigkeit nachzukommen. Wir können uns nicht noch mehr Verlierer in unserer Gesellschaft leisten.


Wo steht die Schweiz jetzt und in Zukunft im internationalen Vergleich im Bereich Forschung und Entwicklung der künstlichen Intelligenz und im entsprechenden Ökosystem?
Die Schweiz hat die Bedeutung der künstlichen Intelligenz sehr lange unterschätzt und sich nur wenig an der internationalen Forschung auf diesem Gebiet beteiligt. Schweizer Forscher traf man nur selten auf den grossen internationalen KI-Konferenzen, und auch eine nationale Community gab es auf diesem Gebiet nicht. Die SGAICO (Anm. der Red.: Swiss Group on Artifcial Intelligence and Cognitive Science, eine Fachgruppe der Schweizer Informatik Gesellschaft) als eine der ältesten KI-Gesellschaften in Europa existierte seit Ende der 90er Jahre de facto nur noch auf dem Papier. 2013 haben wir sie wieder aktiviert und führen seither viele Veranstaltungen durch, aber noch immer gibt es viel Potenzial für eine verbesserte Vernetzung aller Akteure. Auch an den Schweizer Universitäten und Fachhochschulen wurden die Aktivitäten verstärkt, wobei aus meiner Sicht eine Überbewertung des maschinellen Lernens zu Lasten anderer wichtiger Teilgebiete der KI zu beobachten ist. Für die Wirtschaft hat dies zurzeit sehr dramatische Auswirkungen, da wir neben dem bekannten IT-Fachkräftemangel auch grosse Wissensdefizite in Bezug auf KI im Management haben.

Wie beurteilen Sie die diesbezügliche Regulierungsdichte, insbesondere auch neue, in Vernehmlassung stehende Gesetze wie das neue Datenschutzgesetz DSG und die elektronische Identität E-ID? Wie sieht es mit ethischen Fragen aus?
Wir müssen den Datenschutz noch ernster nehmen als bisher und auch wirklich durchsetzen. Ich habe grosse Mühe damit, dass systematisch Personenprofile angelegt und unterschiedlichste Daten miteinander verknüpft werden. Bisher hat mich noch kein Unternehmen überzeugen können, dass es bessere Produkte und Dienstleistungen nur dann anbieten kann, wenn es seine Kunden ausspioniert und manipuliert. Aus meiner Sicht sollten sich Unternehmen auf Innovationen konzentrieren und an Henry Fords berühmten Ausspruch denken, dass sich seine Kunden stärkere Pferde statt Autos gewünscht hätten, wenn er sie gefragt hätte.
Bereits kurzfristig sollten wir über Themen wie ein Recht auf nichtautomatisierte Entscheidungen, ein Recht auf Nicht-Identifizierbarkeit und Verfolgbarkeit oder ein Recht auf Nicht-Verknüpfen von Informationen diskutieren.


Wo sehen Sie im Rahmen der Standards von Forschung und Reformen wie Lehrplan 21 weiter absehbaren Handlungsbedarf im internationalen Wettbewerb im Bereich der Digitalisierung und im Speziellen der Erforschung der künstlichen Intelligenz?
Für die Schulbildung müssen wir uns unbedingt davon lösen, dass Informatik als Medienkompetenz verstanden und unterrichtet wird. Informatik heisst auch nicht, dass ich mit einer Office-Software umgehen kann – dies sind elementare Fähigkeiten ähnlich wie Rechnen und Schreiben und werden zum Beispiel vom Europäischen Computer-Führerschein abgedeckt.
Informatik heisst, Probleme zu lösen, und kann hervorragend mit Materialien wie den Knobelaufgaben aus dem Informatikwettbewerb für Kinder und Jugendliche "Informatik Biber" unterrichtet werden.

Wie wird sichergestellt, dass die Schweiz durch eine isolierende Überregulierung die Dynamik der adaptierbaren Innovationen und auch Forschung und Bildung nicht ins Ausland verbannt?
Für die Schweiz ist es wichtig, dass sie Teil Europas bleibt und den europäischen und globalen Austausch pflegt. Unternehmen sollten dabei darauf verzichten, ausländische Fachkräfte anzuwerben, wenn es vorrangig darum geht, die Lohnkosten zu reduzieren, sondern vermehrt auf Spezialisten jenseits der 50 zurückgreifen und bei ihren Teams auf Vielfalt in Alter, Geschlecht und Interessen achten. Auch das Potenzial der Frauen wird in der Schweiz viel zu wenig genutzt. Wichtig ist auch, dass Schweizer einige Zeit beruflich oder im Studium im Ausland verbringen und diese Erfahrungen wieder in das Land zurückfliessen.


Es ist absehbar, dass das Zusammenspiel von Digitalisierung, künstlicher Intelligenz, Internet der Dinge IoT, Clouds und Bots grosse Herausforderungen mit sich bringt und Auswirkungen auf Themen wie Security, Privacy, autonome Systeme und Ethik hat. Wo sehen Sie speziellen Handlungsbedarf in diesem zunehmend "analysierten" Lebensraum?
Wir haben es in der Hand, wie wir Technologie einsetzen. Momentan akzeptieren mir zu viele Entscheidungsträger, dass IT-Systeme potenziell unsicher sind und vorrangig dazu dienen, menschliche Arbeit zu ersetzen. Wir erhalten aber oft viel spannendere und innovativere Anwendungen, wenn wir uns fragen, wie wir die Arbeits- und Lebensbedingungen für Menschen durch Technologie verbessern können. Auch sollten wir verstärkt autonome und stabile Subsysteme entwickeln, die Ausfälle in ihrer Umgebung gut abfangen können. Alles miteinander zu vernetzen, heisst auch, dass alles miteinander ausfällt – ein Risiko, das wir nicht unnötigerweise eingehen sollten.

Wo erkennen Sie Gefahren bei sich abzeichnenden Macht(neu)ordnungen von Staaten und Konzernen? Kann sich die künstliche Intelligenz trotz CyberSecurity-Massnahmen selber "hacken"?
Eine echte künstliche Intelligenz wird sich selber Ziele setzen, und wir können nicht davon ausgehen, dass diese Ziele immer unseren Zielen entsprechen. Auch wenn dieses Szenario noch in einiger Ferne liegt, sollten wir uns jetzt mit möglichen Folgen auseinandersetzen. Die Verselbstständigung autonomer Entscheidungen birgt Risiken. Insbesondere wenn jeder für sich lokal optimiert, werden wir wohl kaum ein globales Optimum erreichen. Wichtig ist für mich, dass diverse Kontrollmechanismen in solche Systeme eingebaut werden und wir die Macht umfassend teilen und Missbrauch effektiv verhindern können. Das demokratische System der Schweiz mit seiner mehrstufigen Gewaltenteilung könnte ein Vorbild sein und hat sich in Jahrhunderten als Stabilitätsfaktor bewährt. Letztendlich kommt es darauf an, die Demokratie zu schützen und zu stärken.


Wenn wir als Mitglieder der sich digitalisierenden Gesellschaft versuchen, proaktiv mitzumachen und dadurch mitzugestalten in der Koexistenz mit der Industrie 4.0, Digitalisierung und Algorithmen – werden wir das nötige Vertrauen und Nähe zurückgewinnen, um uns zunehmend in die Obhut von (teil)autonomen Systemen zu begeben? Was für einen Stellenwert wird das Humankapital erhalten in diesem Wettbewerb der totalen Transformation bzw. ergänzendem "better together"?
Ein Wirtschaftssystem, in dem Menschen nur als Kostenfaktor oder Konsumenten gesehen werden, scheint mir keine Grundlage für die neuen Technologien zu sein. Insbesondere die desillusionierten Jugendlichen machen mir Sorgen. Wir brauchen positive Zukunftsvisionen, die für alle erstrebenswert sind und die wir aktiv verfolgen. Ein bedingungsloses Grundeinkommen ist für mich keine Lösung, da es eine Gesellschaft von Sozialhilfeempfängern ohne Lebenssinn und Ziel erzeugt, die auf lange Sicht nicht lebensfähig ist. Die Wirtschaft muss dem Menschen dienen, nicht umgekehrt.

Werden Digitalisierung, künstliche Intelligenz und Robotik bisherige Jobs verschwinden lassen oder eher nur anders gestalten und kompensieren mit einem Grundeinkommen? Werden Beschäftigungsgrad und Arbeitslosenquote in 10 Jahren eher kleiner oder grösser sein durch solche Effekte?
Berufe sind schon immer verschwunden, aber letztendlich entscheiden doch wir, was verschwindet. Es wird Gewinner und Verlierer in diesem Prozess geben, aber eine bewusste Gestaltung der Veränderungen ist möglich, so dass auch weniger qualifizierte Berufe nach wie vor für Menschen attraktiv bleiben können. Menschen können am besten mit Menschen arbeiten, und das sollte auch so bleiben.
Wichtig ist, dass wir in Europa die Technologie auch wirklich beherrschen. Im Moment kommt mir kein europäisches Unternehmen in den Sinn, das Plattformen mit Milliarden von Benutzern so effektiv betreiben kann wie Facebook, Amazon oder Microsoft. Alle jüngsten Innovationen wie Social Media oder Cloud kommen aus den USA, auch alle Betriebssysteme sind fest in der Hand amerikanischer Technologiekonzerne. Dieser Vorsprung ermöglicht es diesen Unternehmen auch, Daten in völlig neuem Stil zu sammeln, zu verknüpfen und auszuwerten, was ihnen völlig neue Erkenntnisse ermöglichen wird und den technologischen Vorsprung vielleicht sogar noch vergrössert. Als Beispiel fallen mir dazu die aktuellen Anwendungen in der Sprachtechnologie wie Siri, Alexa oder auch bei Facebook
ein.


Es gibt schon lange digitale Assistenten und Bots. In wie vielen Jahren werden wir einen persönlichen, perfekt trainierten "digitalen" Freund (gar einer der besten?) haben wie zum Beispiel im Film "Her" (2013)?
Wenn wir das wollen, wird das möglich sein, und mit Alexa und Siri hat diese Entwicklung bereits begonnen. Diese Systeme werden von Woche zu Woche besser, und erste Suchtprobleme sind erkennbar, zum Beispiel was Facebook-Nutzer betrifft. Wenn wir einen solchen digitalen Freund brauchen, dann braucht er uns aber vermutlich nicht mehr. Wir sollten nicht vergessen, wie "Her" endet: Der Mensch bleibt hilflos, unglücklich und verstört zurück, nachdem er von seiner digitalen Assistentin verlassen wurde.

Prof. Dr. Jana Koehler

Prof. Dr. Jana Koehler ist Professorin für Informatik an der Hochschule Luzern und beschäftigt sich in Lehre und Forschung mit künstlicher Intelligenz, Software-Architektur und der Digitalisierung von Geschäftsprozessen. Frühere berufliche Stationen waren das IBM-Forschungslabor in Rüschlikon, die Firma Schindler, das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken sowie die Universitäten Linköping (S), Maryland (USA), Berkeley (USA) und Freiburg (D). Sie berät Firmen im Bereich künstliche Intelligenz und implementiert u.a. im Rahmen von KTI-Projekten komplexe Softwarelösungen mit KI-Technologie. In der Schweizer Informatik Gesellschaft ist sie die Sprecherin der Fachgruppe Artificial Intelligence and Cognitive Science (SGAICO).