Bei der Weit­er­en­twick­lung der kün­stlichen Intel­li­genz ist jet­zt psy­chol­o­gis­ches Fach­wis­sen gefragt. Die Maschi­nen benöti­gen eine Beziehungs­ther­a­pie.

Kurz vor der Lan­dung, zehn Kilo­me­ter über der Mon­dober­fläche, begann neben dem Com­put­er­bild­schirm ein Läm­pchen zu blinken. «Wir haben ein Com­put­er­prob­lem», funk­te der Pilot der Apol­lo-Lan­de­fähre, Neil Arm­strong, zur Erde. «Fehler­code 1202.» Im Kon­trol­lzen­trum in Hous­ton ver­sucht­en Com­put­er­fach­leute unter grösstem Zeit­druck her­auszufind­en, was es mit diesem Fehler­code auf sich hat­te. Schliesslich sagte ein­er: «Wir gehen weit­er mit diesem Alarm.» Für diesen Funkspruch, für den Entscheid, den Com­put­er zu ignori­eren und den Lan­dean­flug fortzuset­zen, wurde der Inge­nieur im Kon­trol­lzen­trum später vom amerikanis­chen Präsi­den­ten mit einem Preis aus­geze­ich­net. Wegen Gesteins­brock­en auf dem geplanten Lan­de­platz zu einem Umweg gezwun­gen, Fehler­mel­dun­gen bezüglich Treib­stoff­man­gels ignori­erend, brachte Arm­strong die Fähre schliesslich auf den Boden und kon­nte die his­torischen Worte sprechen: «The Eagle has land­ed.»

 

Pilot gegen Autopilot

Tausende von Inge­nieuren haben in den USA während der 1960er Jahre für die Raum­fahrt gear­beit­et, sie haben in vie­len Bere­ichen wichtige Inno­va­tio­nen vor­angetrieben. Auch die Koop­er­a­tion von Pilot und Autopi­lot musste grundle­gend über­dacht wer­den. Es gab Tech­niker, die die Astro­naut­en als eine Art Frachtgut betra­chteten; sie glaubten, dass der Erfolg der Apol­lo-Mis­sio­nen am besten garantiert wer­den könne, wenn die «humans out of the loop» blieben, wenn die Men­schen an Bord während des Fluges von allen wichti­gen Entschei­dun­gen aus­geschlossen wür­den. Andere ver­trat­en den Stand­punkt, dass eine beman­nte Raum­fahrt ohne Män­ner, dass eine Ent­deck­ungsreise im All ohne Ent­deck­er nicht sin­nvoll sei. Vor allem die Piloten woll­ten sich nicht zu Pas­sagieren degradieren lassen: Sie waren alle hochdeko­ri­erte Mil­itär­pi­loten, die Kampfein­sätze geflo­gen hat­ten. Die Ereignisse bei der ersten Mond­lan­dung gaben ihnen recht: Es braucht die «humans in the loop», Men­sch und Mas­chine sind aufeinan­der angewiesen.

Das Apol­lo-Pro­gramm hat der Infor­matik – von der Hal­bleit­ertech­nik bis zum Soft­ware-Engi­neer­ing – viele wichtige Impulse gegeben. Doch eine zen­trale Lek­tion scheint vergessen gegan­gen zu sein: Eine kün­stliche Intel­li­genz, die nicht in der Lage ist, sich mit natür­lich­er Intel­li­genz zu ver­bün­den, ist zum Scheit­ern verurteilt.

Viele spek­takuläre Flu­gun­fälle der jün­geren Ver­gan­gen­heit – beispiel­sweise 2009 der Absturz eines Air­bus A330 der Air France über dem Atlantik mit 216 Toten – sind die Folge von Unstim­migkeit­en zwis­chen Pilot und Autopi­lot. Wo die Men­schen vom Autopi­loten zur Untätigkeit verurteilt wer­den, ist es unver­mei­dlich, dass ihre Fähigkeit­en verküm­mern. Wenn dann der Autopi­lot ver­sagt, kann es geschehen, dass die Piloten von ein­er Sit­u­a­tion, die jed­er Anfänger meis­tern kön­nte, über­rascht und über­fordert wer­den.

 

Spektakuläre Unfälle

Autonom fahrende Autos waren in jüng­ster Ver­gan­gen­heit in einige spek­takuläre Unfälle ver­wick­elt, bei denen Men­schen star­ben. 2016 wurde in Flori­da ein Tes­la-Fahrer enthauptet, weil der Autopi­lot einen weis­sen Sat­telschlep­per, der die Fahrbahn versper­rte, nicht als Hin­der­nis erkan­nte. Nach ein­er Unter­suchung nan­nte die amerikanis­che Nation­al Traf­fic Safe­ty Admin­is­tra­tion men­schlich­es Ver­sagen als Unfal­lur­sache. Der Autopi­lot set­ze die ständi­ge Aufmerk­samkeit des Fahrers voraus, doch dieser habe sich während der Fahrt einen Har­ry-Pot­ter-Film angeschaut. Das Prob­lem mit den Autopi­loten ist nicht nur, dass sie manch­mal Fehler machen, das Prob­lem ist auch, dass sie die Men­schen dazu ver­leit­en, Fehler zu machen.

Elon Musk hat­te 2016 ver­sprochen, dass ein Tes­la 2017 ohne Chauf­feur von Los Ange­les nach New York fahren werde. 2017 bringe für das autonome Fahren den Durch­bruch, erk­lärte auch John Kraf­cik, der inner­halb des Alpha­bet-Konz­erns die Fir­ma Way­mo leit­et. Der Durch­bruch lässt allerd­ings auf sich warten. Die Tech­nik ist noch nicht bere­it, die Soft­ware muss noch dazuler­nen. Sie muss nicht nur die Strassen genauer studieren, sie braucht Nach­hil­fe auch im Fach «Men­schlich­es und Allzu­men­schlich­es». Denn selb­st wenn es in einem einzel­nen Auto gelänge, den Men­schen aus dem «Loop» zu nehmen und ruhigzustellen, müsste sich die Soft­ware doch auf die Begeg­nung mit Men­schen ein­stellen: Kindern, die auf die Strasse ren­nen, Velo­fahrern, die sich zwis­chen den Autos hin­durch­schlän­geln, Aut­o­fahrern, die vergessen, dass sie Vor­tritt haben.

Oft heisst es, die Com­put­er seien «nach­weis­lich» die besseren Aut­o­fahrer. Doch wo wurde dieser Nach­weis geführt? Wie kön­nte man diesen Nach­weis über­haupt erbrin­gen? Wie viele Kilo­me­ter muss eine Soft­ware unfall­frei bewältigt haben, bis sie als sich­er gel­ten darf? Soft­ware, die im Rah­men von Machine-Learn­ing-Prozessen hergestellt wurde, zeigt sich dem Men­schen als Black­box. Diese Soft­ware beste­ht nicht aus Codezeilen, die man lesen, nicht aus Algo­rith­men, deren Zuver­läs­sigkeit man math­e­ma­tisch beweisen kön­nte. Manch­mal über­rascht einen diese Soft­ware durch ihre Intel­li­genz, manch­mal durch ihre Dummheit. Amerikanis­che Forsch­er haben 2017 gezeigt, dass einige wenige Zen­time­ter weiss­es Kleb­band genü­gen, um die Soft­ware eines autonom fahren­den Autos zu ver­wirren. Auf ein Stopp­schild gek­lebt, kön­nen ein paar wenige weisse Punk­te und Striche, die ein Men­sch leicht über­sieht, die Soft­ware dazu brin­gen, Gas zu geben, anstatt abzubrem­sen.

 

Neue Arbeitswelten

Fortschritte bei der Erforschung der kün­stlichen Intel­li­genz (KI) wer­den oft als Schaukampf zwis­chen Men­sch und Mas­chine insze­niert. 2016 stellte die Google-Tochter Deep­mind eine Alpha­go genan­nte Soft­ware ins Ram­p­en­licht der Weltöf­fentlichkeit: In einem mehrtägi­gen Event mit mehreren Begeg­nun­gen kon­nte das kün­stliche neu­ronale Net­zw­erk den besten Go-Spiel­er der Welt schla­gen. Viel Beach­tung fand 1997 der Kampf zwis­chen dem Com­put­er Deep Blue von IBM und Gar­ri Kas­parow. Der Schachwelt­meis­ter ver­lor, die Mas­chine tri­um­phierte.

Die Berichter­stat­tung über KI fol­gt dem Muster der Schaukämpfe, es geht um ein «wir gegen die». Alle grossen Beratung­sun­ternehmen haben sich schon zu Wort gemeldet, Studie um Studie ver­sucht darzule­gen, welche Beruf­sleute bald vom Spiel­brett wegge­spickt wer­den. Laut ein­er vielz­i­tierten Studie der Uni­ver­si­ty of Oxford ist in den USA knapp die Hälfte aller Jobs bedro­ht. Andere Stu­di­en geben sich mit weniger zufrieden. Der Prozentsatz der gefährde­ten Arbeitsstellen mag vari­ieren, die Resul­tate unter­schei­den sich, doch bei der Herange­hensweise ähneln sich all diese Stu­di­en: Es geht um ein «wir gegen die».

 

Paradigmenwechsel

Soft­ware-Ergonomie und Inter­face-Design sind Forschungs­the­men, die inner­halb der Com­put­er­wis­senschaft eine lange Tra­di­tion haben. Als Ahn­herr dieser Forschungstra­di­tion gilt der amerikanis­che Elek­troin­ge­nieur Doug Engel­bart. Er hat unter anderem die Com­put­er­maus erfun­den. Er arbeit­ete in den 1960er Jahren am Stan­ford Research Insti­tute im Sil­i­con Val­ley nur wenige hun­dert Meter ent­fer­nt vom Arti­fi­cial Intel­li­gence Lab­o­ra­to­ry der Stan­ford Uni­ver­si­ty. Hier hat­te John McCarthy das Sagen. Er gilt als Grün­dungs­vater der KI. Es heisst, das Engel­bart und McCarthy sich nicht ausste­hen kon­nten. Als bei ein­er Begeg­nung McCarthy von sein­er Mis­sion berichtet habe, die Maschi­nen intel­li­gent zu machen, habe Engel­bart geant­wortet: «Was? Das alles machen Sie für die Maschi­nen? Und was machen Sie für die Men­schen?»

Engel­bart wollte die Com­put­ertech­nik dazu nutzen, die Fähigkeit­en des Men­schen zu erweit­ern. Sein Labor nan­nte er Research Cen­ter for Aug­ment­ing Human Intel­lect. Die Intel­li­gen­z­er­weiterung (Intel­li­gence Aug­men­ta­tion, IA) gilt als Gege­nen­twurf zur Arti­fi­cial Intel­li­gence (AI). Er habe die Wis­senschaft der KI begrün­det im Bemühen, von der Psy­cholo­gie wegzukom­men und die Kyber­netik zu über­winden, schrieb McCarthy ein­mal. Während Jahrzehn­ten dominierte der von ihm propagierte sym­bol­is­che Ansatz weltweit die Erforschung der KI. Doch auch als dieses Par­a­dig­ma in den 1990er Jahren ver­drängt wer­den kon­nte, blieb der KI die Men­schen­ferne erhal­ten.

Es ist abse­hbar, dass die KI die Welt und auch die Arbeitswelt stark verän­dern wird. Doch dieser Umbruch wird sich nicht anhand von Arbeit­slosen­sta­tis­tiken erfassen lassen. Die kün­stlich intel­li­gen­ten Maschi­nen wer­den sich im Beruf­sleben viel­er Men­schen bemerk­bar machen, aber nicht als Konkur­renten, son­dern als Kol­le­gen. Um sich bei der «kol­lab­o­ra­tiv­en Intel­li­genz» zu bewähren, müssen die Maschi­nen anders wer­den. Sie müssen ler­nen, das men­schliche Gegenüber bei der Lösungs­find­ung einzubeziehen, sie müssen ler­nen, sich sel­ber zu hin­ter­fra­gen, mit Unsicher­heit­en umzuge­hen, zu impro­visieren. Sie wer­den nicht nur Lösun­gen liefern müssen, son­dern auch Lösungswege, nicht nur Antworten, son­dern auch Fra­gen.

 

Quelle: www.nzz.ch

Kostenlos - eBook digitale Kompetenz

digitalexpert-logo-newExklusiv bei digitalexpert.ch

Jetzt kostenlos bestellen:
Exklusiv bei digitalexpert.ch - eBook digitale Kompetenz

Ihre E-Mail-Adresse (Pflichtfeld)

Ich wünsche jeweils über neue kostenlose eBooks informiert zu werden

digitalexpert-logo-newExklusiv bei digitalexpert.ch

Jetzt kostenlos bestellen:
Exklusiv bei digitalexpert.ch — eBook digital comptence (english)

 

Ihre E-Mail-Adresse (Pflichtfeld)

Ich wünsche jeweils über neue kostenlose eBooks informiert zu werden