Einer der Väter der KI macht sich Sorgen um ihre Zukunft

Foto von Yoshua Bengio

Foto von Yoshua BengioPolytechnische Schule | Flickr

Yoshua Bengio ist ein Großmeister der modernen künstlichen Intelligenz.

Neben Geoff Hinton und Yann Le Cun , Bengio ist berühmt dafür, sich für eine Technik einzusetzen, die als Deep Learning bekannt ist und sich in den letzten Jahren von einer akademischen Kuriosität zu einer der leistungsstärksten Technologien der Welt entwickelt hat.

Deep Learning beinhaltet das Einspeisen von Daten in große neuronale Netze, die grob das menschliche Gehirn simulieren, und es hat sich für alle möglichen praktischen Aufgaben als unglaublich leistungsfähig und effektiv erwiesen, von der Spracherkennung und Bildklassifizierung bis hin zur Steuerung selbstfahrender Autos und der Automatisierung von Geschäftsentscheidungen.

Bengio hat der Verlockung eines großen Technologieunternehmens widerstanden. Während Hinton und LeCun zu Google bzw. Facebook kamen, bleibt er Vollzeitprofessor an der Universität von Montreal. (Er hat jedoch 2016 Element AI mitbegründet, und es hat ein sehr erfolgreiches Geschäft aufgebaut, das großen Unternehmen hilft, die kommerziellen Anwendungen der KI-Forschung zu erforschen.)

Bengio traf sich kürzlich auf einer MIT-Veranstaltung mit Will Knight, dem Chefredakteur von MIT Technology Review für KI.

Was halten Sie von der Idee, dass es ein KI-Rennen zwischen verschiedenen Ländern gibt?

Ich mag es nicht. Ich glaube nicht, dass das der richtige Weg ist.

Wir könnten gemeinsam an einem Rennen teilnehmen, aber als Wissenschaftler und jemand, der über das Gemeinwohl nachdenken möchte, denke ich, dass wir besser darüber nachdenken sollten, wie wir intelligentere Maschinen bauen und sicherstellen können, dass KI zum Wohle der Menschen eingesetzt wird so viele Menschen wie möglich.

Gibt es Möglichkeiten, die Zusammenarbeit zwischen den Ländern zu fördern?

Wir könnten es Menschen aus Entwicklungsländern erleichtern, hierher zu kommen. Es ist derzeit ein großes Problem. In Europa, den USA oder Kanada ist es für einen afrikanischen Forscher sehr schwierig, ein Visum zu bekommen. Es ist eine Lotterie, und sehr oft verwenden sie jede Ausrede, um den Zugang zu verweigern. Das ist total ungerecht. Es ist schon schwierig für sie, mit wenig Ressourcen zu recherchieren, aber wenn sie keinen Zugang zur Community haben, finde ich das wirklich unfair. Um dem entgegenzuwirken, werden wir 2020 in Afrika die ICLR-Konferenz [eine große KI-Konferenz] veranstalten.

Inklusivität muss mehr sein als ein Wort, das wir sagen, um gut auszusehen. Das Potenzial für KI, in Entwicklungsländern nützlich zu sein, ist sogar noch größer. Sie müssen die Technologie noch mehr verbessern als wir, und sie haben andere Bedürfnisse.

Machen Sie sich Sorgen, dass nur wenige KI-Unternehmen im Westen und vielleicht in China den Bereich der KI dominieren?

Ja, das ist ein weiterer Grund, warum wir mehr Demokratie in der KI-Forschung brauchen. Es ist so, dass die KI-Forschung an sich tendenziell zu Konzentrationen von Macht, Geld und Forschern führen wird. Die besten Studenten wollen zu den besten Unternehmen. Sie haben viel mehr Geld, sie haben viel mehr Daten. Und das ist nicht gesund. Selbst in einer Demokratie ist es gefährlich, zu viel Macht in wenigen Händen zu haben.

Es gab viele Kontroversen über die militärische Nutzung von KI. Wo stehen Sie dazu?

Ich stehe ganz entschieden dagegen.

Auch nicht-tödliche Anwendungen von KI?

Nun, das möchte ich nicht verhindern. Ich denke, wir müssen es unmoralisch machen, Killerroboter zu haben. Wir müssen die Kultur ändern, und dazu gehört auch die Änderung von Gesetzen und Verträgen. Das kann weit gehen.

Natürlich wird man das nie ganz verhindern, und die Leute sagen: Irgendein Schurkenland wird diese Dinge entwickeln. Meine Antwort ist, erstens wollen wir ihnen ein schlechtes Gewissen machen, und zweitens gibt es nichts, was uns davon abhält, Verteidigungstechnologie zu bauen. Es gibt einen großen Unterschied zwischen defensiven Waffen, die Drohnen töten, und offensiven Waffen, die auf Menschen abzielen. Beide können KI verwenden.

Sollten KI-Experten nicht mit dem Militär zusammenarbeiten, um sicherzustellen, dass dies geschieht?

Wenn sie die richtigen moralischen Werte hatten, in Ordnung. Aber ich vertraue militärischen Organisationen nicht vollständig, weil sie dazu neigen, Pflicht vor Moral zu stellen. Ich wünschte, es wäre anders.

Worauf freuen Sie sich am meisten in Bezug auf neue KI-Forschung?

Ich denke, wir müssen die harten Herausforderungen der KI berücksichtigen und uns nicht mit kurzfristigen, inkrementellen Fortschritten zufrieden geben. Ich sage nicht, dass ich Deep Learning vergessen möchte. Im Gegenteil, ich möchte darauf aufbauen. Aber wir müssen in der Lage sein, es zu erweitern, um Dinge wie Argumentation, das Erlernen von Kausalität und das Erkunden der Welt zu tun, um zu lernen und Informationen zu erwerben.

Wenn wir uns wirklich der KI auf menschlicher Ebene nähern wollen, ist das ein weiteres Ballspiel. Wir brauchen langfristige Investitionen, und ich denke, die Wissenschaft ist der beste Ort, um diese Fackel zu tragen.

Sie erwähnen Kausalität – mit anderen Worten, nicht nur Muster in Daten zu erfassen, sondern warum etwas passiert. Warum ist das wichtig und warum ist es so schwer?

Wenn Sie ein gutes kausales Modell der Welt haben, mit der Sie es zu tun haben, können Sie auch in unbekannten Situationen verallgemeinern. Das ist entscheidend. Wir Menschen sind in der Lage, uns in Situationen zu projizieren, die sich stark von unserer alltäglichen Erfahrung unterscheiden. Maschinen sind es nicht, weil sie diese kausalen Modelle nicht haben.

Wir können sie von Hand herstellen, aber das reicht nicht aus. Wir brauchen Maschinen, die kausale Modelle entdecken können. Bis zu einem gewissen Grad wird es nie perfekt sein. Wir haben kein perfektes kausales Modell der Realität; Deshalb machen wir viele Fehler. Aber wir können das viel besser als andere Tiere.

Im Moment haben wir dafür keine wirklich guten Algorithmen, aber ich denke, wenn genügend Leute daran arbeiten und es für wichtig halten, werden wir Fortschritte machen.

verbergen