Der Mann, der geholfen hat, virtuelle Assistenten zu erfinden, glaubt, dass sie ohne einen neuen KI-Ansatz zum Scheitern verurteilt sind

Frau Tech



Siri, Alexa, Google Home – Technologien, die Sprache parsen, halten immer mehr Einzug in den Alltag.

Boris Katz , ein leitender Forschungswissenschaftler am MIT, ist nicht so beeindruckt. In den vergangenen 40 Jahren hat Katz maßgeblich zu den sprachlichen Fähigkeiten von Maschinen beigetragen. In den 1980er Jahren entwickelte er ANFANG , ein System, das in der Lage ist, auf natürlich formulierte Anfragen zu antworten. Die in START verwendeten Ideen verhalfen IBMs Watson zum Sieg Gefahr! und legte den Grundstein für die heutigen schnatternden künstlichen Diener.





Top-Technologie des Jahres 2015

Aber Katz macht sich jetzt Sorgen, dass das Feld unter der Abhängigkeit von jahrzehntealten Ideen leidet und dass diese Ideen uns keine Maschinen mit wirklicher Intelligenz geben werden. Ich habe mich mit ihm getroffen, um die aktuellen Grenzen von KI-Assistenten zu besprechen und seine Gedanken darüber zu hören, wohin die Forschung gehen muss, wenn sie jemals intelligenter werden sollen.

Wie entstand Ihr Interesse daran, Computer dazu zu bringen, Sprache zu verwenden?

In den 1960er Jahren begegnete ich Computern zum ersten Mal als Student an der Moskauer Universität. Die spezielle Maschine, die ich benutzte, war ein Mainframe namens BESM-4. Man konnte nur Oktalcode verwenden, um damit zu kommunizieren. Mein erstes Computerprojekt bestand darin, einem Computer beizubringen, mathematische Probleme zu lesen, zu verstehen und zu lösen.



Dann habe ich ein Computerprogramm zum Schreiben von Gedichten entwickelt. Ich erinnere mich noch, wie ich im Maschinenraum stand und darauf wartete, das nächste von der Maschine erzeugte Gedicht zu sehen. Ich war überwältigt von der Schönheit der Gedichte; sie schienen von einem intelligenten Wesen produziert worden zu sein. Und da wusste ich, dass ich für den Rest meines Lebens daran arbeiten möchte, intelligente Maschinen zu erschaffen und Wege zu finden, mit ihnen zu kommunizieren.

Was halten Sie von Siri, Alexa und anderen persönlichen Assistenten?

Es ist lustig, darüber zu reden, denn einerseits sind wir sehr stolz auf diesen unglaublichen Fortschritt – jeder hat etwas in der Tasche, das wir hier vor vielen, vielen Jahren mitgestaltet haben, was wunderbar ist.

Foto von Boris Katz

MIT



Aber auf der anderen Seite sind diese Programme so unglaublich dumm. Es gibt also ein Gefühl, stolz zu sein und fast verlegen zu sein. Sie starten etwas, das die Leute für intelligent halten, aber es ist nicht einmal annähernd so.

Dank maschinellem Lernen hat die KI erhebliche Fortschritte gemacht. Macht das nicht Maschinen besser in der Sprache?

Auf der einen Seite gibt es diesen dramatischen Fortschritt, und dann wird ein Teil dieses Fortschritts aufgeblasen. Wenn Sie sich die Fortschritte beim maschinellen Lernen ansehen, sind alle Ideen vor 20 bis 25 Jahren entstanden . Es ist nur so, dass die Ingenieure schließlich großartige Arbeit geleistet haben, um diese Ideen Wirklichkeit werden zu lassen. Diese Technologie, so großartig sie auch ist, wird das Problem des wirklichen Verstehens – der wirklichen Intelligenz – nicht lösen.

Es scheint jedoch, als würden wir Fortschritte in der KI machen … (siehe 10 bahnbrechende Technologien: sanft sprechende persönliche Assistenten) ?

Pluto wieder ein Planet?

Auf sehr hohem Niveau sind moderne Techniken – statistische Techniken wie maschinelles Lernen und Deep Learning – sehr gut darin, Regelmäßigkeiten zu finden. Und weil Menschen normalerweise die meiste Zeit die gleichen Sätze produzieren, ist es sehr einfach, sie in der Sprache zu finden.

Sehen Sie sich den Worterkennungstext an. Die Maschine weiß besser als Sie, was Sie sagen werden. Man könnte das intelligent nennen, aber es zählt nur Wörter und Zahlen. Weil wir immer dasselbe sagen, ist es einfach, Systeme zu bauen, die die Regelmäßigkeiten erfassen und sich so verhalten, als wären sie intelligent. Dies ist die fiktive Natur eines Großteils des aktuellen Fortschritts.

Was ist mit dem gefährlichen spracherzeugenden Tool? kürzlich von OpenAI angekündigt ?

Impfnachweis usa

Diese Beispiele sind in der Tat sehr beeindruckend, aber ich bin mir nicht sicher, was sie uns lehren. Das OpenAI-Sprachmodell wurde auf 8 Millionen Webseiten trainiert, um das nächste Wort vorherzusagen, wenn alle vorherigen Wörter in einem Text enthalten sind (der sich auf dasselbe Thema bezog wie das, zu dem das Modell trainiert wurde). Dieser enorme Schulungsaufwand gewährleistete sicherlich die lokale Kohärenz (syntaktisch und sogar semantisch) des Textes.

Warum ist die KI Ihrer Meinung nach in der Sprache auf dem falschen Weg?

In der Sprachverarbeitung wurden wie in anderen Bereichen Fortschritte erzielt, indem Modelle mit riesigen Datenmengen – vielen Millionen Sätzen – trainiert wurden. Aber das menschliche Gehirn wäre mit diesem Paradigma nicht in der Lage, Sprache zu lernen. Wir lassen unsere Babys nicht mit einer Enzyklopädie in der Krippe zurück und erwarten, dass sie die Sprache beherrschen.

Wenn wir etwas sehen, beschreiben wir es in Sprache; Wenn wir jemanden über etwas sprechen hören, stellen wir uns vor, wie die beschriebenen Objekte und Ereignisse in der Welt aussehen. Menschen leben in einer physischen Umgebung, die mit visuellen, taktilen und sprachlichen sensorischen Eingaben gefüllt ist, und die Redundanz und Komplementarität dieser Eingaben ermöglicht es menschlichen Kindern, der Welt einen Sinn zu geben und gleichzeitig Sprache zu lernen. Vielleicht haben wir durch das isolierte Studium dieser Modalitäten das Problem eher erschwert als erleichtert?

Warum ist gesunder Menschenverstand wichtig?

Angenommen, Ihr Roboter hilft Ihnen beim Packen, und Sie sagen ihm: Dieses Buch würde nicht in die rote Kiste passen, weil es ist auch klein. Natürlich möchten Sie, dass Ihr Roboter das versteht Netz Kasten zu klein ist, um sich weiterhin sinnvoll unterhalten zu können. Allerdings, wenn man dem Roboter sagt: Dieses Buch würde da nicht in die rote Kiste passen es ist auch groß, Sie möchten, dass Ihr Roboter das versteht Buchen ist zu groß.

Zu wissen, auf welche Entität in einem Gespräch sich ein Pronomen bezieht, ist eine sehr häufige Aufgabe, die Menschen jeden Tag erledigen, und doch, wie Sie an diesen und anderen Beispielen sehen konnten, beruht sie oft auf einem tiefen Verständnis der Welt, das derzeit unerreichbar ist unserer Maschinen: Verständnis des gesunden Menschenverstandes und der intuitiven Physik, Verständnis der Überzeugungen und Absichten anderer, Fähigkeit zur Visualisierung und Begründung von Ursache und Wirkung und vieles mehr.

Sie versuchen, Maschinen mithilfe simulierter physikalischer Welten Sprache beizubringen. Warum ist das so?

Ich habe noch nie ein Baby gesehen, dessen Eltern eine Enzyklopädie in die Wiege gelegt und gesagt haben: Geh und lerne. Und das tun unsere Computer heute. Ich glaube nicht, dass diese Systeme so lernen, wie wir es wollen, oder die Welt so verstehen, wie wir es wollen.

was ist am Grund des Marianengrabens

Was mit Babys passiert, ist, dass sie sofort taktile Erfahrungen mit der Welt machen. Dann beginnen Babys, die Welt zu sehen und Ereignisse und Eigenschaften von Objekten aufzunehmen. Und dann hört das Baby schließlich sprachliche Eingaben. Und es ist dieser ergänzende Input, der die Magie des Verstehens bewirkt.

Was ist ein besserer Ansatz?

Ein Weg nach vorne besteht darin, ein besseres Verständnis der menschlichen Intelligenz zu erlangen und dieses Verständnis dann zu nutzen, um intelligente Maschinen zu schaffen. KI-Forschung muss auf Ideen aus Entwicklungspsychologie, Kognitionswissenschaft und Neurowissenschaft aufbauen, und KI-Modelle sollten widerspiegeln, was bereits darüber bekannt ist, wie Menschen lernen und die Welt verstehen.

Wirkliche Fortschritte werden nur dann erzielt, wenn die Forscher unsere Büros verlassen und anfangen, mit Leuten aus anderen Bereichen zu sprechen. Gemeinsam werden wir dem Verständnis von Intelligenz näher kommen und herausfinden, wie wir sie in intelligenten Maschinen replizieren können, die in unserer physischen Welt sprechen, sehen und operieren können.

Die Herausforderung, wirklich intelligente Maschinen zu schaffen, ist sehr schwierig, aber auch eine der wichtigsten Herausforderungen, die wir haben.

verbergen

Tatsächliche Technologien

Kategorie

Unkategorisiert

Technologie

Biotechnologie

Technologierichtlinie

Klimawandel

Mensch Und Technik

Silicon Valley

Computer

Mit News Magazine

Künstliche Intelligenz

Platz

Intelligente Städte

Blockchain

Reportage

Alumni-Profil

Alumni-Verbindung

Mit News Feature

1865

Meine Sicht

77 Mass Avenue

Treffen Sie Den Autor

Profile In Großzügigkeit

Auf Dem Campus Gesehen

Alumni-Briefe

Nachrichten

Wahl 2020

Mit Index

Unter Der Kuppel

Feuerwehrschlauch

Unendliche Geschichten

Pandemie-Technologieprojekt

Vom Präsidenten

Titelstory

Fotogallerie

Empfohlen