Eine neue Reihe von Bildern, die die KI täuschen, könnte dazu beitragen, sie hacksicherer zu machen

Foto, das einen Pilz, eine Libelle und ein Eichhörnchen zeigt, die alle fälschlicherweise als Brezel, Gullydeckel und Seelöwe bezeichnet wurden

Foto, das einen Pilz, eine Libelle und ein Eichhörnchen zeigt, die alle fälschlicherweise als Brezel, Gullydeckel und Seelöwe bezeichnet wurdenUnsplash: Florian Van Duyn / Krzysztof Niewolny / Pranay Pareek



Künstliche Intelligenz ist großartig darin, Objekte in Bildern zu identifizieren, aber es ist immer noch ziemlich einfach, sie zu vermasseln. Fügen Sie ein paar ausgewählte Striche hinzu oder schichten Sie statisches Rauschen ein, das für das menschliche Auge unsichtbar ist, und Sie können ein Bilderkennungssystem ausschalten, manchmal mit tödlicher Wirkung. Das Anbringen von Aufklebern an einem Stoppschild kann ein selbstfahrendes Auto glauben machen, dass auf dem Schild beispielsweise eine Geschwindigkeitsbegrenzung von 45 Meilen pro Stunde steht, während das Anbringen auf einer Straße einen Tesla dazu bringen kann, auf die Gegenfahrbahn auszuweichen. (Auf der positiven Seite können dieselben Techniken Sie auch vor dem Überwachungsstaat schützen. Sie gewinnen einige, Sie verlieren einige.)

All dies ist als gegnerische Beispiele bekannt – und Forscher bemühen sich nun, Wege zu finden, KI-Systeme vor ihnen zu schützen. Aber in einem Papier Letztes Jahr argumentierte eine Gruppe von Forschern bei Google Brain und Princeton, darunter einer der frühesten Forscher zu diesem Thema, Ian Goodfellow, dass die aufkommende Wissenschaft zu theoretisch sei und den Punkt verfehle.





Während sich der Großteil der Forschung darauf konzentrierte, Systeme vor speziell entworfenen Störungen zu schützen, würde ein Hacker wahrscheinlich ein stumpferes Werkzeug wählen: ein völlig anderes Foto anstelle eines Rauschmusters, um es auf ein vorhandenes zu legen. Auch dies könnte zu Fehlverhalten des Systems führen.

Die Kritik veranlasste Dan Hendrycks, einen Doktoranden an der University of California, Berkeley, eine neuer Bilddatensatz . Er nennt die darin enthaltenen Bilder natürliche gegnerische Beispiele – ohne besondere Anpassungen täuschen sie ein System sowieso.

Dazu gehören Dinge wie ein Eichhörnchen, das von gängigen Systemen fälschlicherweise als Seelöwe bezeichnet wird, oder eine Libelle, die sie fälschlicherweise als Gullydeckel identifizieren. Gegen diese Beispiele scheint es viel schwieriger zu sein, sich zu wehren, sagt er. Synthetische gegnerische Beispiele müssen alle Abwehrmechanismen des KI-Systems kennen, um am effektivsten zu sein. Im Gegensatz dazu können natürliche Beispiele ziemlich gut funktionieren, selbst wenn sich diese Abwehrkräfte ändern, sagt er.



Hendrycks veröffentlichte letzte Woche auf der International Conference on Machine Learning eine frühe Version des Datensatzes mit rund 6.000 Bildern. Er plant, in ein paar Wochen eine endgültige Version mit fast 8.000 herauszubringen. Er beabsichtigt, dass die Forschungsgemeinschaft den Datensatz als Benchmark verwendet.

Mit anderen Worten, sie sollten Bilderkennungssysteme nicht direkt auf die Bilder trainieren, sondern sie nur für Tests reservieren. Wenn die Leute nur mit diesem Datensatz trainieren würden, würde das nur das Auswendiglernen dieser Beispiele bedeuten, sagt er. Das wäre die Lösung des Datensatzes, aber nicht die Aufgabe, gegenüber neuen Beispielen robust zu sein.

Das Knacken der Logik hinter den manchmal verwirrenden Fehlern, die die Beispiele verursachen, könnte zu widerstandsfähigeren Systemen führen. Wie verwechselt das eine Libelle mit Guacamole? Hendrycks Witze. Es ist nicht ganz klar, warum überhaupt der Fehler gemacht wird.

verbergen

Tatsächliche Technologien

Kategorie

Unkategorisiert

Technologie

Biotechnologie

Technologierichtlinie

Klimawandel

Mensch Und Technik

Silicon Valley

Computer

Mit News Magazine

Künstliche Intelligenz

Platz

Intelligente Städte

Blockchain

Reportage

Alumni-Profil

Alumni-Verbindung

Mit News Feature

1865

Meine Sicht

77 Mass Avenue

Treffen Sie Den Autor

Profile In Großzügigkeit

Auf Dem Campus Gesehen

Alumni-Briefe

Nachrichten

Wahl 2020

Mit Index

Unter Der Kuppel

Feuerwehrschlauch

Unendliche Geschichten

Pandemie-Technologieprojekt

Vom Präsidenten

Titelstory

Fotogallerie

Empfohlen