Der Kongress will Antworten von Google zur Entlassung von Timnit Gebru

Yvette Clarke

Vertreterin Yvette ClarkeAP-Foto/Kathy Willens



Neun Mitglieder des US-Kongresses haben Google in einem Brief gebeten, die Umstände rund um den erzwungenen Abgang seines ehemaligen Co-Leads für ethische KI, Timnit Gebru, zu klären. Angeführt von der Abgeordneten Yvette Clarke und Senator Ron Wyden und gemeinsam unterzeichnet von den Senatoren Elizabeth Warren und Cory Booker, der Buchstabe sendet ein wichtiges Signal darüber, wie der Kongress Technologiegiganten unter die Lupe nimmt und über bevorstehende Regulierungen nachdenkt.

Gebru, eine führende Stimme in der KI-Ethik und eine der wenigen schwarzen Frauen bei Google, war es kurzerhand entlassen vor zwei Wochen, nach einer langwierigen Meinungsverschiedenheit über eine Forschungsarbeit. Das Papier detailliert die Risiken großer KI-Sprachmodelle trainiert mit enormen Mengen an Textdaten, die eine Kernlinie der Google-Forschung darstellen und verschiedene Produkte antreiben, einschließlich der lukrativen Google-Suche.

zoho ein kommerzielles lied

Unter Berufung auf die Berichterstattung von MIT Technology Review wirft der Brief drei Probleme auf: das Potenzial für Verzerrungen in großen Sprachmodellen, den wachsenden Einfluss von Unternehmen auf die KI-Forschung und die mangelnde Vielfalt von Google. Es bittet Google-CEO Sundar Pichai um einen konkreten Plan, wie es jeden dieser Punkte angehen wird, sowie um seine aktuelle Politik zur Überprüfung von Forschungsergebnissen und Einzelheiten zu seiner laufenden Untersuchung des Ausstiegs von Gebru (Pichai verpflichtete sich zu dieser Untersuchung in eine interne Notiz , zuerst veröffentlicht von Axios). Als Mitglieder des Kongresses, die aktiv bestrebt sind, die KI-Forschung, Rechenschaftspflicht und Vielfalt durch Gesetzgebung und Aufsicht zu verbessern, bitten wir respektvoll um Ihre Anfrage zu den folgenden Anfragen, heißt es in dem Schreiben.

Im April 2019 stellten Clarke und Wyden einen Gesetzentwurf vor, den Algorithmic Accountability Act , die große Unternehmen dazu verpflichten würde, ihre maschinellen Lernsysteme auf Verzerrungen zu prüfen und rechtzeitig Korrekturmaßnahmen zu ergreifen, wenn solche Probleme festgestellt werden. Außerdem müssten diese Unternehmen alle Prozesse mit sensiblen Daten – einschließlich persönlich identifizierbarer, biometrischer und genetischer Informationen – auf Datenschutz- und Sicherheitsrisiken prüfen. Damals lobten viele Rechts- und Technologieexperten den Gesetzentwurf für sein differenziertes Verständnis von KI und datengesteuerten Technologien. Toller erster Schritt, schrieb Andrew Selbst, Assistenzprofessor an der University California Los Angeles School of Law, auf Twitter. Erfordert Dokumentation, Bewertung und Versuche, die vorhersehbaren Auswirkungen anzugehen. Das ist neu, aufregend und unglaublich notwendig.



Wir haben die Zeitung gelesen, die Timnit Gebru aus Google verdrängt hat. Hier ist, was es sagt.

Der Star-Ethikforscher des Unternehmens hob die Risiken großer Sprachmodelle hervor, die für das Geschäft von Google von entscheidender Bedeutung sind.

Der jüngste Brief knüpft nicht direkt an den Algorithmic Accountability Act an, aber er ist Teil des gleichen Schritts bestimmter Kongressmitglieder, Gesetze zu erarbeiten, die die KI-Voreingenommenheit und die anderen Nachteile datengesteuerter, automatisierter Systeme mildern würden. Insbesondere kommt es angesichts des wachsenden Drucks für eine Kartellregulierung. Anfang dieses Monats, die US Federal Trade Commission eine Kartellklage eingereicht gegen Facebook wegen wettbewerbswidrigen Verhaltens und unlauterer Wettbewerbsmethoden. Im Laufe des Sommers veröffentlichte House Democrats einen 449-seitigen Bericht über die monopolistischen Praktiken von Big Tech.

Der Brief steht auch im Zusammenhang mit zunehmenden geopolitischen Spannungen. Da die Beziehungen zwischen den USA und China während der Pandemie ein Allzeittief erreicht haben, haben US-Beamte die strategische Bedeutung aufkommender Technologien wie KI und 5G unterstrichen. Der Brief hebt auch diese Dimension hervor und würdigt die Führungsrolle von Google im Bereich KI und seine Rolle bei der Aufrechterhaltung der US-Führungsrolle. Aber es macht deutlich, dass damit regulatorische Maßnahmen nicht ausgehöhlt werden dürfen, eine Argumentationslinie populär gemacht von Facebook-CEO Mark Zuckerberg . Um sicherzustellen, dass Amerika das KI-Rennen gewinnt, heißt es in dem Brief, müssen amerikanische Technologieunternehmen nicht nur in Sachen Innovation weltweit führend sein; Sie müssen auch sicherstellen, dass solche Innovationen die Werte unserer Nation widerspiegeln.

Unser Brief sollte jeden im Technologiesektor, nicht nur Google, darauf aufmerksam machen, dass wir darauf achten, sagte Clarke in einer Erklärung gegenüber MIT Technology Review. Ethische KI ist das Schlachtfeld für die Zukunft der Bürgerrechte. Unsere Besorgnis über die jüngsten Entwicklungen betrifft nicht nur eine Person; Sie handeln davon, wie das 21. Jahrhundert aussehen wird, wenn akademische Freiheit und Inklusion anderen Prioritäten gegenüber in den Hintergrund treten. Wir können die algorithmische Voreingenommenheit nicht mildern, wenn wir diejenigen behindern, die versuchen, sie zu erforschen und zu studieren.



Wie lange wird ein Magnet eine Glühbirne mit Strom versorgen?
verbergen

Tatsächliche Technologien

Kategorie

Unkategorisiert

Technologie

Biotechnologie

Technologierichtlinie

Klimawandel

Mensch Und Technik

Silicon Valley

Computer

Mit News Magazine

Künstliche Intelligenz

Platz

Intelligente Städte

Blockchain

Reportage

Alumni-Profil

Alumni-Verbindung

Mit News Feature

1865

Meine Sicht

77 Mass Avenue

Treffen Sie Den Autor

Profile In Großzügigkeit

Auf Dem Campus Gesehen

Lerne Den Autor Kennen

Alumni-Briefe

Nicht Kategorisiert

77 Massenallee

Rechnen

Tech-Richtlinie

Lernen Sie Den Autor Kennen

Nachrichten

Wahl 2020

Mit Index

Unter Der Kuppel

Feuerwehrschlauch

Unendliche Geschichten

Pandemie-Technologieprojekt

Vom Präsidenten

Titelstory

Fotogallerie

Empfohlen