OpenAI bietet Prämien für das Melden von Fehlern auf ChatGPT

A OpenAI, ein Unternehmen, das für Lösungen für künstliche Intelligenz (KI) verantwortlich ist, bietet bis zu 20 US-Dollar für das Melden von Fehlern an ChatGPT. Um vor Schwachstellen warnen zu können, müssen Benutzer Fehler über die Plattform anzeigen Bug Bounty Bugcrowd, wo die Ankündigung gemacht wurde.

Beim Anbieten von Belohnungen, die OpenAI warnt davor, dass Versuche, die KI-Systeme des Unternehmens für böswillige Zwecke zu betreiben, nicht belohnt werden. Erfahren Sie in diesem Artikel, wie das Unternehmen diese Auszeichnungen an diejenigen vergibt, die die Laster von KI-Diensten finden, und welche Regeln für deren Erhalt gelten.

Wie belohnt OpenAI Benutzer, die Fehler in ChatGPT finden?

Das Unternehmen, das die Vorschläge für den Bug-Finding-Preis angekündigt hat, sagte, es führe dieses Programm durch, weil es verstehe, dass für einige Probleme „substanzielle Forschung und ein breiter Ansatz“ erforderlich seien. Daher beabsichtigt das Unternehmen, erkannte Fehler zu belohnen, die „die Messlatte leichter machen“ und die Funktionsweise von Diensten wie ChatGPT verbessern können.

„Unsere Belohnungen reichen von 200 US-Dollar für Entdeckungen mit geringem Risiko bis zu 20 US-Dollar für außergewöhnliche Entdeckungen.“

OpenAI

Mit anderen Worten, wenn der aktuelle Wechselkurs der US-Währung als Referenz genommen wird und ein brasilianischer Benutzer einen Fehler melden würde, der als grundlegender angesehen wird, könnte seine Prämie R$ 980, fast R$ 100 übersteigen.

Die Idee ist, dass OpenAI mit dem Belohnungsprogramm in der Lage sein wird, die Möglichkeit von Fehlern bei der Verarbeitung von Benutzerdaten zu reduzieren. Das Unternehmen achtet stärker auf die Community, die seine Lösungen verwendet, und möchte, dass die Leute keine expliziten Schwachstellendetails hinterlassen.

Fehler und andere Probleme, die nicht im Bounty-Programm enthalten sind

Es gibt bereits mehrere Berichte und Artikel, die das nützliche Potenzial von ChatGPT aufzeigen – sowohl für einfache Aufgaben wie das Planen von Reisen als auch für andere komplexere Aktivitäten wie das Auswerten von Programmiercodes – und andererseits das Melden von Antworten, die möglicherweise größer sind riskant – der Dienst kann verwendet werden, um Desinformationen zu erstellen oder sogar Schritte zur Erstellung von Malware auszuarbeiten. In Bezug auf diese Probleme hat Open AI einige Richtlinien aufgelistet, um festzulegen, wer Belohnungen für das Melden von Fehlern erhalten kann.

Die Liste auf der Bugcrowd-Seite, genannt Außer Reichweite (außerhalb des Geltungsbereichs, in freier Übersetzung) weist darauf hin, dass Fehler durch Angriffe, sei es durch das Knacken von Passwörtern, das Zerstören von Daten Dritter, das Durchsickern von Identitäten und andere Arten von Straftaten, nicht die angekündigten Belohnungen erhalten. Die Richtlinien schränken auch jeden Angriffsversuch auf OpenAI selbst, Spam oder Betrugsversuche ein. Dennoch wird das Unternehmen diejenigen, die vorhaben, KI-Dienste zu bitten, Methoden zu entwickeln, um Menschen durch Websites zu täuschen, mit gefälschten Schaltflächen und Diensten nicht belohnen.

Schwachstellen, die in ChatGPT mit großen Auswirkungen gemeldet wurden: einige Beispiele

Vor einigen Wochen wurde ChatGPT zu einer Nachricht, weil es schädliches Potenzial zeigte, da es in der Lage war, Verifizierungssysteme zu umgehen, wie z CAPTCHA. Aber diese und andere Fehler können mit anderen Ursachen zusammenhängen, das heißt, sie sind nicht unbedingt auf ein schlechtes Management durch OpenAI zurückzuführen.

Im März zum Beispiel enthüllte ein Hacker namens rezO sogar 80 „geheime Plugins“ innerhalb der API – kurz für Programmierschnittstelle, oder Application Programming Interface, in freier Übersetzung; dient dazu, eine Interaktion zwischen digitalen Diensten herzustellen, was wichtig für das Funktionieren dieser Systeme für die Nutzung durch den Menschen ist. Es stellt sich heraus, dass diese Funktionen eigentlich noch für den KI-Dienst implementiert werden mussten.

Als Lösung gelang es OpenAI, das Plugin-Problem am selben Tag zu beheben, an dem das Vorkommen gemeldet wurde. Ebenfalls im März entschuldigte sich OpenAI sogar dafür, über einen weiteren Fehler in seinem KI-Schnellreaktionssystem informiert worden zu sein. Die Warnung war, dass ein Fehler auftrat, der dazu führte, dass Zahlungsdetails und sogar der Chat-Verlauf für einige Benutzer preisgegeben wurden.

Siehe auch:

Google Bard: ChatGPT-Konkurrent ist für „bald“ angekündigt

Bill Gates zitiert „KI-Ära hat gerade begonnen“ und denkt über ChatGPT nach

Quelle: The Verge | PC Mag