Der Chatbot steht bereits seit einigen Monaten im öffentlichen Fokus. Nun startet das Unternehmen hinter ChatGPT ein Programm, das die Weiterentwicklung derartiger KI-Tools vorantreiben soll. Mitwirkende können dabei bis zu 18.200 Euro (20.000 US-Dollar) verdienen – wenn sie Fehler aufdecken.

ChatGPT-Fehlersuche gegen Geld: Das steckt dahinter

Am 11. April veröffentlichte OpenAI die Ankündigung zum eigenen Bug-Bounty-Programm. Teilnehmende erhalten darüber zwischen 200 und 6.500 US-Dollar (der Maximalbetrag liegt bei 20.000 US-Dollar). Das hängt davon ab, welche Schwere die Fehler, die sie bei ChatGPT, ChatGPT-4 und anderen Tools ausfindig machen, aufweisen.

„Diese Initiative ist ein wesentlicher Bestandteil unseres Engagements für die Entwicklung sicherer und fortschrittlicher KI. Bei der Entwicklung von Technologien und Diensten, die sicher, zuverlässig und vertrauenswürdig sind, brauchen wir Ihre Hilfe.“
OpenAI

Letzten Monat hat der Präsident und Mitbegründer von OpenAI, Greg Brockman, in einem Tweet den Start eines solchen Programms angedeutet. Darin heißt es unter anderem: „Wir erwägen auch die Einrichtung eines Kopfgeldprogramms/Netzwerks von Red-Teamern!“

An dieser Stelle befindet sich ein externer Inhalt von Twitter, der von unserer Redaktion empfohlen wird. Er ergänzt den Artikel und kann mit einem Klick angezeigt und wieder ausgeblendet werden.

Ich bin damit einverstanden, dass mir dieser externe Inhalt angezeigt wird. Es können dabei personenbezogene Daten an den Anbieter des Inhalts und Drittdienste übermittelt werden.

Anm. d. Redaktion: Ein Red Team ist eine unabhängige Gruppe, die bei einer Organisation oder einem Unternehmen eine Verbesserung der Effektivität im Sicherheitsmanagement bewirken soll, indem sie als Gegner auftritt.

Lesetipp: ChatGPT sagt Lottozahlen voraus und gewinnt

So kannst du dich anmelden

Zum aktuellen Stand (12. April, 17:33 Uhr) zeichnete man bereits 14 Sicherheitslücken rund um ChatGPT und Co. aus. Die durchschnittliche Belohnung lag laut OpenAI dabei bei 1.287,50 US-Dollar (1.172,72 Euro).

Es gibt jedoch auch eine Reihe an Problemen, die nicht belohnt werden. Darunter „das Modell dazu bringen, schlechte Dinge zu sagen“ und „das Modell dazu bringen, bösartigen Code für Sie zu schreiben“.

Um den Einreichungs- und Belohnungsprozess zu verwalten, arbeitet OpenAI mit Bugcrowd zusammen, einer Plattform, die Unternehmen mit einer Vielzahl von Sicherheitsforschern zusammenbringt.

Neue Einsendungen sollen laut OpenAI innerhalb von zwei Stunden angenommen oder abgelehnt werde. Diese kannst du über die entsprechende Seite bei Bugcrowd einreichen.

Quellen: OpenAI, Twitter/@gdb, Bugcrowd

Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.