ChatGPT ist ein unfassbar praktisches Tool, welches nicht nur privat häufig Anwendung findet, sondern auch im Beruf einiges erleichtern kann. So fasst dir die künstliche Intelligenz von OpenAI E-Mails zusammen oder hilft dir bei der Formulierung der passenden Antwort. Auch für eine grundlegende Recherche kann die KI hilfreich sein. Allerdings ist das mit Vorsicht zu genießen, wie ein aktueller Fall aus den USA zeigt.
Anwälte nutzen ChatGPT für Fallrecherche
Und zwar haben zwei Anwälte aus den USA ChatGPT verwendet, um für ihre Fallvorbereitung Präzedenzfälle zu recherchieren. Immerhin handelt es sich hierbei um eine sehr aufwendige Arbeit, die oft etliche Stunden in Anspruch nimmt. Da ChatGPT zumindest auf einen Datenspeicher bis 2021 zurückgreift, kann man erst einmal davon ausgehen, dass man hiermit diese Zeit einsparen könnte.
Die Fallvorbereitung bezog sich auf die Klage eines Passagiers, der mit der Fluggesellschaft Avianca seine Reise unternahm, erklärt der Spiegel. Beim Flug habe er einen Stoß des Servierwagens gegen sein Knie erlitten und reichte Klage ein. Die Anwälte haben dann mit ChatGPT ähnliche Fälle recherchiert, welche die KI sogar samt Aktenzeichen ausgab.
Präzedenzfälle vollständig erlogen
Womit die beiden Juristen jedoch scheinbar nicht gerechnet haben, ist, dass sich die OpenAI-KI die Fälle teilweise vollständig ausgedacht hat. Wie es scheint, fand auch keine Prüfung des Wahrheitsgehaltes durch die Amerikaner Steven Schwartz und Peter LoDuca statt. So verwies man gemeinsam auf „Petersen gegen Iran Air“ oder „Martinez gegen Delta Airlines“. Beide Fälle hat es jedoch nie gegeben.
Die insgesamt sechs fehlerhaften Zitate im Schriftsatz wurden stattdessen durch den zuständigen Richter enttarnt. Als er das Anwaltsduo zur Rede stellte, verneinten diese erst den Einsatz von KI, bis sie letztendlich doch klein beigaben. Für den Richter handelte es sich hierbei um eine böswillige Irreführung des Gerichts. Schwartz und LoDuca hingegen geben sich naiv: „Wir waren gutgläubig, weil wir nicht geglaubt haben, dass ein Stück Technologie Fälle aus dem Nichts erfinden könnte“. Der Richter verhängte anschließend eine Strafzahlung von 50.000 Dollar.
Die Moral von der Geschicht‘? Glaub ChatGPT nicht
Inwiefern die beiden Anwälte über den lügenden Charakter von ChatGPT im Vorhinein womöglich wussten, lässt sich nur mutmaßen. Mindestens aber ist das ungeprüfte Verwenden der Aussagen fahrlässig. Hierbei handelt es sich schließlich bei weitem nicht um die erste Geschichte, wo der Wahrheitsgehalt der KI-Aussagen zu wünschen übrig lässt.
Generell gilt, dass man den Einsatz von ChatGPT bei der Arbeit überdenken solle. Wir nennen dir daher in unserem separaten Artikel drei Sachen, die du ChatGPT niemals über deinen Job wissen lassen solltest. Im schlimmsten Fall bist du deine Anstellung sonst blitzschnell los.
Quelle: Spiegel
Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.