Gerade zur Anfangszeit von ChatGPT, die sich beinahe jährt, haben etliche Journalistinnen und Journalisten mit der Technologie herumexperimentiert. Es dauerte nicht lange bis erste Meldungen zu Falschinformationen oder Plagiaten durch KI für Schlagzeilen sorgten. Ein wirklich peinlicher Fehler dieser Art ist nun Microsoft unterlaufen.
Microsoft-KI empfiehlt Restaurantbesuch
Zu Microsoft gehört unter anderem die News-Webseite msn.com. Dort findet sich News aus nahezu allen Bereichen des Lebens, unter anderem Empfehlungen für Tourist*innen in Kanada. So fragt man sich während seines Aufenthalts in der Hauptstadt Ottawa etwa, wo man schön essen gehen könnte.
Nun ja, laut einem Text auf dem Nachrichtenportal solle man es doch gerne mal bei der Ottawa Food Bank versuchen. Hierbei handelt es sich um die kanadische Tafel. Darunter hinaus, so berichtet es ein Twitter- bzw. X-User, hieß es von der Microsoft-KI weiterhin, dass man am besten mit leerem Magen hingehen solle. Darauf wäre wohl sonst niemand bei einem Restaurantbesuch gekommen.
Jeff Jones spricht von „menschlichem Versagen“
Das war wohl Microsoft derart peinlich, dass man den Reisetext dazu kurzerhand offline nahm. Klickt man auf den Link, landet man lediglich auf der Startseite von msn.com. Allerdings gibt es eine für jeden einsehbare Kopie bei imgur.com. Darin ist klar zu sehen, dass die Ottawa Food Bank samt prominentem Foto auf Platz 3 der Top-Empfehlungen für die kanadische Hauptstadt landete.
Der Begleittext dazu demonstriert obendrein die Schwächen der Technologie. Darin wird erklärt, dass es sich um ein Projekt für einkommensschwache Menschen handelt, wo sich nicht nur um das Verteilen kostenloser Mahlzeit gekümmert, sondern auch Recherche betrieben wird. Das es sich hierbei ganz automatisch nicht um einen Ort handelt, den man nicht in einem Reiseführer empfehlen sollte, kann die künstliche Intelligenz nicht verstehen.
Dafür braucht es Kontrollinstanzen, die laut einem Statement von Jeff Jones, leitendem Microsoft Director, bei diesem Text versagt haben (via The Verge):
„Dieser Artikel wurde entfernt und wir haben festgestellt, dass das Problem auf menschliches Versagen zurückzuführen ist. Der Artikel wurde nicht von einer unbeaufsichtigten KI veröffentlicht. Wir kombinieren die Leistungsfähigkeit der Technologie mit der Erfahrung von Content-Redakteuren, um Geschichten ans Licht zu bringen. In diesem Fall wurde der Inhalt durch eine Kombination algorithmischer Techniken mit menschlicher Überprüfung generiert, nicht durch ein großes Sprachmodell oder KI-System. Wir arbeiten daran, sicherzustellen, dass diese Art von Inhalten in Zukunft nicht mehr veröffentlicht wird.“
Jeff Jones via The Verge
Derweil heißt es seitens Samantha Koziara, Kommunikationsmanagerin bei der Ottawa Food Bank, das man mit so einer Neuigkeit natürlich nicht in der Öffentlichkeit stehen will. Insbesondere den Part, dass man mit leerem Magen kommen solle, findet sie derartig unsensibel, dass er nur von einer KI stammen könne. Für sie bestätigt diese Microsoft-Blamage, dass es daher umso wichtiger ist, Redakteurinnen und Redakteure aus Fleisch und Blut an den News auf msn.com und sondergleichen zu haben.
Quelle: The Verge, @parismarx / Twitter bzw. X
Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.