Neues Tool kann erkennen, ob etwas KI ist

Eine neue Studie ergab, dass ein von der University of Kansas entwickelter KI-Detektor KI-generierte Inhalte in wissenschaftlichen Arbeiten mit einer Genauigkeit von 99 % erkennen kann – einer der wenigen Detektoren auf dem Markt, die speziell auf akademisches Schreiben ausgerichtet sind.

Echter menschlicher Fehler? Vielleicht, aber zumindest keine künstliche Intelligenz.

Laut einem am Mittwoch in der Zeitschrift Cell Reports Physical Science veröffentlichten Bericht haben Forscher ein Tool entwickelt, das die KI-Erkennung in wissenschaftlichen Arbeiten mit einer Genauigkeit von 99 % nachweisen kann.

Das Forscherteam wählte 64 Perspektiven (eine Art Artikel) aus und erstellte daraus 128 Artikel mit ChatGPT, die dann zum Trainieren des KI-Detektors verwendet wurden.

Das Modell hatte eine Genauigkeitsrate von 100 % bei der Identifizierung von von Menschen erstellten Artikeln von KI-generierten Artikeln und eine Genauigkeitsrate von 92 % bei der Identifizierung bestimmter Absätze im Text.

Laut einer Umfrage von Study.com haben 89 % der College-Studenten zugegeben, ChatGPT zur Unterstützung bei Hausaufgaben zu nutzen, während 34 % der Pädagogen der Meinung sind, dass die Software verboten werden sollte, obwohl 66 % dafür sind, dass Studenten Zugang haben.

„Im Moment gibt es einige ziemlich eklatante Probleme beim KI-Schreiben“, sagte Hauptautorin Heather Desaire in einer Erklärung. „Eines der größten Probleme besteht darin, dass es Texte aus vielen Quellen zusammenstellt und es keinerlei Genauigkeitsprüfung gibt – es ist ein bisschen wie das Spiel „Zwei Wahrheiten und eine Lüge.“

KI-Detektoren haben sich nicht als 100 % genau erwiesen. Eine Studentin der University of California in Davis behauptet, sie sei von ihrer Universität fälschlicherweise des Betrugs mit KI beschuldigt worden. Nachdem sie eine Arbeit für einen ihrer Kurse hochgeladen hatte, erhielt sie eine E-Mail von ihrem Professor, in der es hieß, ein Teil sei im Programm Turnitin als KI-generiert gekennzeichnet worden. Ihr Fall wurde sofort an das Büro für Studentenunterstützung und Justizangelegenheiten weitergeleitet, das für Disziplinarmaßnahmen bei akademischem Fehlverhalten zuständig ist. Die Studentin vertrat ihren Fall und gewann schließlich, indem sie Zeitstempel verwendete, um zu beweisen, dass sie die Arbeit geschrieben hatte. Dies war nicht das einzige Mal, dass Pädagogen Aufgaben fälschlicherweise als KI-generiert bezeichneten. Ein texanischer A&M-Handelsprofessor versuchte, mehr als die Hälfte seiner Abschlussklasse durchzufallen, nachdem er mithilfe von ChatGPT getestet hatte, ob die Studenten den Chatbot zum Verfassen ihrer Arbeiten verwendeten. Er kopierte die Papiere, fügte sie in ChatGPT ein und fragte, ob das Unternehmen sie geschrieben habe, worauf das Unternehmen mit „Ja“ antwortete. Dies führte dazu, dass die Universität ihre Diplome einbehielt, obwohl der Professor ihnen die Möglichkeit bot, die Arbeit zu wiederholen. Allerdings bestätigte die Universität gegenüber Insider, dass keine Studenten durchgefallen sind oder vom Abschluss ausgeschlossen wurden.

Der Chatbot von OpenAI, ChatGPT, wurde im November 2022 der Öffentlichkeit zugänglich gemacht und überschritt in weniger als einer Woche die Marke von einer Million Nutzern, wobei er beispielsweise zum Erstellen von Code und zum Schreiben von Aufsätzen verwendet wurde. Die Intelligenz der KI führte dazu, dass mehrere Schulen die Software entweder auf unbestimmte Zeit oder vorübergehend verboten, darunter die New York Public Schools, die Seattle Public Schools und der Los Angeles Unified School District.

Es gibt bereits viele bestehende Programme und Dienste, die versprechen, KI-geschriebene Inhalte zu identifizieren.

ChatGPT in Schulen: Hier erfahren Sie, wo es verboten ist – und wie es Schülern möglicherweise helfen könnte (Forbes)

Hier erfahren Sie, was Sie über ChatGPT von OpenAI wissen sollten – was es stört und wie man es nutzt (Forbes)