Mensch oder Maschine? Erfinder von umstrittenem Text-Roboter ChatGPT starten Erkennungstool
Gegen den Text-Roboter ChatGPT gibt es bei aller Begeisterung viele Vorbehalte. Er könne beispielsweise beim Schummeln in der Schule oder an der Uni helfen. Doch künftig soll ein neues Tool KI-generierte Texte und von Menschen geschriebene Inhalte unterscheiden können.
New York – Die Macher der schreibenden Software ChatGPT versuchen nun, die Folgen ihrer Erfindung in den Griff zu bekommen. Die Entwicklerfirma OpenAI veröffentlichte ein Programm, das unterscheiden soll, ob ein Text von einem Menschen oder einem Computer geschrieben wurde. ChatGPT kann menschliche Sprache so gut nachahmen, dass es unter anderem Sorgen gibt, damit könnten bei Schul- und Studienarbeiten geschummelt oder im großen Stil Desinformationskampagnen erstellt werden.
Noch funktioniert die Erkennung allerdings schlecht, wie OpenAI in einem Blogeintrag am Dienstag einräumte. In Testläufen habe die Software in 26 Prozent der Fälle korrekt von einem Computer geschriebene Texte identifiziert. Zugleich seien aber auch neun Prozent der von Menschen formulierten Texte fälschlicherweise einer Maschine zugeordnet worden. Deshalb empfehle man vorerst, sich bei der Bewertung der Texte nicht hauptsächlich auf die Einschätzung des „Classifiers" zu verlassen.
ChatGPT ist eine Software auf Basis künstlicher Intelligenz, die auf gewaltigen Mengen von Texten und Daten trainiert wurde, menschliche Sprache nachzuahmen. OpenAI machte ChatGPT im vergangenen Jahr öffentlich zugänglich und löste damit Bewunderung für die Fähigkeiten der Software und die Sorge vor Betrug aus.
Das System überzeugt vor allen durch die sprachliche Qualität seiner Antworten. Zugleich können sich die Nutzerinnen und Nutzer aber nicht darauf verlassen, das ChatGPT auch tatsächlich wahrheitsgetreu antwortet und die Fakten richtig auf die Reihe bekommt. Kritiker des Systems stören sich außerdem daran, dass das KI-System keine Quellen für seine Aussagen nennen kann.
Einschränkungen des Erkennungs-Tools
Die zur kostenlosen Nutzung bereitgestellte Prüf-Software soll im Vergleich zu bisher veröffentlichten Erkennungs-Tools deutlich akkurater Texte erkennen können, die von neueren KI-Systemen stammen. Die Macher selbst geben aber gleichwohl einige Einschränkungen bekannt:
- Aktuell erfordert das Tool mindestens 1000 Zeichen, was etwa 150 bis 250 Wörtern entspricht.
- Nachträglich bearbeiteter KI-Text wird deutlich seltener richtig erkannt.
- Bei Texten, die von Kindern geschrieben wurden und bei Texten, die nicht in englischer Sprache verfasst sind, liegt der „AI Text Classifier" häufig falsch.
Vor allem im Bildungsbereich wird diskutiert, wie Inhalte eines Text-Roboters entlarvt werden können. Mit einem klassischen Plagiat-Scanner, mit dem man die Authentizität von Texten wirksam überprüfen kann, kommt man nicht weiter. Diese Scanner überprüfen nur, ob der Text oder Teile davon bereits in anderen Quellen vorkommen. Der KI-Schreiber von ChatGPT produziert aber einzigartige Texte, die exakt so noch nie formuliert wurden.
Bei OpenAI ist auch der Einsatz von einer Art digitalem Wasserzeichen für ChatGPT im Gespräch, das für menschliche Augen nicht erkennbar wäre. Eine spezielle Überprüfungsoftware würde dann aber signalisieren, ob es sich um einen KI-Text handelt oder nicht.
Kommt bald Googles Chatbot?
Der Hype um ChatGPT schreckt nun auch die Konkurrenz auf. Vor allem der Google-Konzern Alphabet sieht darin eine ernsthafte Gefahr für das eigene Geschäftsmodell. Google entwickelt zwar ebenfalls seit Jahren Software, die wie ein Mensch schreiben und sprechen kann, sah bisher aber vor einer Veröffentlichung ab. Nun lasse der Internet-Konzern aber Mitarbeiter einen Chatbot testen, der ähnlich wie ChatGPT funktioniere, berichtete der Sender CNBC in der Nacht auf Mittwoch. In einer internen E-Mail heiße es, dass eine Antwort auf ChatGPT Priorität habe. Google experimentiere auch mit einer Version seiner Internet-Suchmaschine, die mit Fragen und Antworten arbeite. (APA/dpa)
📱 Tipps & Tricks für den Alltag
Wer bin ich und was kann ich überhaupt? Das KI-Tool „ChatGPT“ im TT-Interview
📱 KI-Tool im Test
„Superspreader von Fake-News“: Faktenchecker kritisieren Botsoftware ChatGPT
📱 Überlastetes System
20 Dollar pro Monat: ChatGPT bekommt Bezahlversion mit Abo-Modell
📱 KI erobert Klassenzimmer