sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Kann ChatGPT durch GPTZero auf Dauer erkannt werden?
Kurator'in für: Klima und Wandel Fundstücke
Ole hat für die Bertelsmann Stiftung die internationale Blogger-Plattform Futurechallenges.org aufgebaut und beschäftigt sich dort nun mit den Wechselwirkungen von Digitalisierung und Nachhaltigkeit. Er ist Co-Founder der Menschenrechtsplattform www.futurechallenges.org und befasst sich mit der Fragen der Globalisierung, der Zukunft der Arbeit und mit den Wechselwirkungen von Digitalisierung und Nachhaltigkeit. Er schreibt auch auf www.netzpiloten.de, ist u.a. als selbständiger Berater zu digitalen Trends tätig und ist im Beirat des Colab_Digital aktiv. Alle hier geposteten Texte geben ausschließlich seine private Meinung wieder.
Dieser Text aus der New York Times fällt mal wieder, wie es so häufig bei Texten aus der NYT der Fall ist, durch eine geradezu brilliante Nutzung von Werkzeugen auf, um dem Leser die Funktion einer Künstlichen Intelligenz zu erklären.
Es geht um die KI-basierte Prüfung von Texten dahingehend, ob diesen vom Menschen oder einer KI erstellt wurden. ChatGPT basiert so wie andere Sprachmodelle auch auf reiner Statistik; jedes Wort, das einem Wort folgt, wird dort nach der Wahrscheinlichkeit des Auftretens in den Übungstexten, mit denen die KI trainiert wurde, platziert. Damit sind die durch eine KI erstellten Texte quasi "perfekte" Texte, da sie durchweg dieser statistischen konsistenten Gesetzmäßigkeit folgen. Damit hinterlassen sie aber auch einen Fingerabdruck. KI, die Texte auf ihren Ursprung hin analysieren sollen, suchen nun nach "Wasserzeichen" in den Texten. Diese Wasserzeichen sind statistische Unregelmäßigkeiten, die sich dadurch ergeben, dass eben nicht das wahrscheinlichste Wort einem Wort folgt, sondern ein alternatives Wort, das von der KI geplant eingesetzt wurde. Der Nachteil jeder verschlüsselten "Botschaft" im Sinne eines Wasserzeichens besteht aber darin, dass der ursprüngliche Schlüssel bekannt sein muss, um die spezielle KI zu identifizieren, die das Wasserzeichen erstellt hat.
Expert:innen sprechen im Text inzwischen vom "Wettrüsten" der KI- und der Kontroll-Software. So dauerte es 2 Monate, bis OpenAI selbst eine Kontroll-Software veröffentlichte. In diesem Zeitraum wurde aber schon von einem Studenten der Princeton University ein Kontroll-Werkzeug ins Netz gestellt - GPTZero - mit dem eine Überprüfung von Texten auf GPT-Ursprung möglich war.
Erschwert wird das Auffinden von Wasserzeichen des Weiteren durch weitere KI, die die speziellen Wahrscheinlichkeitsmuster einer KI wie GPT neu anordnet und damit die Quelle unkenntlich macht.
Der Text in der NYT wird durch eine Visualisierung unterstützt, die auf einmalig simple wie nachvollziehbare Weise die Vorgehensweisen der Sprachmodelle erklärt. Absolut empfehlenswert!
Quelle: Keith Collins Bild: ChatGPT EN www.nytimes.com
Kommentare
0
Bleib immer informiert! Hier gibt's den Kanal Fundstücke als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
