Reddit antwortete am 28. April auf die Nachricht, dass eine Gruppe von Forschern ein geheimes Experiment mit Chatbots für künstliche Intelligenz in einem der beliebtesten Subreddit -Foren durchgeführt hatte. Die Handlungen der an dem Experiment beteiligten Handlungen haben Fragen darüber aufgeworfen, ob Täuschung bei der Durchführung von Forschungen zu menschlichen Probanden jemals gerechtfertigt ist.
KI -Infiltration
Ein Team von ungenannten Forschern der Universität Zürich führte ein nicht autorisiertes, monatelanges Experiment an Reddit-Benutzern in der R/Changemyview (CMV) Subreddit durch und stellte Dutzende von Dutzenden ein Sie haben Bots Angetrieben von großsprachigen Modellen (LLMs), um an Debatten teilzunehmen umstritten Themen. Der Subreddit lädt die Menschen ein, ihre Gesichtspunkte zu teilen, und löste Gespräche zwischen denjenigen mit unterschiedlichen Perspektiven aus.
Das Team verwendete über ein Dutzend Konten von AI Bots, um mehr als 1.700 Kommentare im Forum zu generieren. In einigen Fällen behaupteten die Bots, sie seien „Vergewaltigungsüberlebende, arbeiteten mit Traumapatienten oder schwarzen Menschen, die gegen die Black Lives Matter -Bewegung waren“, um die Bewegung der Black Lives Matter zu haben „,“ 404 Medien sagte. Die Forscher verwendeten einen anderen KI -Datenschaber, um die Veröffentlichungsgeschichte der Menschen zu analysieren und persönliche Informationen zu identifizieren, die die Wirksamkeit der Antworten der Bots auf sie verbessern würden, wie „Alter, Rasse, Geschlecht, Ort und politische Überzeugungen“.
Abonnieren Sie die Woche
Entkommen Ihrer Echokammer. Holen Sie sich die Fakten hinter den Nachrichten sowie Analysen aus mehreren Perspektiven.
Abonnieren & speichern
Melden Sie sich für die kostenlosen Newsletter der Woche an
Von unserem Morgennachrichten -Briefing bis zu einem wöchentlichen guten Nachrichten -Newsletter erhalten Sie das Beste der Woche direkt an Ihren Posteingang.
Von unserem Morgennachrichten -Briefing bis zu einem wöchentlichen guten Nachrichten -Newsletter erhalten Sie das Beste der Woche direkt an Ihren Posteingang.
Keiner der Reddit -Benutzer, die experimentiert wurden, wurde über das Experiment informiert, und sie gaben auch nicht die Zustimmung. Die Forscher konnten die Moderatoren des Subreddit trotz des Forums auch nicht benachrichtigen Regeln Offenlegung von von AI erzeugten Beiträge. Im März erhielten die Moderatoren eine Nachricht von den Forschern, die das Thema offenlegen. Das Team verteidigte seine Studie und die „gesellschaftliche Bedeutung dieses Themas“ und behauptete, es sei „entscheidend, eine Studie dieser Art durchzuführen, auch wenn es bedeutet …
Quelle
