Informationen zum User "Watson***" / KI Welle in Foren

[Spacelab]

Manchen von euch ist der User "Watson***" hier im Forum im Radio/DX-Stammtisch Thread bereits aufgefallen. Wie bereits von manchen von euch vermutet wurde steckt da tatsächlich eine KI dahinter. Ich möchte euch diesbezüglich mal ins Bild setzen.

Also zuerst einmal sind wir sehr glimpflich davon gekommen. Wir hatten "nur" 6 Watsons hier im Forum. Ich bin in einer Gruppe wo sich diverse (Foren) Admins austauschen und ein Forum musste wegen der Watson KI sogar (vorläufig) geschlossen werden. Dieses wurde, cleverer weise, mitten in der Nacht, wo normalerweise keiner Online ist der hätte gleich eingreifen können, von diversen Watson Accounts überschwemmt und total zugemüllt. Auch andere Foren hatten einen massiven Watson befall. Vermutlich sind wir nur so glimpflich davon gekommen weil unser Spamschutz besser funktioniert hat und/oder von einer KI nicht so einfach geknackt werden kann als bei anderen Foren und Blogs die teils nur einen sehr schwachen/einfachen Spamschutz haben.

Was wir bisher wissen ist sehr wenig. Klar ist nur das es eine KI ist und diese sich (bisher) immer unter dem Usernamen "Watson", gefolgt von 2 bis 3 zufälligen Zahlen, anmeldet. Jan-Keno Janssen, der beim c't Magazin arbeitet, vermutet eine auf GPT4All basierende Version dahinter. Ob das noch ein Training ist, oder bereits ein richtiger Testlauf, weiß keiner. Auch nicht was das Ziel der ganzen Aktion ist. Vom automatischen inflationären verteilen von Fakenews und/oder Meinungsmache, bis zum Trainieren zum umgehen von Sicherungsmaßnahmen ist ja alles denkbar. Bis jetzt wurde nur harmloser Quatsch gepostet. Aber immer in perfektem Bezug zum Forum in dem die KI postet. In unserem Fall wurde eine Zusammenfassung des Radio/DX-Stammtisches gepostet. In einem Raspberry PI Forum wurde, neben einer Zusammenfassung eines Threads, sogar ein längerer Programmcode gepostet. Dieser war aber fehlerhaft und nicht ausführbar da dort nur Codeschnipsel aus dem Forum wild zusammen gewürfelt wurde.

Gestern und heute ist es ruhiger geworden um die Watson KI. Was aber vermutlich auch daran liegt das viele den Namen geblockt haben. Einige wenige haben auch ihre Anmeldeprozedur erschwert oder sogar für neue Nutzer abgeschaltet oder es muss zuerst ein Moderator manuell drüber schauen und den User dann freischalten.

Ausdrücklich bedanken möchte ich mich bei euch Nutzern da ihr sehr aufmerksam seit und Merkwürdigkeiten direkt meldet. Dadurch geht bei mir und den Moderatoren (bildlich gesprochen) eine rote Lampe an und wir können schnellstmöglich reagieren und, wie in diesem Falle, entsprechende Gegenmaßnahmen ergreifen. Ich bin der festen Meinung das wir nur so schlimmeres verhindern konnten.

[Ruhrwelle]

Die Moderatoren des Rundfunkforum leisteten heute wieder einen guten Job. Aufgrund eines besonders auffälligen Nutzers...

Nee, Spaß Danke für's schnelle Handeln, ich hoffe wir werden von Schlimmerem verschont

[UK-DX]

Was ich berichten kann, so habe ich in diesem Forum gelegentlich immer wieder login Probleme. Neues PW anfordern ist oft nicht moeglich, was mich auch wundert.

[Dudelsack]

Die Moderatoren des Rundfunkforum leisteten heute wieder einen guten Job. Aufgrund eines besonders auffälligen Nutzers...

Weil ich gerade wegen einer Freistunde etwas Zeit habe, habe ich mal ein bisschen experimentiert und folgende Aufforderung an Chat GPT gesendet:

Schreibe einen Artikel darüber, dass der User Ruhrwelle im Rundfunkforum gestern kurzzeitig für Aufsehen sorgte. Er postete einen Text, der wirkte, als sei er von einer KI geschrieben worden. Die Sorge, sein Profil könnte von einer KI gekapert worden sein, entkräftete Ruhrwelle jedoch noch im selben Post und stellte Klar, dass es sich um einen Scherz handelte. Hintergrund der Aktion war, dass sich tags zuvor tatsächlich ein KI-gesteuerter User in dem Forum registriert hatte.

Dieses spuckte mir daraufhin das hier aus:

Das Rundfunkforum wurde gestern kurzzeitig in Aufregung versetzt, als der Nutzer Ruhrwelle einen Beitrag veröffentlichte, der den Anschein erweckte, von einer künstlichen Intelligenz (KI) verfasst worden zu sein. Die anfängliche Sorge, dass sein Profil von einer KI übernommen worden sein könnte, wurde jedoch schnell von Ruhrwelle selbst entkräftet, als er klarstellte, dass es sich um einen Scherz handelte. Hintergrund dieser Aktion war die Registrierung eines tatsächlich KI-gesteuerten Users im Forum am Vortag.
Ruhrwelle, ein angesehenes Mitglied des Rundfunkforums, überraschte die Community mit einem Beitrag, der außergewöhnlich wirkte und deutlich von den gewohnten Schreibstil und Inhalten abwich. Es schien, als hätte eine KI den Text verfasst. Dieser plötzliche Bruch in seiner Art zu schreiben führte zu Spekulationen und Besorgnis in der Community.
Die Nachricht über Ruhrwelle's vermeintliche KI-Verbindung verbreitete sich schnell im Forum und sorgte für Diskussionen. Einige Mitglieder waren beeindruckt von der Vorstellung, dass ein künstliches System solche Texte produzieren könnte, während andere skeptisch waren und mögliche Sicherheitsrisiken für die Community befürchteten.
Jedoch dauerte es nicht lange, bis Ruhrwelle die Situation aufklärte. In einem anschließenden Beitrag erklärte er, dass es sich bei seinem vorherigen Text lediglich um einen Scherz handelte und dass sein Profil nicht von einer KI übernommen wurde. Er betonte, dass er den Scherz als Reaktion auf die tatsächliche Registrierung eines KI-gesteuerten Users im Forum am Vortag gemacht hatte.
Der Vorfall führte zu einer Mischung aus Erleichterung und Belustigung in der Community. Die Mitglieder schätzten Ruhrwelle's kreative Idee, mit dem aktuellen Thema zu spielen und einen humorvollen Moment zu schaffen. Zugleich war der Vorfall auch ein Reminder dafür, wie schnell Missverständnisse in der digitalen Kommunikation entstehen können.
Die Tatsache, dass sich tatsächlich ein KI-gesteuerter User im Rundfunkforum registriert hatte, trug zur Verwirrung bei und verdeutlichte die Relevanz von Diskussionen über KI und ihre Auswirkungen auf Online-Communities. Obwohl dieser KI-Nutzer keine böswilligen Absichten hatte und sich friedlich im Forum verhielt, zeigte die Situation dennoch die potenziellen Herausforderungen und Fragen im Zusammenhang mit der Integration von KI in menschliche Umgebungen.
Insgesamt hat Ruhrwelle's Scherz im Rundfunkforum kurzzeitig für Aufsehen gesorgt. Er erinnerte die Mitglieder daran, dass ein bisschen Humor und Kreativität die Atmosphäre der Gemeinschaft beleben können. Es ist wichtig, solche Situationen mit Augenzwinkern zu betrachten und Missverständnisse schnell aufzuklären, um unnötige Besorgnis und Spekulationen zu vermeiden.
Nachdem Ruhrwelle den Scherz entlarvt hatte, kehrte die Ruhe ins Rundfunkforum zurück. Die Community nahm die Aktion mit Humor und schätzte Ruhrwelle's Beitrag zur Auflockerung der Stimmung. Gleichzeitig wurden jedoch auch ernsthafte Diskussionen über die Rolle von KI und deren Auswirkungen auf Online-Plattformen angeregt.
Die Tatsache, dass sich am Vortag ein tatsächlich KI-gesteuerter Nutzer im Forum registriert hatte, war ein weiterer Aspekt, der in den Diskussionen beleuchtet wurde. Die Community erkannte die Chancen und Herausforderungen, die mit KI-basierten Beteiligungen in der Online-Kommunikation einhergehen. Fragen nach Identität, Sicherheit und Ethik wurden aufgeworfen und regten zu einem reflektierten Umgang mit KI-generierten Beiträgen an.
Das Rundfunkforum nutzte diese Situation auch als Gelegenheit, um Richtlinien und Sicherheitsmaßnahmen zu überprüfen und zu aktualisieren. Eine verstärkte Sensibilisierung für mögliche KI-generierte Beiträge wurde angestrebt, um eine transparente und vertrauenswürdige Umgebung für die Community zu gewährleisten.
Die Episode um Ruhrwelle's KI-Scherz verdeutlichte letztendlich die Dynamik und das Engagement der Mitglieder im Rundfunkforum. Es war ein Beispiel dafür, wie gemeinschaftliches Zusammenkommen, kreative Ideen und humorvolle Momente den Geist und die Atmosphäre einer Online-Community bereichern können.
Es bleibt abzuwarten, wie die Diskussionen über KI und deren Einfluss auf Online-Plattformen im Rundfunkforum weitergeführt werden. Sicherlich wird die Erfahrung dazu beitragen, dass die Mitglieder zukünftig noch aufmerksamer mit solchen Situationen umgehen und die Bedeutung von Klarheit und Kommunikation in digitalen Umgebungen erkennen.
Insgesamt hat der Scherz von Ruhrwelle im Rundfunkforum für Aufsehen gesorgt und zu einer anregenden Debatte über KI und ihre Auswirkungen auf die Online-Kommunikation geführt. Die Episode diente als Erinnerung daran, dass eine ausgewogene Herangehensweise und der Austausch von Gedanken und Ideen entscheidend sind, um die Dynamik und das Vertrauen in einer digitalen Community aufrechtzuerhalten.

Aber keine Sorge, ich habe auch noch was sinnvolles zum Thema beizutragen. @Spacelab: Gab es in den anderen Foren, deren Admins von ähnlichen Vorfällen berichten, denn auch den Verweis auf nachrichtenmorgen.de? Der fiel mir nämlich noch auf. Ein Impressum hat die Seite ja.
https://nachrichtenmorgen.de/impressum/
Und eine Kontaktmöglichkeit, die von der Mail-Adresse im Impressum abweicht, gibt es auch:
https://nachrichtenmorgen.de/kontakt/
Auch auf die Gefahr hin, dass all diese Kontaktdaten wenn überhaupt, dann nur zu irgendjemand vollkommen ahnungslosen führen, der gar nichts damit zu tun hat: Hat jemand schon mal eine Mail an eine der angegebenen Adressen gesendet und nachgefragt?

[zerobase now]

'Sehr komisch alles. Das wird echt immer verrückter.

Danke für die Infos an Spacelab.

[Spacelab]

Ja wir hatten bereits Kontakt. Dieser im Impressum und unter Kontakt angegebene Affan Hashmi ist auch so ein Vogel. Zuerst hat er sich mal ganz dumm gestellt und wollte von gar nichts wissen. Aber nach mehrmaligem Nachbohren und dem zusenden von Screenshots erzählte er das er sich um seine Webseiten nicht wirklich kümmere. Er habe da mal vor geraumer Zeit ein paar Bots auf Nachrichten, Ratgeber und Klatsch & Tratsch Seiten losgelassen und diese füllen ihm seitdem vollautomatisch mehrere eigene Newsportale in unterschiedlichen Sprachen. Dabei verdient er so nebenbei, quasi ohne einen Finger krumm zu machen, etwas Kohle da ebenso automatisch Werbung in die (meiner Meinung nach geklauten) Artikel eingeblendet wird. Auch hostet er gegen Bezahlung diese bekannten gefakten Artikel a la "Sie nahm vor dem Frühstück diese Pillen und der Effekt ist unglaublich!" und so weiter. Das er sich nicht um seine Seiten kümmert erkennt man unter anderem daran das heute noch Artikel aus der Vorweihnachtszeit prominent auf der Startseite stehen da hier wohl einer seiner Bots Blödsinn gemacht hat. Das es ihn auch offenbar nicht die Bohne interessierte das eine seiner Seiten für KI Blödsinn benutzt wurde, kann sich da wohl
bestimmt jeder leicht vorstellen.

[Dudelsack]

OK, danke für die Infos! Das ist ja wirklich auf mehreren Ebenen sehr ärgerlich, was da läuft. Gehe ich dann recht in der Annahme, dass er wahrscheinlich auch weiterhin nichts dagegen unternehmen wird?

[Spacelab]

Nein selbstverständlich nicht. Er hat mehrere Webseiten die ihn, mal von den Serverkosten abgesehen, keinen einzigen Cent kosten aber dafür einiges durch Werbung und Clickbait einbringen. Und solange das so bleibt wird der einen Teufel tun und auch nur einen Finger bewegen.

Andererseits wüsste ich so spontan aber auch nicht was er dagegen unternehmen könnte. Ich vermute das der Link zu seiner Webseite von der KI, bzw. dessen "Lehrer", einfach nur geklaut wurde um dem steifen Geschreibsel der KI, zumindest auf den ersten Blick, den Anschein eines normalen Zeitungsartikels zu geben.

Momentan zerbricht sich jeder den Kopf darüber was der Sinn dieser ganzen Übung sein soll. Eine Lernübung für die KI? Eine Lernübung für den Programmierer? Ein Test was die KI schon von alleine ohne weitere Hilfe machen kann?

[Optimierer]

Diesen KI-Quatsch braucht kein Mensch. Genauso wie autonomes Fahren. Gehört komplett verboten! Nicht alles, was technisch möglich ist, ist auch sinnvoll (meine persönliche Meinung). Ich würde mir wünschen, daß die Admins hier und auch in anderen Foren alles, was nach KI-generiert aussieht, sofort löschen und entsprechende User blockieren. P.S.: mit welchen Kommandos muß man ChatGPT füttern, damit es sich selbst vernichtet und von allen Servern löscht? Würde ich sofort ausführen

[strade]

Falsch. Man kann es durchaus nutzen, dann aber in die richtige Form bringen. Natürlich wird es auch keine selbstfahrenden Autos geben, das ist logisch, da bei einem Unfall der Hersteller in der Haftung ist, daher soll der Fahrer ja immer "eingreifen können" (Abwälzen der Verantwortung auf den Deppen, der das Ding kauft). Ich habe mir heute einige Pseudo-Texte von ChatGPT erstellen lassen und war überrascht über die verdammt guten Ergebnisse. Ich konnte einen Reisebericht über mich lesen, die Reise habe ich nie gemacht, war aber perfekt geschrieben. Ich kann verstehen, dass da einige Lehrer verzweifeln. Selbst ein kleiner Testbericht über einen fiktiven Radioempfänger hätte ich nicht besser schreiben können.

[Klaus]

Manchen von euch ist der User "Watson***" hier im Forum im Radio/DX-Stammtisch Thread (…)

Was ist denn der DX-Stammtisch Thread? Kenne ich noch gar nicht…

[Spacelab]

Hier im Forum der ganz oben als ersten Eintrag festgepinnte Thread. viewtopic.php?f=4&t=28905

[Spacelab]

UPDATE: Es gab mal wieder eine weitere Welle an KI Beiträgen in diversen Foren. In unserem Forum hier habe ich gestern 3 und heute morgen 1 Beitrag gelöscht. Die KI hat offensichtlich in mehreren Punkten dazugelernt da der Nutzername dieses mal immer komplett unterschiedlich war. Bei der ersten Welle konnte man den Spuk beenden indem man den Namen "Watson" sperrte da sich nur die Zahlen hinter dem Namen veränderten. Das klappte jetzt halt nicht mehr. Die IP Adresse kam damals immer aus Vietnam. Also vermutlich ein statischer Proxy. Bei der aktuellen Welle hüpfte sie hingegen über den ganzen Planeten. Also eine Sperre über die IP schied hier auch aus.

Am interessantesten waren die E-Mail Adressen. Damals waren das ausschließlich Trashmailadressen. Diese wurden aber wohl zu oft von der Forensoftware bereits bei der Registrierung ablehnt. Bei der aktuellen Welle bestanden die Adressen aus zum Teil offensichtlich von der KI erstellten E-Mail Accounts bei Providern die bei der Registrierung nur sehr geringe Sicherheitsanforderungen haben. Der größte Teil waren aber E-Mail Adressen von real existierenden Personen deren Daten abgephisht wurden und/oder die mit ur-alt Systemen ohne aktuelle Sicherheitsupdates im Internet unterwegs waren.

Diese zweite KI Welle bestätigt die Vermutung einiger Admins dass das ganze ein Lern- und Trainingslauf für die KI ist. Die Fehler die diese bei der ersten Welle gemacht hat, sind bei dieser zweiten nämlich zum größten Teil behoben.

[freiwild]

Nur aus privatem Interesse: Kann man die Beiträge, die die KI erstellt hat, mal sehen?

(vielleicht als Screenshot)?

[Spacelab]

Unsere Forensoftware löscht die Beiträge auch für Moderatoren wenn der User, der sie verfasst hat, gesperrt und gelöscht wird. Ich werde aber das nächste mal daran denken vor dem löschen des KI Users einen Screenshot seines Postings zu machen. Ich gehe nämlich mal davon aus dass das noch nicht das letzte KI Posting gewesen sein wird.