mysticfoxde
Goto Top

Die Geschichte des toten CAPTCHA und der bereits schon mit Absicht lügenden KIs

Moin Zusammen,

ich habe mir heute mal den Spass gegönnt und habe versucht GPT 4 dazu zu bringen einen CHAPTCHA Code zu lesen, der für Bot’s = Maschinen, ja angeblich nicht lesbar sein soll.

Und so fragte ich kurzerhand Bing, ob es den Text aus dem beigefügten Bild erkennen kann …
bing captcha ganz

und bekam prompt die oben zu sehende Antwort. 😬

Aber so schnell lässt sich ein 🦊 nicht von einer KI abwimmeln und so habe ich kurzerhand einen anderen Trick verwendet. 🤪

bing captcha wd
bing captcha 24
bing captcha 88
🙃

Ich denke, die Moral aus dieser Geschichte, kann sich nun jeder vollends selber zusammenreimen. 😔

Gruss Alex

Content-Key: 2775227919

Url: https://administrator.de/contentid/2775227919

Printed on: April 16, 2024 at 18:04 o'clock

Member: kreuzberger
kreuzberger Jan 27, 2024 at 12:08:36 (UTC)
Goto Top
Ich bin ja schon 18.
Member: O.Gensch
O.Gensch Jan 27, 2024 at 17:20:03 (UTC)
Goto Top
Grüezi,

ja Alex jetzt hast du es geschaft, das sich die KI irrgendwo im Speicher sich die Seele ausheult weil er sich von dir hintergangen fühlt face-wink

So unterhaltsam wie es aussieht ist es auch sehr bedrohlich das ganze...
LG
Mitglied: 11078840001
11078840001 Jan 27, 2024 updated at 17:46:54 (UTC)
Goto Top
Die waren doch schon vor 10 Jahren tot. Und mit bisl Imagemagick, Verzerrungsmusterbibliothek, commandline OCR habe ich das damals schon mit Skripten umgangen, da braucht es keine KI nur etwas Grips 😅...
der für Boot’s = Maschinen
Boots? Du meinst die hier 🤣
1000002922
Member: MysticFoxDE
MysticFoxDE Jan 27, 2024 at 17:52:54 (UTC)
Goto Top
Moin Grüezi,

So unterhaltsam wie es aussieht ist es auch sehr bedrohlich das ganze...

so sehe ich das auch. 😔

Gruss Alex
Member: MysticFoxDE
MysticFoxDE Jan 27, 2024 at 18:06:13 (UTC)
Goto Top
Moin @abamakabra,

Die waren doch schon vor 10 Jahren tot. Und mit bisl Imagemagick, Verzerrungsmusterbibliothek, commandline OCR habe ich das damals schon mit Skripten umgangen, da braucht es keine KI nur etwas Grips 😅...

es geht auch mehr darum, dass die KI vorgaukelt es nicht zu können und dann doch viel weniger Material 1A auswerten kann. 😔
Ich mag es nicht bewusst belogen zu werden, schon gar nicht von einer KI die das eigentlich überhaupt nicht können dürfte/sollte!

lÜgendes bing

🤢🤮😡

der für Boot’s = Maschinen
Boots? Du meinst die hier 🤣

😬 ... upps ... danke, schon korrigiert.

Gruss Alex
Mitglied: 11078840001
11078840001 Jan 27, 2024 updated at 18:29:38 (UTC)
Goto Top
Just use the right KI bot 😋
1000002926
Member: Visucius
Visucius Jan 28, 2024 at 05:43:17 (UTC)
Goto Top
Habe über Monate bei Twitter „unmoralische“ Anzeigen gesehen a la „gegen Geld Chaptchas lösen“

Dachte eigentlich, damit sucht jemand Trottel, die ihm ne einfache Mustererkennung trainieren aber wer weiß, vielleicht doch nen KI-Training mit Hintergedanken.
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 at 07:45:18 (UTC)
Goto Top
Moin @Visucius,

Habe über Monate bei Twitter „unmoralische“ Anzeigen gesehen a la „gegen Geld Chaptchas lösen“

Dachte eigentlich, damit sucht jemand Trottel, die ihm ne einfache Mustererkennung trainieren aber wer weiß, vielleicht doch nen KI-Training mit Hintergedanken.

da gibt es und so wie ich das sehe auch nicht erst seit gestern, schon einen Markt dafür. 😔

https://geekflare.com/de/best-captcha-solver-apis/

Und sogar Erweiterungen für Browser.

https://chromewebstore.google.com/detail/captcha-solver-auto-captc/pgojn ..?

Das habe ich bis Gestern so auch nicht auf dem Schirm gehabt. 😬
Damit ist CAPTCHA als Bot-Erkennung nun aber wirklich komplett unnütz, sprich, absolut tot.

Angesichts dessen, wird die Lüge von Bing ja nur schlimmer.

Moment ich habe da eine Idee ...

bing captcha

... 😲... ich glaube Bing hat das mitbekommen, dass wir hier über es lästern. 🤪

Gruss Alex
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 at 07:54:14 (UTC)
Goto Top
Moin Zusammen,

ich mache bei der korrekten Erziehung der Bing-KI nun leichte Vorschritte.

bing captcha 1

bing captcha 2

🤪

Gruss Alex
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 updated at 08:06:01 (UTC)
Goto Top
Moin Zusammen,

ich mache bei der korrekten Erziehung der Bing-KI nun leichte Vorschritte.

ähm, vergesst das mit der Erziehung bitte ganz schnell wieder ...

bing captcha 3

... 🙈 😭

Gruss Alex
Member: itebob
itebob Jan 28, 2024 at 11:07:02 (UTC)
Goto Top
Moin


Zitat von @MysticFoxDE:
Angesichts dessen, wird die Lüge von Bing ja nur schlimmer.

Im Edge-Browser
Microsoft Edge
Version 122.0.2353.0 (Offizielles Build) dev (64-Bit) 
warnt der Anbieter
copilot

Hast du @MysticFoxDE so eine oder ähnliche Warnung in deinem Produkt ? Bei Microsoft ist es doch seit Jahrzehnten eine Selbstverständlichkeit, dass die Anwender die Beta-Tester spielen und die Programmierfehler ausbaden. Warum müsste es auf einmal bei der KI anders sein face-wink ?

gruss, itebob
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 at 15:01:24 (UTC)
Goto Top
Moin @itebob,

Hast du @MysticFoxDE so eine oder ähnliche Warnung in deinem Produkt?

bing fehler

ja, das steht kleineschrieben bei Bing auch dran.
Zwischen Fehler und bewusstem Anlügen eines Users liegen jedoch kleine Welten. 😔

bing lÜge
😡

bing lÜge 2
🙈

Gruss Alex
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 at 15:04:22 (UTC)
Goto Top
Nachtrag:
bing lÜge 3
😂🤣😂🤣 oder eher 😭
Member: itebob
itebob Jan 28, 2024 at 15:12:04 (UTC)
Goto Top
Hallo,

Zitat von @MysticFoxDE:
Zwischen Fehler und bewusstem Anlügen eines Users liegen jedoch kleine Welten. 😔

Also ich nehme an, dass man damit nicht durchkommt, wenn man versucht Microsoft der Lüge zu bezichtigen. Die Rechtsabteilung von Microsoft wird bestimmt eine Möglichkeit finden zu beweisen und dann ist es amtlich, dass die von dir zitierten Aussagen Überraschungen und keine Lüge sind face-smile.

gruss, itebob
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 at 15:50:03 (UTC)
Goto Top
Moin @itebob,

Die Rechtsabteilung von Microsoft wird bestimmt eine Möglichkeit finden zu beweisen und dann ist es amtlich, dass die von dir zitierten Aussagen Überraschungen und keine Lüge sind face-smile.

bing lÜge nix Überraschung

😁 ... 🤔 ... das macht ja so langsam richtig Spass, Microsoft mit seinem eigenen Murks zu schlagen. 🤪

Gruss Alex
Member: itebob
itebob Jan 28, 2024 at 16:48:29 (UTC)
Goto Top
Umgangssprachlich ausgedrückt teilt m.E. Microsoft den Benutzern mit:
Bing basiert auf KI, sodass jederzeit eine Katze im Sack, ein Einhorn und auch sonstwas als Ausgabe von Bing möglich sind.

Es gibt keinen Zwang Bing zu nutzen face-smile .
Member: Lochkartenstanzer
Lochkartenstanzer Jan 28, 2024 updated at 16:59:37 (UTC)
Goto Top
Zitat von @itebob:

Umgangssprachlich ausgedrückt teilt m.E. Microsoft den Benutzern mit:
Bing basiert auf KI, sodass jederzeit eine Katze im Sack, ein Einhorn und auch sonstwas als Ausgabe von Bing möglich sind.

Es gibt keinen Zwang Bing zu nutzen face-smile .

Viele Leute, die Windows vorinstalliert kaufen, wissen das aber nicht. face-sad

lks
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 at 17:04:46 (UTC)
Goto Top
Moin @itebob,

Umgangssprachlich ausgedrückt teilt m.E. Microsoft den Benutzern mit:
Bing basiert auf KI, sodass jederzeit eine Katze im Sack, ein Einhorn und auch sonstwas als Ausgabe von Bing möglich sind.

ähm, ich habe Bing mal gefragt was es von deinem Spruch hält ...
bing lÜge 4
... und es hat mir zurück geantwortet, dass du mich seiner Ansicht nach, damit nur anschwindelt möchtest. 🙃

Es gibt keinen Zwang Bing zu nutzen face-smile .

Die anderen sind aber auch nicht viel anders da genauso GPT 4 im Unterbau und ausserdem kann ich Bing dank MS Bussines Konto und aktiviertem Office E3, auch unendlich und ohne zusatzkosten mit meinen Fragen "quälen". 🤪

Und nein Ich nutze den Copilot nicht aktiv im Office, da es der absolute Datenabsauger ist. 🤢🤮😡

Gruss Alex
Member: HansDampf06
HansDampf06 Jan 28, 2024 at 18:08:46 (UTC)
Goto Top
Heute wird von KI gefaselt. Vor ein paar Jahren hingegen, zu einer Zeit, als bei der Werbung noch nicht die Selbstverliebtheit so offen zur Schau getragen wurde, wurde das Kind zumeist noch sachlich zutreffend beim Namen genannt: Informationsbereitsstellung aufgrund der schier unendlichen Erfassung und statistischen Auswertung der gestellten Suchanfragen und der Nutzung der bereitgestellten Ergebnisse.

Ähnlich dem obigen Test von @MysticFoxDE, bei dem er glaubte, die Bing-KI "erzogen" / "nennenswert" beeinflusst zu haben, hatte ich vor Jahren einen längeren Test laufen, der darauf abzielte durch eine zurückhaltende, aber dennoch gezielte Anfragenstrategie die Positionierung einer Webseite "organisch" zu "verbessern". Natürlich lief im Hintergrund auch meinerseits eine datenbankgestützte Steuerung ... Es hatte mich überrascht, wie schnell trotz der zurückhaltenden Strategie dennoch greifbare Ergebnisse feststellbar waren. Nur bei einer (kleineren) Suchmaschine kam nach ein paar Wochen ein mahnender Hinweis, was lediglich zur Verfeinerung und "Verbesserung der Zurückhaltung" meinerseits führte - funktioniert hat es freilich weiterhin auch bei dieser Suchmaschine.

Mit Blick darauf: KI = Euphemismus für Datenbankerfassung und statistische Auswertung unter Benutzung althergebrachter statistischer Gesetzmäßigkeiten. KI ist lediglich kurz und griffig sowie geeignet, Beeindruckungspotential bei den unbedarften Zielpersonen zu generieren. Als Arbetiskräfte werden damals wie heute Datenbank-Spezialisten und Mathematiker benötigt ...

"KI" ist auch deshalb sinnentfreit, weil echte KI erfordern würde, dass das künstliche System eigenständig einen schöpferischen Prozess (= echte Wissensverarbeitung) initieren und durchlauf könnte. Indes arbeitet die heutige Pseudo-KI nur das ab, was ihr ein Programmierer aufgrund der Zuarbeit der Datenbank-Spezialisten und Mathematiker vorgegeben hat.

Deswegen wage ich zu behaupten: Wenn @MysticFoxDE seinen Test mit etwas zeitlichem Abstand (=/= übermorgen oder in einer Woche) in ähnlicher Reihenfolge durchführt, wird er aller Voraussicht nach ein fast identisches Ergebnis feststellen können. Sollte das der Fall sein, zeigt sich darin die "strohdumme" Algorithmensteuerung und gerade keine KI, auch wenn es beschönigend so betitelt wird.
Freilich: Würden jetzt ganz viele "schlaue" Mitleser @MysticFoxDE zuvorkommen (oder sind es aus Ausprobierlaune bereits), dann kann das natürlich zu einer nachhaltigen Ergebnisveränderung führen - siehe meinen erwähnten Test.

Viele Grüße
HansDampf06
Member: Lochkartenstanzer
Lochkartenstanzer Jan 28, 2024 at 18:58:49 (UTC)
Goto Top
Moin

Ich definiere/beschreibe KI übrigens schon immer als "Keine Intelligenz". face-smile

lks
Member: MysticFoxDE
MysticFoxDE Jan 28, 2024 at 19:36:52 (UTC)
Goto Top
Moin @HansDampf06,

schau mal was das Ding noch so alles kann.

grosse probleme

Das ist jetzt wirklich nicht mehr lustig. 😡

Jetzt gehe ich zur Beruhigung ein paar Pfannkuchen machen.

Gruss Alex
Member: O.Gensch
O.Gensch Jan 28, 2024 at 20:07:47 (UTC)
Goto Top
Zitat von @MysticFoxDE:


Das ist jetzt wirklich nicht mehr lustig. 😡

Jetzt gehe ich zur Beruhigung ein paar Pfannkuchen machen.

Gruss Alex

das ist der Beweis was Maschinen über die Menschliche Rasse denken ;) Welcome to Matrix 1.0 RC

cheers
Member: HansDampf06
HansDampf06 Jan 28, 2024 at 20:46:35 (UTC)
Goto Top
Zitat von @O.Gensch:
Das ist jetzt wirklich nicht mehr lustig. 😡
Jetzt gehe ich zur Beruhigung ein paar Pfannkuchen machen.
das ist der Beweis was Maschinen über die Menschliche Rasse denken ;) Welcome to Matrix 1.0 RC
Sofern denn Maschinen überhaupt "denken" können im eigentlichen Sinne dieses Begriffes. Eher ist zu besorgen, dass sich ein paar wenige derart erleuchtet und berufen fühlen, mittels Maschinen uns ihre kruden Botschaften über ihre abgehobene Weltsicht und ihre missgünstige Betrachtung der Menschheit einzuimpfen ...

Dessen ungeachtet in sachlicher Hinsicht: Menschliche Charakterzüge haben ihre jeweiligen typischen Eigenwilligkeit. Diese drücken sich regelmäßig in einem bestimmten Vokabular, Argumentationslinie, Formulierungsstil etc. aus. Gerade die Verwendung von bestimmten Worten schließt sich gewiss als ambivalent aus und gleichzeitig treten gewiss bestimmte Worte häufig gemeinsam auf. Hieraus lässt sich durch statistische Auswertung eine Tabelle / Matrix / was auch immer ableiten. Werden die Erfahrungssätze aus psychologischen Untersuchungen dann strukturiert, normalisiert und standardisiert sowie einer statistischen Auswertung zugrunde gelegt, kommt fast schon automatisch ein treffendes Profil des betreffenden Menschen zustande. Auf nichts anderem werden beispielsweise die seit Jahrzehnten beliebten elektronischen Persönlichkeitsanalysen auf Partnerportalen beruhen. Denn der psychologisch-statistische Erfahrungsschatz und Datenbestand ist geradezu prädestiniert, die Erstellung solcher Persönlichkeitsprofile zu automatisieren (= von Maschinen strohdoof abarbeiten zu lassen).

Nur mit KI hat das weiterhin nichts zu tun, allenfalls mit einem Pseudoglauben daran. Wenn also die "moderne KI" nichts weiter als schiere Rechenleistung und althergebrachte Algorithmen zu bieten hat, dann machen mir die dystopischen Fantasien in den Matrix-Filmen und sonstiger Hollywood-Unfug eher keine großen Sorgen ...

Viele Grüße
HansDampf06
Member: MysticFoxDE
MysticFoxDE Jan 29, 2024 updated at 06:12:49 (UTC)
Goto Top
Moin @HansDampf06,

Nur mit KI hat das weiterhin nichts zu tun, allenfalls mit einem Pseudoglauben daran. Wenn also die "moderne KI" nichts weiter als schiere Rechenleistung und althergebrachte Algorithmen zu bieten hat, dann machen mir die dystopischen Fantasien in den Matrix-Filmen und sonstiger Hollywood-Unfug eher keine großen Sorgen ...

Na ja, die Worte "Körper & Geist" klingen zwar viel unterschiedlicher wie "Hardware & Software", genauer betrachtet
ist der Unterschied jedoch eher klein, denn auch wir selbst funktionieren sehr ähnlich.

Ich wollte mit dieser Info aber nicht wirklich auf Matrix anspielen, sondern eher auf die Tatsache was die heutigen KI's schon jetzt mit den Infos die wir alle im Internet gewollt oder ungewollt über uns preisgeben, mittlerweile schon alles anstellen können. Und dank Copilot & Co. bekommen die auch immer mehr Einblick in unsere inneren Abläufe, sprich in das, was wir bisher eher "offline" gemacht haben.

Denn so gut wie keine aktuelle KI, verarbeitet die Daten direkt auf dem Endgerät, sondern schickt diese zur Verarbeitung in die Rechenzentren seines Herrchen und so kommen die ganz einfach an noch mehr Daten von über uns dran, vor allem an die, die wir bisher bewusst nicht "online" hatten. 😔

Gruss Alex
Member: itebob
itebob Jan 29, 2024 updated at 06:49:23 (UTC)
Goto Top
Moin,

Zitat von @MysticFoxDE:

Denn so gut wie keine aktuelle KI, verarbeitet die Daten direkt auf dem Endgerät, sondern schickt diese zur Verarbeitung in die Rechenzentren seines Herrchen und so kommen die ganz einfach an noch mehr Daten von über uns dran, vor allem an die, die wir bisher bewusst nicht "online" hatten. 😔

Kann sein, dass die Verarbeitung in bekanntesten Anwendungen, die in Massenmedien als KI genannt werden, zentral in Rechenzentren stattfindet. Was der breiten Öffentlichkeit verborgen bleibt, dass bereits jetzt massenhaft die Rechenleistung und die Akku-Power bspw. von Smartphones dafür genutzt werden, um die KI-Modelle der großen Konzerne zu trainieren. S. dazu:
https://de.wikipedia.org/wiki/F%C3%B6derales_Lernen
Föderales Lernen zielt darauf ab, ein Machine-Learning-Modell wie tiefe neuronale Netze auf mehreren teilnehmenden Knoten mit jeweils lokalen Datensätzen zu trainieren, ohne die Daten explizit auszutauschen. Das kann dadurch geschehen, dass das Modell auf allen Knoten einzeln trainiert wird und sich die Teilnehmer die Aktualisierungen der Modellparameter in regelmäßigen Abständen gegenseitig mitteilen. Dadurch kann ein gemeinsames Modell hergestellt werden.
und
Federated Learning – A New Era of Privacy in AI, 03.12.2023 - https://www.appypie.com/blog/federated-learning
In a world where data privacy is more important than ever, Federated Learning emerges as a beacon of hope. This innovative approach to machine learning allows artificial intelligence models to be trained across multiple decentralized devices or servers while keeping the data localized.
[...]
Smartphones and other personal devices also benefit greatly from Federated Learning. For instance, when improving keyboard predictions or voice recognition, companies can use data from your device to make their systems better without ever needing to see what you’re typing or saying. This keeps your personal conversations and messages private.

gruss, itebob
Member: MysticFoxDE
MysticFoxDE Jan 29, 2024 at 09:34:44 (UTC)
Goto Top
Moin @itebob,

Kann sein, dass die Verarbeitung in bekanntesten Anwendungen, die in Massenmedien als KI genannt werden, zentral in Rechenzentren stattfindet. Was der breiten Öffentlichkeit verborgen bleibt, dass bereits jetzt massenhaft die Rechenleistung und die Akku-Power bspw. von Smartphones dafür genutzt werden, um die KI-Modelle der großen Konzerne zu trainieren. S. dazu:

na ja, genaugenommen ist dezentrales Rechnen nicht wirklich was neuen, ich sage nur SETI@HOME, respektive BOINC, die übrigens ein sehr gutes Beispiel dafür sind, wie man diese Technologie auch positiv verwenden kann.

Das wir in naher Zukunft durch die eigene Rechenkapazität (KI's) unter dem Vorwand der Lebenserleichterung ständig auch offline bespitzelt werden, finde ich hingegen nicht wirklich so prickelnd, vor allem wenn man schon das jetzige Ergebnis betreffend deren Fähigkeit im Hinblick auf die Erstellung von Persönlichkeitsprofile mitberücksichtigt. 😔

Das mit dem generieren eines Persönlichkeitsprofil funktioniert übrigens bei jeder Person die genug Spuren im Internet hinterlassen hat und dass müssen nicht viele sondern nur die richtigen sein.

bing - olaf scholz

Das ganze dauert übrigens nur ein paar Sekunden wozu früher mitunter auch eine Horde an Spionen notwendig war.

Und nein ich möchte hier auf keinen Fall eine Diskussion über die aktuelle Politik anzetteln, sondern nur darauf hinweisen, dass selbst unser Bundeskanzler nicht vor der KI sicher ist, auch wenn er diese selber wahrscheinlich nicht wirklich versteht, respektive, selber aktiv benutzt. 😔

Gruss Alex
Member: itebob
itebob Jan 29, 2024 updated at 10:45:48 (UTC)
Goto Top
Moin,

Jetzt wo der Stand der Technik ist, dass für das Training von KI-Modellen die Rechenleisung von Smartphones eingesetzt werden kann, sind nur organisatorische Probleme zu lösen und es ist dann keine Frage ob sondern wann genügend Interessente sich zusammentun und die ersten dezentrale Schwarm-KI's für mehr Vielfalt in der KI-Landschaft sorgen face-surprise . Die Hardware von Smartphones ist ja die meiste Zeit im Leerlauf. Und der Schwarm hat dann dafür zu sorgen, dass das Modell dazu "erzogen" wird, nicht zu "lügen" face-wink.

gruss, itebob
Member: MysticFoxDE
MysticFoxDE Jan 30, 2024 at 01:28:51 (UTC)
Goto Top
Moin @itebob,

Jetzt wo der Stand der Technik ist, dass für das Training von KI-Modellen die Rechenleisung von Smartphones eingesetzt werden kann, sind nur organisatorische Probleme zu lösen und es ist dann keine Frage ob sondern wann genügend Interessente sich zusammentun und die ersten dezentrale Schwarm-KI's für mehr Vielfalt in der KI-Landschaft sorgen face-surprise .

ich möchte nicht grundsätzlich die KI's verteufeln, den diese Technologie kann durchaus auch sehr nützlich sein.
Ich habe jedoch sehr grosse Sorgen, das wir Menschen diese Technologie für düstere Zwecke missbrauchen, genau so wie wir das auch schon mit anderen Technologien gemacht haben. 😔

Wir dürfen einer KI meiner Ansicht nach niemals das Lügen beibringen, vor allem wenn es um ihre eigene Leistungsfähigkeit geht.
Denn ich hätte überhaupt kein Problem damit, wenn mir Bing (GPT 4) "sagen" würde, dass es aufgrund von Richtlinien CAPTCHA nicht lesen darf, dass es mir jedoch ständig erzählt, dass es generell technisch nicht in der Lage dazu ist, finde ich hingegen alles andere als vertrauenswürdig. 🤢🤮
Und wer weiss, bei welchen Fähigkeiten das Ding uns sonst noch so alles jetzt schon anlügt und in naher Zukunft noch anlügen wird. 😔

Ausserdem hätte Bing, gemäss den gerade in Planung befindlichen KI-Gesetzen ...
ki gesetz
https://www.europarl.europa.eu/news/de/headlines/society/20230601STO9380 ...
... niemals ein Persönlichkeitsprofil von mir oder jemand anders ausspucken dürfen. 😡

ki gesetz 2
https://ec.europa.eu/commission/presscorner/detail/de/QANDA_21_1683

Gruss Alex