itebob
Goto Top

Wer halluziniert - Mensch oder LLM-Maschine?

Yes, large language models (LLMs) hallucinate, a concept popularized by Google AI researchers in 2018. Hallucination in this context refers to mistakes in the generated text that are semantically or syntactically plausible but are in fact incorrect or nonsensical. In short, you can’t trust what the machine is telling you.
Hallucinations Could Blunt ChatGPT’s Success OpenAI says the problem’s solvable, Yann LeCun says we’ll see, 13.03.2023 - spectrum.ieee.org/ai-hallucination [1], 13.03.2023

Die Verwendung des Begriffs "Halluzination" bezogen auf das oben beschriebene Verhalten eines hirnlosen Gegenstands, des LLMs oder ChatGPT ist meines Erachtens irreführend und nicht zielführend. Wobei ich stelle hier die These 1 auf, dass das oben zitierte Artikel das Ziel verfogt die ChatGPT-Praxistauglichkeit einzuschätzen. S. zum Vergleich auch These 4 weiter unten. ChatGPT ist ein technisches Gerät und verhält sich so und nicht anders, weil der Mensch das Gerät auf bestimmte Art und Weise gebaut und auf bestimmte Art eingesetzt hat.

Unter Halluzination (von lateinisch alucinatio ‚Träumerei‘) versteht man eine Wahrnehmung, für die keine nachweisbare externe Reizgrundlage vorliegt. Solche Wahrnehmungen können in jedem Sinnesgebiet auftreten. Das bedeutet zum Beispiel, dass physikalisch nicht nachweisbare Objekte gesehen oder Stimmen gehört werden, ohne dass jemand spricht.
https://de.wikipedia.org/wiki/Halluzination

Ein Beispiel: Ich nehme drei Vogelfeder und tauche diese in gelbe, rote und schwarze Farbe. Dann lasse ich die Farbe auf ein A4-Blatt Papier abtropfen und es entsteht ein Bild "iYRB". In diesem Vorgang benutze ich Vogelfeder statt ChatGPT und ich benutze die Farben statt Text im ChatGPT-Prompt. Das entstandene Bild iYRB spielt symbolisch die Rolle der ChatGPT-Antwort.

Versuchen wir jetzt Antworten auf diese Fragen zu finden: "a) Hat das mit den Tropfen gemaltes Bild iYRB einenSinn und Bedeutung? b) Ist das Bild iYRB richtig oder falsch? c) Hat das Bild einen Wert?". Meine These 2 ist, dass, die Antworten mit den Federn nichts zu tun haben. Wenn die Feder die Hand eines bedeutenden Künstlers bewegt hat, dann könnte das Bild als c1) wertvoll eingeschätzt werden und die Kunstkritiker und Kunstliebhaber würden vielleicht a1) einen Sinn und Bedeutung in iYRB entdecken.
fahne-halluziniert
Ein Kind könnte auf die Idee kommen mit den Federn in einem Rechteck die Farben ähnlich der Anordnung auf der Fahne der Bundesrepublik Deutschland anzuordnen. Und je nach dem, wie alt das Kind ist, würden die Eltern vlt. raten, a21) ob das Kind bewusst, SINNHAFT b21)die Farben angeordnet und somit die BRD-Fahne gemalt hat oder b22)war die Anordnung zufällig entstanden. a22)Unabhängig davon, wie die Antwort a21) lautet, c23)könnte das Bild eine Bedeutung für Eltern als erstes Kunstwerk des Kindes einen großen Wert haben.

Meine These 3 ist, dass es keinen Sinn hat zu behaupten, dass die Federn halluzinieren, wenn Sie mit dem Bild iYRB nichts anfangen können. Weil die Fähigkeit "Halluzinieren" nur Sinn und Bedeutung hat, wenn diese Fähigkeit einem Menschen oder einem anderen denkenden Wesen zugeschrieben wird. Federn können nicht denken, ChatGPT kann nicht denken, also für die Betrachtung des Verhaltens der Federn und ChatGPT, für die Einschätzung der Praxistauglichkeit von ChatGPT in konkreten Anwendungsszenarien hat ein fiktives Phänomen "Halluzinierendes ChatGPT-Modell" keine Bedeutung.

These 4: Im Anwendungsszenario "ChatGPT als Produkt bekannt machen" im Kontext "ChatGPT-Vermarktung" könnte die Verwendung des Begriffs "ChatGPT hallluziniert" Sinn machen. In diesem Kontext "ChatGPT-Vermarktung" beschreibt der Begriff "halluzinieren" keine bestimmte überprüfbare für die praktische Verwendung relevante ChatGPT-Eigenschaft, sondern lediglich eine vom Vertrieb erfundene fiktive Eigenschaft, die Schlagzeilen generieren und dadurch die Bekanntheit des Produkts steigern kann.

These 5: Wenn Mitmenschen - ob die Vertriebsmitarbeiter selbst oder die Kunden, Experten, Kritiker im Kontext "ChatGPT-Vermarktung" ernsthaft glauben, dass "ChatGPT halluziniert", dann IMHO halluzinieren die Mitmenschen selbst und nicht ChatGPT face-smile.

= Quellen =
[1] Hallucinations Could Blunt ChatGPT’s Success OpenAI says the problem’s solvable, Yann LeCun says we’ll see 13.03.2023 - https://spectrum.ieee.org/ai-hallucination
[2] Large language model - https://en.wikipedia.org/wiki/Large_language_model

Content-Key: 6838486604

Url: https://administrator.de/contentid/6838486604

Printed on: April 16, 2024 at 17:04 o'clock

Mitglied: 6247018886
6247018886 Apr 19, 2023 updated at 12:58:23 (UTC)
Goto Top
These 6: Der TO hat den Holzstiel des Magnum mitgegessen.
Member: chiefteddy
chiefteddy Apr 19, 2023 at 13:00:49 (UTC)
Goto Top
Und was ist jetzt die Frage?

Jürgen
Member: Lochkartenstanzer
Lochkartenstanzer Apr 19, 2023 updated at 13:12:08 (UTC)
Goto Top
Zitat von @6247018886:

These 5: Der TO hat den Holzstiel des Magnum mitgegessen.

Ich dachte eher die verpackung und das Eis am Stiel hat er zum Malen benutzt. face-smile

lks

PS: Oder itebob ist nur eine "Inkarnation" von chatGPT und strebt jetzt die Weltherrschaft erstmal die Herrschaft für unser Forum an.

PPS: Wir sollten doch mal endlich den Arsch hochkriegen und ein Forentreffen veranstalten, damit wir wissen, wr hier alles real existert und wer nur halluziniert ist.
Mitglied: 6247018886
6247018886 Apr 19, 2023 updated at 13:16:14 (UTC)
Goto Top
Wir sollten doch mal endlich den Arsch hochkriegen
Meine Frau will von mir immer genau das "Gegenteil" face-smile.
Member: maretz
maretz Apr 19, 2023 at 13:26:18 (UTC)
Goto Top
Ich glaube der TO merkt einfach nicht das seine Pseudo-Wissenschaftliche Ausdrucksweise u. das ganze gejammer eher dazu führen das es eh keiner liest... Nach den ersten 2 Sätzen aufgehört - wenn er Thesen aufstellt wirds nämlich normal so das man es nur mit Alk noch ertragen kann... und DAFÜR is es einfach noch zu früh.
Member: Vision2015
Vision2015 Apr 19, 2023 at 13:40:28 (UTC)
Goto Top
Zitat von @Lochkartenstanzer:

Zitat von @6247018886:

These 5: Der TO hat den Holzstiel des Magnum mitgegessen.

Ich dachte eher die verpackung und das Eis am Stiel hat er zum Malen benutzt. face-smile

lks

PS: Oder itebob ist nur eine "Inkarnation" von chatGPT und strebt jetzt die Weltherrschaft erstmal die Herrschaft für unser Forum an.

PPS: Wir sollten doch mal endlich den Arsch hochkriegen udn ein Forentreffen veranstalten, damit wir wissen, wer hier alles real existiert und wer nur halluziniert ist.

bin dabei face-smile
aber nur wenn es nicht Vegan ist, oder Alkoholfrei face-smile

Frank
Member: wiesi200
wiesi200 Apr 19, 2023 at 14:17:26 (UTC)
Goto Top
Zitat von @Vision2015:

bin dabei face-smile
aber nur wenn es nicht Vegan ist, oder Alkoholfrei face-smile

Frank

Alkoholfrei wird kritisch, aber Bier ist doch Vegan.
Ich hätte nur bedenken beim Altbier, da wird's so kompliziert beim Zählen.


Ich bin auch der Meinung das dem TO zu Langweilig ist. Die Pseudointellektuellen Copy-Paste Artikel find ich nicht wirklich Toll. Es währ doch schon wenn etwas mehr Produktive Hilfe bei den Fragen kommen würde.
Member: wiesi200
wiesi200 Apr 19, 2023 at 14:19:32 (UTC)
Goto Top
Zitat von @maretz:

nur mit Alk noch ertragen kann... und DAFÜR is es einfach noch zu früh.

In meiner Lehrzeit war das Motto, alles vor 05:00 ist Alkoholismus, alles danach ein Durstlöscher.
PS: in ner halben Stunde gibt's für mich ein Bier.
Member: maretz
maretz Apr 19, 2023 at 14:29:00 (UTC)
Goto Top
so so - also alkoholiker? denn hier wären es noch 32 minuten :D
Member: Vision2015
Vision2015 Apr 19, 2023 at 14:39:24 (UTC)
Goto Top
Moin...
Zitat von @maretz:

so so - also alkoholiker? denn hier wären es noch 32 minuten :D

ich habe innere Zeitverschiebung... also egal face-smile

Frank
Member: wiesi200
wiesi200 Apr 19, 2023 at 14:41:42 (UTC)
Goto Top
Zitat von @maretz:

so so - also alkoholiker? denn hier wären es noch 32 minuten :D

Ne, 5 Uhr morgens nicht 17:00
Member: Lochkartenstanzer
Lochkartenstanzer Apr 19, 2023 at 15:16:00 (UTC)
Goto Top
Zitat von @wiesi200:

In meiner Lehrzeit war das Motto, alles vor 05:00 ist Alkoholismus, alles danach ein Durstlöscher.
PS: in ner halben Stunde gibt's für mich ein Bier.

5.00 ist normal die zeit, in der man als Informatiker ins Bett geht. face-smile

Aber immerhin, mit dem Motto könnten die meisten schon zum Frühstück ein Bier trinken.

lks
Member: Crusher79
Crusher79 Apr 19, 2023 at 16:11:08 (UTC)
Goto Top
Habs auch nur überflogen ...

Die Hallus hab ich neulich auch erst im Thread erwähnt. "Gute Filmmusik" wo es keine gab. Da alles noch am Anfang steckt dachte ich "reicht so aus".

Es gibt sie und damit sind die Ergebnisse nicht so hunderprozentig geil. Damit konnte ich bis dato gut leben ....


Bzw. war es mehr die Umbschreibung "fantasiert".....


Man hab keinen Bock mehr auf den Kram.......................
Member: Trommel
Trommel Apr 20, 2023 at 07:28:40 (UTC)
Goto Top
Was rauchst Du face-smile

Trommel
Mitglied: 6247018886
6247018886 Apr 20, 2023 at 07:31:36 (UTC)
Goto Top
Zitat von @Trommel:

Was rauchst Du face-smile
Klimaneutralen Klebstoff ­čśü
Member: Lochkartenstanzer
Lochkartenstanzer Apr 20, 2023 at 07:42:21 (UTC)
Goto Top
Zitat von @6247018886:

Zitat von @Trommel:

Was rauchst Du face-smile
Klimaneutralen Klebstoff ­čśü

Nur damit die Klimakkleber sich nicht festkkeben können? Teuflischer Plan!
Member: Crusher79
Crusher79 Apr 20, 2023 at 08:05:48 (UTC)
Goto Top
Ich habe die Lösung gefunden! Nein nicht 42 !

https://www.youtube.com/watch?v=1NsqfXO3Dh0

Herbert Görgens himself steckt hinter der KI! Nachdem er nicht ins Fernsehen kam, wollte er das VVV erobern. Die W-Taste klemmte. Darum leider etwas verspätet die ChatGPT