itebob
Goto Top

Künstliche Intelligenz hat Vertrauen verdient

Hallo,

ich bekomme den Eindruck, dass aktuell immer wieder ein verzerrtes Bild beim Thema "Künstliche Intelligenz" in der Öffentlichkeit präsentiert wird. Ein Beispiel sind Kommentare im Thread Künstliche Intelligenz hat IMHO Respekt verdient . Gleich zu Beginn der Diskussion werden heftige eindringliche Appelle nach der Regulierung der Künstlichen Intelligenz gefordert. Es werden unbedingt irgendwelche (WELCHE?) Regulierungsmaßnahmen gefordert. Mitglieder des ChaosTreffs Osnabrück senden dagegen eine beruhigende Botschaft.

Vortrag Künstliche Intelligenz & Neuronale Netze vom 18.01.2019
Teilweise werden auch Horrorszenarien wie aus irgendwelchen Filmen gemalt, dass die künstliche Intelligenz auf einmal selbständig wird und sich denkt 'Ah, Unterdrücken wir mal die Menschheit.' Geht nicht so einfach, weil so eine Künstliche Intelligenz lernt eigentlich nur das, was wir ihr sagen, sie soll lernen. Z. Bsp. sie soll lernen Katzenbilder erkennen. KI, die Katzenbilder erkennen soll, wird nicht auf die Idee kommen, die Menschheit zu unterdrücken.

Künstliche Intelligenz ist eine Technologie, eine Technik, die von der Menschheit geschaffen wurde und deren Eigenschaften und Fertigkeiten allein davon abhängen, was wir als Gesellschaft für gut bzw. notwendig halten. Diese Technologie gleich streng zu regulieren - vermutlich den Zugang zu dieser Technologie künstlich zu verknappen - unter dem Vorwand, das sie ja von Kriminellen missbraucht werden kann wird IMHO kaum einen Gewinn an Sicherheit bedeuten. Die Kriminellen werden nicht davon abgehalten diese Technologie für ihre Zwecke zu missbrauchen.

Um so einen Missbrauch wirksam zu bekämpfen, brauchen wir als Gesellschaft eine flächendeckende KI-Kompetenz. Damit bspw. die Tatsache, dass demnächst beim Enkeltrick-Betrug für die Kriminellen möglich sein wird die Opfer nicht nur mit der Stimme des Enkels, sondern auch mit dem Bewegtbild des Fake-Enkels zu täuschen, zum Allgemeinwissen gehört. Nur wenn quer durch alle Bevölkerungsschichten die Menschen mit den Möglichkeiten der KI vertraut sind, sind sie in der Lage Fake-Enkels von echten Enkels zu unterscheiden. Regulierung hilft kaum bei der Verbreitung der KI-Kompetenz.

[1] ChaOStalk Künstliche Intelligenz & Neuronale Netze - https://media.ccc.de/v/chaostalk-4.1-Kuenstliche-Intelligenz
[2] Künstliche Intelligenz hat IMHO Respekt verdient, 6.03.2023 - Künstliche Intelligenz hat IMHO Respekt verdient

Content-Key: 6256263448

Url: https://administrator.de/contentid/6256263448

Printed on: April 16, 2024 at 17:04 o'clock

Member: lcer00
lcer00 Mar 07, 2023 at 11:03:54 (UTC)
Goto Top
Hallo,

Um so einen Missbrauch wirksam zu bekämpfen, brauchen wir als Gesellschaft eine flächendeckende KI-Kompetenz.
Wir müssen uns da nichts vormachen. Das ist nicht erreichbar. Wir sollten froh sein, wenn wenigstens die betroffenen Entscheidungsträger einigermaßen wissen, worum es geht.

Das posten KI-freundlicher Artikel in einem Forum für IT-Spezialisten führt jedenfalls nicht zur Verbesserung der KI-Kompetenz der Enkeltrick-Oma.

KI-Kompetenz bedeutet für mich dabei folgendes:
  • Verstehe, dass die KI ein mathematisches Modell ist, das mit Wahrscheinlichkeiten arbeitet. Daraus folgt:
  • Misstraue den Qualität der Trainingsdaten - und damit denjenigen, die die KI "füttern".
  • Wende die KI ausschließlich im vorgesehen Anwendungsbereich ein.
  • Erwarte Fehleinschätzungen der KI.
  • Erwarte bisher nicht aufgetretene Fehler nach jeder Änderung an der KI.

Das sind alles keine positiven Punkte.

Und für den geistigen Horizont der Enkeltrick-Oma kann ich das nicht anders zusammenfassen als "Traue einer KI nicht über den Weg". Der Politiker, der die Oma schützen möchte, fordert daher zurecht Regulierungen - zumindest für die Anwendung der KI in der Gesellschaft (Für die Forschung sehe ich das anders. Skynet ist noch nicht am Horizont zu erkennen.).

Grüße

lcer
Member: Franz-Josef-II
Franz-Josef-II Mar 07, 2023 at 11:06:10 (UTC)
Goto Top
Rein prinzipiell .... nicht so falsch.

Die Frage ist "nur", wo stehen wir in 5 oder 10 Jahren? Wie schaut's mit den Staaten und "NGOs" 🤣 aus, denen gesetzliche Regelungen wenn nicht komplett egal nur egal sind? Wohin entwickeln die, wie weit kommen die und wie wirkt sich das aus?
Member: Franz-Josef-II
Franz-Josef-II Mar 07, 2023 at 11:11:20 (UTC)
Goto Top
Zitat von @lcer00:
Wir müssen uns da nichts vormachen. Das ist nicht erreichbar. Wir sollten froh sein, wenn wenigstens die betroffenen Entscheidungsträger einigermaßen wissen, worum es geht.

Wieso nicht? Jede(r) kann mit einem Handy und PC umgehen ..... oder doch nicht?

Zitat von @lcer00:
  • Misstraue den Qualität der Trainingsdaten - und damit denjenigen, die die KI "füttern".

Wer weiß wer das ist?

Zitat von @lcer00:
  • Erwarte Fehleinschätzungen der KI.

Naja, als wir in der Schule den Taschenrechner verwenden durften, hat auch keiner mehr die Ergebnisse hinterfragt. 😂

Zitat von @lcer00:
Skynet ist noch nicht am Horizont zu erkennen.).

Es wird dann interessant, wenn sich die KI die Trainiungsdaten selber aussucht und nimmt 😂
Member: wiesi200
wiesi200 Mar 07, 2023 at 11:37:38 (UTC)
Goto Top
Was wir ja bei der letzten Runde angeschnitten haben. Das was wir sehen hat eigentlich nichts mit "Intelligenz" zu tun. Es ist ein Werkzeug das sich selbst optimiert auf Grund von Daten die man bereit stellt.

"Maschinelles lernen" trifft es besser. Klingt zwar nicht so nach Hollywood Blockbuster und wird keinen Hyper auslösen.

Also auch da nein KI braucht kein Vertrauen, im Moment. Da wir noch lange keine echte KI haben.
Member: C.R.S.
C.R.S. Mar 07, 2023 at 11:46:36 (UTC)
Goto Top
Die Kommission, das Parlament und die EU-Mitgliedstaaten basteln schon seit fast zwei Jahren am Artificial Intelligence Act, dem weltweit ersten Regelwerk für Künstliche Intelligenz. Doch ChatGPT macht all ihre Arbeit zunichte. Mit einem so ausgefeilten Programm hatte niemand gerechnet. Jetzt schreiben die Politiker und Beamten ihre Gesetzentwürfe eilig um, weiten sie auf schlaue Chatbots aus. (...)
Er wolle sicherstellen, so Breton, dass in Europa nur vertrauenswürdige KI zum Einsatz komme.
https://www.welt.de/wirtschaft/article244135229/ChatGPT-Co-So-will-Europ ...

Kann man sich nicht ausdenken. Na ja, des Wählers Wille ist sein Himmelreich.
Member: Visucius
Visucius Mar 07, 2023 at 12:10:53 (UTC)
Goto Top
Er wolle sicherstellen, so Breton, dass in Europa nur vertrauenswürdige KI zum Einsatz komme.

Mit einer moralischen Instanz wie vdL sind "wir" da ja prima aufgestellt. Da kann ja nix schief gehen! face-wink
Member: it-fraggle
it-fraggle Mar 07, 2023 at 12:24:13 (UTC)
Goto Top
Es wird dann interessant, wenn sich die KI die Trainiungsdaten selber aussucht und nimmt
Gar nicht nötig. Die Auswahl übernehmen schon andere Leute mit speziellen Interessen. KI zu regulieren hilft nur bedingt, denn die wahren Verbrecher sitzen unter den Regulierern.

Und wer dumm über Skynet lacht, der soll sich lieber mal fragen wo die KI in 10 Jahren steht. Und jetzt noch mal zurück zu den Leuten mit speziellen Interessen. Und ich meine nicht damit die Kleinganoven, die Oma um ihre Ersparnisse bringen.
Member: lcer00
lcer00 Mar 07, 2023 at 12:59:44 (UTC)
Goto Top
Hallo,
Zitat von @it-fraggle:

Es wird dann interessant, wenn sich die KI die Trainiungsdaten selber aussucht und nimmt
Gar nicht nötig. Die Auswahl übernehmen schon andere Leute mit speziellen Interessen. KI zu regulieren hilft nur bedingt, denn die wahren Verbrecher sitzen unter den Regulierern.
Na ja, das Risiko besteht grundsätzlich. Alle Bereiche des Lebens sind heute mehr oder weniger reguliert. Und die Regeln werden oft recht großzügig ausgelegt oder unterlaufen. Das ist kein KI Problem an sich.

Ich würde mir eine Regulierung für kommerziell oder staatlich eingesetzte KIs wie folgt vorstellen:
  • Geforscht werden darf ohne Beschränkung, solange es dabei nicht um den Einsatz "am Menschen" geht. In diesen Fällen sollte ggf. das Votum einer Ethikkomission (analog zur Mediinischen Forschung) eingeholt werden.
  • Der "Hersteller" beschreibt den Anwendungsbereich und macht eine Risiko/Folgenabschätzung.
  • Je nach Anwendungsbereich und Risiko ist ggf. eine behördliche Zulassung zu beantragen.
  • Die Anwendung darf nur im Anwendungsbereich eingesetzt werden.
  • Das In-Verkehrbringen oder Einsetzen einer KI ohne erforderliche Zulassung wird bestraft.
  • Jede Änderung an der KI erforderte eine erneute Bewertung / Zulassung.
  • Der Hersteller haftet für die Produktqualität gemäß der Zulassung.
  • Betreiber haftet für den bestimmungsgemäßen Einsatz.
  • Der Verbraucher ist vom Betreiber über den Einsatz der KI und deren Risiken/Grenzen zu informieren.

Was ich da geschrieben habe, liest sich wie ein ganz normales Verfahren für ganz normale Produkte. Autos, Schnitzel, Medikamente, Computer ....

Und wer dumm über Skynet lacht, der soll sich lieber mal fragen wo die KI in 10 Jahren steht.
Dafür kann man ja mittelfristig eine ergänzende Gesetzgebung mach, quasi eine Mischung aus Tierschutzgesetz und Kriegswaffenkontrollgesetz.

Und jetzt noch mal zurück zu den Leuten mit speziellen Interessen. Und ich meine nicht damit die Kleinganoven, die Oma um ihre Ersparnisse bringen.
siehe oben, gleiches Problem, wie bei allen Produkten.

Ach ja - aufpassen sollte man auch auf NGOs, die KIs zum Verbreiten oder Umsetzen ihrer Minderheitenmeinung nutzen .... Ist aber auch wie im richtigen Leben.

Und zum Schluss noch etwas zum Thema Vertrauen:
Vertrauen sollte der Bürger in seinen Staat setzen können. Und das deshalb, weil man ihn hinreichend misstrauisch beäugt. Ohne staatlichen Rahmen kann an sowieso niemandem vertrauen. Für die KI ist Vertrauen ist falsche Kategorie. Und Herstellern von KIs sollte man misstrauen. face-smile

Grüße

lcer
Member: erikro
erikro Mar 07, 2023 at 13:00:48 (UTC)
Goto Top
Moin,

Zitat von @itebob:
ich bekomme den Eindruck, dass aktuell immer wieder ein verzerrtes Bild beim Thema "Künstliche Intelligenz" in der Öffentlichkeit präsentiert wird.

Das ist wohl wahr. Allerdings in ganz anderem Sinne als Du das meinst. Allein schon die Bezeichnung verzerrt das Bild vollkommen. Intelligenz? Die Dinger, die momentan so hoch gelobt werden, sind alles andere als intelligent. Das ist die verzerrte Darstellung. Und jeder, der was anderes behauptet, wird als fortschrittsfeindlich, arrogant, herablassend etc. bezeichnet. Das ist die verzerrte Darstellung. Kurz: Bisher handelt es sich bei den so hoch gelobten Künstlichen Intelligenzen um nichts anderes als um aufgebohrte Suchmaschinen, die um ein künstliches Sprachmodell ergänzt wurden. Intelligenz ist etwas vollkommen anderes. Oder um es mal wieder herablassend zu formulieren: Jeder Schimpanse ist intelligenter als ChatGPT. face-wink

my 2 cents

Erik
Member: tech-flare
tech-flare Mar 07, 2023 at 13:09:41 (UTC)
Goto Top
Hallo,

wie oft willst du zu diesem Thema eigtl. noch ein Beitrag erstellen?

Hast du bereits vergessen, dass du dazu gestern einen erstellt ahst, oder gefallen dir die Antworten nicht?

Hier nochmal als Erinnerung der Link:
Künstliche Intelligenz hat IMHO Respekt verdient
Member: Visucius
Visucius Mar 07, 2023 updated at 13:12:23 (UTC)
Goto Top
Und seit Mitte Januar alle paar Tage ein neuer Thread zum Thema!

https://administrator.de/user/itebob/

Wurdest Du auch gehired von der NGO?! Lass Dir sagen, Guerilla-Marketing klapp eher nicht mit der Holzhammer-Methode face-wink
Member: erikro
erikro Mar 07, 2023 at 13:19:33 (UTC)
Goto Top
Zitat von @Visucius:
Wurdest Du auch gehired von der NGO?! Lass Dir sagen, Guerilla-Marketing klapp eher nicht mit der Holzhammer-Methode face-wink

Vielleicht ist er ja ChatGPT und wir merken es bloß nicht. face-wink Ach nee, nur ein fan boy. face-wink
Member: Visucius
Visucius Mar 07, 2023 at 14:53:12 (UTC)
Goto Top
@Frank

Wir könnten doch jede (neue) Frage einfach mal vollautomatisch in Chatgpt beantworten lassen und das als erste Antwort (entsprechend) gekennzeichnet anzeigen lassen face-wink

Dann wissen "wir" wenigstens ob wir genauso schnell überflüssig werden, wie die "Journalisten", die seit Jahren vorwiegend Pressemitteilungen zusammenstöpseln.
Member: itebob
itebob Mar 07, 2023 updated at 15:19:34 (UTC)
Goto Top
Zitat von @lcer00:
KI-Kompetenz bedeutet für mich dabei folgendes:
  • Verstehe, dass die KI ein mathematisches Modell ist, das mit Wahrscheinlichkeiten arbeitet. Daraus folgt:
  • Misstraue den Qualität der Trainingsdaten - und damit denjenigen, die die KI "füttern".
  • Wende die KI ausschließlich im vorgesehen Anwendungsbereich ein.
  • Erwarte Fehleinschätzungen der KI.
  • Erwarte bisher nicht aufgetretene Fehler nach jeder Änderung an der KI.

Das sind alles keine positiven Punkte.
Die KI, wie jede andere technische Erfindung ist IMHO an sich weder positiv noch negativ. Es kommt darauf an, wie man ein Werkzeug verwendet, wofür das Werkzeug an sich nichts kann. Es sind die Menschen die ein Auto entweder für die Flucht nach einem Bankraub oder für den Transport eines Kranken in die Klinik verwenden.

Zitat von @lcer00:
Und für den geistigen Horizont der Enkeltrick-Oma kann ich das nicht anders zusammenfassen als "Traue einer KI nicht über den Weg". Der Politiker, der die Oma schützen möchte, fordert daher zurecht Regulierungen - zumindest für die Anwendung der KI in der Gesellschaft (Für die Forschung sehe ich das anders.

Mit KI-Kompetenz meine ich nicht unbedingt, dass eine "Oma" mit dem Begriff KI und mit den technischen Details zur Arbeitsweise der Algorithme konfrontiert wird. Genauso wie Omas und Opas und auch die jüngere Generation millionenfach im Smartphone realisierte KI, maschinelles Lernen Eigenschaften verwendet ohne zu wissen, dass diese KI ihnen ständig hilft. Aber es ist von Vorteil für Oma und andere Smartphone-Nutzer:innen über praktische Auswirkungen der "Tätigkeit" der Smartphone-KI zu wissen. Bspw. dass die Helligkeit auf dem mit dem Smartphone gemachten Foto nicht der tatsächlichen Helligkeit entspricht.

[1] Wie maschinelles Lernen auf dem Gerät die Art und Weise verändert hat, wie wir unsere Telefone verwenden, 03.07.2021 - https://www.androidauthority.com/machine-learning-phones-1238287/
Member: lcer00
lcer00 Mar 07, 2023 at 15:14:19 (UTC)
Goto Top
Zitat von @itebob:

Zitat von @lcer00:
KI-Kompetenz bedeutet für mich dabei folgendes:
  • Verstehe, dass die KI ein mathematisches Modell ist, das mit Wahrscheinlichkeiten arbeitet. Daraus folgt:
  • Misstraue den Qualität der Trainingsdaten - und damit denjenigen, die die KI "füttern".
  • Wende die KI ausschließlich im vorgesehen Anwendungsbereich ein.
  • Erwarte Fehleinschätzungen der KI.
  • Erwarte bisher nicht aufgetretene Fehler nach jeder Änderung an der KI.

Das sind alles keine positiven Punkte.
Die KI, wie jede andere technische Erfindung ist IMHO an sich weder positiv noch negativ. Es kommt darauf an, wie man ein Werkzeug verwendet, wofür das Werkzeug an sich nichts kann. Es sind die Menschen die ein Auto entweder für die Flucht nach einem Bankraub oder für den Transport eines Kranken in die Klinik verwenden.

Zitat von @lcer00:
Und für den geistigen Horizont der Enkeltrick-Oma kann ich das nicht anders zusammenfassen als "Traue einer KI nicht über den Weg". Der Politiker, der die Oma schützen möchte, fordert daher zurecht Regulierungen - zumindest für die Anwendung der KI in der Gesellschaft (Für die Forschung sehe ich das anders.

Mit KI-Kompetenz meine ich nicht unbedingt, dass eine "Oma" unbedingt mit dem Begriff KI und mit den technischen Details zur Arbeitsweise der Algorithme konfrontiert wird. Genauso wie Omas und Opas und auch die jüngere Generation millionenfach im Smartphone realisierte KI, maschinelles Lernen Eigenschaften verwendet ohne zu wissen, dass diese KI ihnen ständig hilft. Aber es ist von Vorteil für Oma und andere Smartphone-Nutzer:innen über praktische Auswirkungen der "Tätigkeit" der Smartphone-KI zu wissen. Bspw. dass die Helligkeit auf dem mit dem Smartphone gemachten Foto nicht der tatsächlichen Helligkeit entspricht.

[1] Wie maschinelles Lernen auf dem Gerät die Art und Weise verändert hat, wie wir unsere Telefone verwenden, 03.07.2021 - https://www.androidauthority.com/machine-learning-phones-1238287/

Ist das eine Frage oder Deine Antwort auf eine Frage die niemand hier gestellt hat? Oder doch einfach nur Propaganda? Und wieso genderst Du jetzt auch noch? Und warum mit : ?

Grüße

lcer
Member: erikro
erikro Mar 07, 2023 at 16:16:09 (UTC)
Goto Top
Moin,

Zitat von @itebob:
Aber es ist von Vorteil für Oma und andere Smartphone-Nutzer:innen über praktische Auswirkungen der "Tätigkeit" der Smartphone-KI zu wissen. Bspw. dass die Helligkeit auf dem mit dem Smartphone gemachten Foto nicht der tatsächlichen Helligkeit entspricht.

[1] Wie maschinelles Lernen auf dem Gerät die Art und Weise verändert hat, wie wir unsere Telefone verwenden, 03.07.2021 - https://www.androidauthority.com/machine-learning-phones-1238287/

Echt jetzt? Jetzt ist schon die stumpfe Erhebung von Benutzerstatistiken und die Reaktion darauf Künstliche Intelligenz? Es ist künstliche Intelligenz, dass mir z. B. Wörter beim Tippen vorgeschlagen werden, die ich häufig benutze? Es ist künstliche Intelligenz, dass sich meine Kamera meine bevorzugten Einstellungen in bestimmten Situationen merkt? Das kann doch nicht wirklich Dein Ernst sein.

Und genau das ist es, was mich an dem ganzen Hype so nervt. Da werden einem Funktionen, die es teilweise schon in der analogen Welt gab, als was ganz tolles Neues verkauft. Dabei sind das alte Hüte, die einfach ein wenig aufpoliert wurden. Von einer Künstlichen Intelligenz, die den Namen wirklich verdient, sind wir noch sehr, sehr weit entfernt.

Liebe Grüße

Erik
Member: mayho33
mayho33 Mar 07, 2023 at 22:25:34 (UTC)
Goto Top
Also wenn ich bedenke, dass man, bevor die Einschränkung auf 6 Anfragen pro Thema kam, ChatGPT zu >80% immer böse und hinterhältig wurde, wäre ich schon froh, wenn KI nicht uneingeschränkt in unser Leben tritt.
Es muss ja nicht gleich SkyNet sein. Immerhin gibt es genug andere Möglichkeiten Menschen zu beeinflussen. Und die einfachste ist "FakeNews".

Außerdem: Im Beispiel von ChatGPT wurden fast immer gravierende Fehler präsentiert wenn es um Anfragen in Richtung INet ging. Skeptisch zu sein und jedes Ergebnis zu hinterfragen ist da schon regelrecht Pflicht! Im Alltag extrem mühdam.
Member: mayho33
mayho33 Mar 07, 2023 at 22:29:01 (UTC)
Goto Top
Zitat von @erikro:

Moin,

Zitat von @itebob:
Aber es ist von Vorteil für Oma und andere Smartphone-Nutzer:innen über praktische Auswirkungen der "Tätigkeit" der Smartphone-KI zu wissen. Bspw. dass die Helligkeit auf dem mit dem Smartphone gemachten Foto nicht der tatsächlichen Helligkeit entspricht.

[1] Wie maschinelles Lernen auf dem Gerät die Art und Weise verändert hat, wie wir unsere Telefone verwenden, 03.07.2021 - https://www.androidauthority.com/machine-learning-phones-1238287/

Echt jetzt? Jetzt ist schon die stumpfe Erhebung von Benutzerstatistiken und die Reaktion darauf Künstliche Intelligenz? Es ist künstliche Intelligenz, dass mir z. B. Wörter beim Tippen vorgeschlagen werden, die ich häufig benutze? Es ist künstliche Intelligenz, dass sich meine Kamera meine bevorzugten Einstellungen in bestimmten Situationen merkt? Das kann doch nicht wirklich Dein Ernst sein.

Und genau das ist es, was mich an dem ganzen Hype so nervt. Da werden einem Funktionen, die es teilweise schon in der analogen Welt gab, als was ganz tolles Neues verkauft. Dabei sind das alte Hüte, die einfach ein wenig aufpoliert wurden. Von einer Künstlichen Intelligenz, die den Namen wirklich verdient, sind wir noch sehr, sehr weit entfernt.

Also bis vor ein paar Jahren nannte man diese Art von Verhalten noch Fuzzy Logic. Aber man muss mit der Zeit gehen und dieserart Vereinfachung wohl akzeptieren. So traurig das auch ist.
Member: Franz-Josef-II
Franz-Josef-II Mar 08, 2023 updated at 06:07:19 (UTC)
Goto Top
Zitat von @it-fraggle:
Gar nicht nötig. Die Auswahl übernehmen schon andere Leute mit speziellen Interessen.

und alle Kombinationsmöglichkeiten 😂

Zitat von @it-fraggle:
Und wer dumm über Skynet lacht, der soll sich lieber mal fragen wo die KI in 10 Jahren steht.

Genau das ist es ..... und aufgrund us-amerikanischer, russischer und chinesischer Interessen ..... die CosaNostra etc habe ich da (nicht) vergessen ...... wir müssen mit, nur wer etwas kennt kann es abwehren.

Zitat von @icer00
Ich würde mir eine Regulierung für kommerziell oder staatlich eingesetzte KIs wie folgt vorstellen:

Staatenübergreifend und kontrolliert wie Corona und China oder Iran und Atomwaffen ..... wobei dieses noch "greifbar" ist. 🤣
Member: lcer00
lcer00 Mar 08, 2023 updated at 06:30:24 (UTC)
Goto Top
Hallo,
Zitat von @Franz-Josef-II:

Zitat von @icer00
Ich würde mir eine Regulierung für kommerziell oder staatlich eingesetzte KIs wie folgt vorstellen:

Staatenübergreifend und kontrolliert wie Corona und China oder Iran und Atomwaffen ..... wobei dieses noch "greifbar" ist. 🤣
Na ja - die Alternative zu schlechter Kontrolle wäre ja gar keine Kontrolle. Oder Butlers D###

Grüße

lcer

PS: was ist denn das für ein Mist-(KI?)-Filter hier, der Literaturverweise mit ### unkenntlich macht. Vorauseilende Zensur. Da habt Ihr es.
Member: Franz-Josef-II
Franz-Josef-II Mar 08, 2023 updated at 06:31:48 (UTC)
Goto Top
Es wird nicht einmal eine schlechte Kontrolle sein.

Nachsatz: ..... und wenn der Staat nicht will, dann gibt's Sanktionen, die nicht von allen Staaten mitgetragen werden.


Ich würde sagen, daß die Büchse der Pandora offen ist ............ gut? schlecht? Schauma in 10 Joa weida 😂
Member: itebob
itebob Mar 09, 2023 at 11:27:44 (UTC)
Goto Top
Zitat von @mayho33:
Also bis vor ein paar Jahren nannte man diese Art von Verhalten noch Fuzzy Logic. Aber man muss mit der Zeit gehen und dieserart Vereinfachung wohl akzeptieren. So traurig das auch ist.
Ja, auf Fuzzylogik basierte Verfahren werden - unter anderem - bei der Realisierung von Künstliche Intelligenz-Lösungen eingesetzt - s. dazu https://de.wikipedia.org/wiki/Fuzzylogik#Anwendungsbeispiele . So wie bspw. die arithmetische Grundbegriffe und arithmetische Verfahren in vielen Teilgebieten der Mathematik eingesetzt werden. Aber niemand kommt auf die Idee auf den Gebrauch des Begriffs "Mathematik" zu verzichten und zu behaupten, dass "Mathematik" lediglich ein neumodisches Wort für "Arithmetik" ist face-smile.
Member: lcer00
lcer00 Mar 09, 2023 at 12:12:30 (UTC)
Goto Top
Hallo,
Zitat von @itebob:

Zitat von @mayho33:
Also bis vor ein paar Jahren nannte man diese Art von Verhalten noch Fuzzy Logic. Aber man muss mit der Zeit gehen und dieserart Vereinfachung wohl akzeptieren. So traurig das auch ist.
Ja, auf Fuzzylogik basierte Verfahren werden - unter anderem - bei der Realisierung von Künstliche Intelligenz-Lösungen eingesetzt - s. dazu https://de.wikipedia.org/wiki/Fuzzylogik#Anwendungsbeispiele . So wie bspw. die arithmetische Grundbegriffe und arithmetische Verfahren in vielen Teilgebieten der Mathematik eingesetzt werden. Aber niemand kommt auf die Idee auf den Gebrauch des Begriffs "Mathematik" zu verzichten und zu behaupten, dass "Mathematik" lediglich ein neumodisches Wort für "Arithmetik" ist face-smile.
Das rechtfertig aber nicht, den Begriff "Künstliche Intelligenz" so zu verwenden, als sei es keine Mathematik, sondern das Ergebnis darwinscher Evololutionbiologie.

Grüße

lcer
Member: Nebellicht
Nebellicht Jan 21, 2024 at 19:37:07 (UTC)
Goto Top
Vortrag zur Künstlichen Intelligenz oder Lass mal das Innere eines Neuronalen Netzes ansehen!
Member: mayho33
mayho33 Jan 26, 2024 at 15:48:24 (UTC)
Goto Top
Zitat von @lcer00:

Hallo,
Zitat von @itebob:

Zitat von @mayho33:
Also bis vor ein paar Jahren nannte man diese Art von Verhalten noch Fuzzy Logic. Aber man muss mit der Zeit gehen und dieserart Vereinfachung wohl akzeptieren. So traurig das auch ist.
Ja, auf Fuzzylogik basierte Verfahren werden - unter anderem - bei der Realisierung von Künstliche Intelligenz-Lösungen eingesetzt - s. dazu https://de.wikipedia.org/wiki/Fuzzylogik#Anwendungsbeispiele . So wie bspw. die arithmetische Grundbegriffe und arithmetische Verfahren in vielen Teilgebieten der Mathematik eingesetzt werden. Aber niemand kommt auf die Idee auf den Gebrauch des Begriffs "Mathematik" zu verzichten und zu behaupten, dass "Mathematik" lediglich ein neumodisches Wort für "Arithmetik" ist face-smile.
Das rechtfertig aber nicht, den Begriff "Künstliche Intelligenz" so zu verwenden, als sei es keine Mathematik, sondern das Ergebnis darwinscher Evololutionbiologie.

Grüße

lcer

Fuzzy Logic ist Mathematik. Unter KI oder AI stelle ich mir halt etwas mehr vor als auf mehrere, gleichzeitig auftretende Umstände zu reagieren.

Die Darwin'sche Evolutionstheorie ist die Lehre von Veränderung zukünftiger Generationen auf bestehende Umwelteinflüsse und die Verdrängung weniger Angepasster.. Wäre KI nur ein solches Konstrukt, dann täte sie mir leid. Darum auch meine Anmerkung bzgl. Fuzzy Logic.
Member: itebob
itebob Jan 26, 2024 updated at 16:28:48 (UTC)
Goto Top
Zitat von @mayho33:

Die Darwin'sche Evolutionstheorie ist die Lehre von Veränderung zukünftiger Generationen auf bestehende Umwelteinflüsse und die Verdrängung weniger Angepasster.. Wäre KI nur ein solches Konstrukt, dann täte sie mir leid. Darum auch meine Anmerkung bzgl. Fuzzy Logic.

Wikipedia definiert
Künstliche Intelligenz (KI), auch artifizielle Intelligenz (AI), englisch artificial intelligence, ist ein Teilgebiet der Informatik, es umfasst alle Anstrengungen, deren Ziel es ist, Maschinen intelligent zu machen. Dabei wird Intelligenz verstanden als die Eigenschaft, die ein Wesen befähigt, angemessen und vorausschauend in seiner Umgebung zu agieren;
[...]

Damit kann man m.E. - wenn man das Thema rein technisch und ohne ideologische Filter betrachtet - gewisse Überschneidungen mit der Darwin'schen Evolutionstheorie identifizieren. Weil bspw. Veränderung von Lebewesen als Reaktion auf Umwelteinflüsse und Verdrängung weniger Angepasster könnte man als angemessenes und vorausschauendes Agieren betrachten. Es ist aus meiner Sicht wichtig zu beachten, dass KI lediglich ein Teilgebiet der Wissenschaft ist, in dem Fragen gestellt, Probleme entdeckt und nach Lösungen gesucht wird.

Es wird vlt. Lösungen geben oder gibt es vlt. bereits Anwendungen, in die Erkenntnisse aus der KI einfließen, die kritikwürdig sind. Aber wofür die Menschen die wissenschaftliche Erkenntnisse einsetzen, darauf hat die Wissenschaft selbst keinen Einfluss.
Member: mayho33
mayho33 Jan 29, 2024 at 17:02:59 (UTC)
Goto Top
Zitat von @itebob:
...gewisse Überschneidungen mit der Darwin'schen Evolutionstheorie identifizieren. Weil bspw. Veränderung von Lebewesen als Reaktion auf Umwelteinflüsse und Verdrängung weniger Angepasster könnte man als angemessenes und vorausschauendes Agieren betrachten.

Hm... 🤔 OK! Von der Warte aus macht es schon Sinn, nur ist KI aktuell ja nur die Summe seiner eingepflanzten Fall-Beispiele (100000 Bilder von Katzen => Vergleich => Ja/Nein Katze). Bei Text scheint es einfacher zu sein (siehe ChatGPT & Co).
Ich bin viel zu weit weg von dem Thema als dass ich much Experte schimpfen könnte, aber wie gesagt: vor 10 Jahren war derart Logik "Fuzzy Logic". Habe mindestens 3 Bücher darüber gelesen und das deckt sich schon halbwegs genau. Das Thema wie oben angesprochen meine ich.

Beispiele für Einsatzgebiete von KI gibt es genug.
  1. Deepfake an erster Stelle
  2. Navigation
  3. Suchmaschinen
  4. ...

Ich bin mir nur nicht sicher ob ich mich einer KI aussetzen möchte die eventuell noch "amok" laufen könnte, aka, ###e erzählen.
Member: itebob
itebob Jan 30, 2024 updated at 13:12:04 (UTC)
Goto Top
Zitat von @mayho33:
Das Thema wie oben angesprochen meine ich.

Meinst du unter Thema "Überschneidungen mit der Darwin'schen Evolutionstheorie" oder "Künstliche Intelligenz hat Vertrauen verdient"?

Zitat von @mayho33:
wie gesagt: vor 10 Jahren war derart Logik "Fuzzy Logic"

Vlt. hast du recht. Vlt. unterscheidet sich "Fuzzy Logic" von ChatGPT damit, dass OpenAI basiert auf "Fuzzy Logic" eine Menge brauchbare Anwendungen gebaut hat und für die Marke ChatGPT erfolgreich Werbung macht. Passiert immer wieder im IT-Bereich und woanders. Jemand erfindet irgendwas und andere geben dem Ding einen anderen Namen und machen ein Haufen Geld damit.

Zitat von @mayho33
Ich bin mir nur nicht sicher ob ich mich einer KI aussetzen möchte die eventuell noch "amok" laufen könnte, aka, ###e erzählen.

Wenn man KI-Anwendungen, KI-Tools in der Ausprägung KI, die angeblich "lügt" (ich halte übrigens es für falsch einem technischen Gerät die Fähigkeit lügen zu können zuzuschreiben - s. Definition, was eine Lüge ist), als Technische Geräte bspw. vergleichbar mit Auto oder Waffe betrachtet, dann gibt es die Möglichkeit bei der Entscheidung "Setze ich ein KI-Gerät ein?" pragmatisch vorzugehen. " Welche Vorteile bringt mir das? Komme ich zum gewünschten Ergebnis, wenn ich die Leistung/ Aussage des KI-Geräts überprüfe und selbst die Entscheidung treffe, ob und wie diese Leistung brauchbar ist?" Beim Gerät Auto oder beim Gerät ""Waffe" hat die Allgemeinheit festgestellt, dass es gefährlich sein kann wenn Personen ohne Führerschein/ Waffenschein mit diesen Geräten hantieren. Vlt. macht es Sinn so was wie KI-Schein einzuführen face-smile ? Sicherheitshalber.
Member: mayho33
mayho33 Jan 30, 2024 at 06:50:43 (UTC)
Goto Top
Zitat von @itebob:

Zitat von @mayho33:
Das Thema wie oben angesprochen meine ich.

Meinst du unter Thema "Überschneidungen mit der Darwin'schen Evolutionstheorie" oder "Künstliche Intelligenz hat Vertrauen verdient"?
Ich meinte den Katzenbildervergleich.

Zitat von @mayho33:
wie gesagt: vor 10 Jahren war derart Logik "Fuzzy Logic"

Vlt. hast du recht. Vlt. ist der Unterschied zwischen "Fuzzy Logic" und ChatGPT...
Texterkennung und intelligente Schreibautomaten (wollte jetzt nicht KI schreiben) funktionieren mAn ja anders als nach Ausschlussverfahren zu prüfen ob es sich um eine Katze handelt oder nicht. Darum ist ChatGPT eben nicht Fuzzy Logic ...oder vielleicht doch im Kern. 🤷‍♂️

Zitat von @mayho33
Ich bin mir nur nicht sicher ob ich mich einer KI aussetzen möchte die eventuell noch "amok" laufen könnte, aka, ###e erzählen.

Wenn man KI-Anwendungen, KI-Tools in der Ausprägung KI, die angeblich "lügt" (ich halte übrigens es für falsch einem technischen Gerät die Fähigkeit lügen zu können zuzuschreiben...
Frage ChatGPT etwas Hochtechnisches wo es sehr wenig Material zu finden gibt im INet. Ich habe es mit Installshield-Themen gemacht.
Es erzählt dir irgendwas, wenn es nichts brauchbares findet. Als Lüge an sich habe ich das ja nicht bezeichnet. Oder meinst du das allgemein?

[...] " Welche Vorteile bringt mir das? Komme ich zum gewünschten Ergebnis, wenn ich die Leistung/ Aussage des KI-Geräts überprüfe und selbst die Entscheidung treffe, ob und wie diese Leistung brauchbar ist?" Beim Gerät Auto oder beim Gerät ""Waffe" hat die Allgemeinheit festgestellt, dass es gefährlich sein kann wenn Personen ohne Führerschein/ Waffenschein mit diesen Geräten hantieren. Vlt. macht es Sinn so was wie KI-Schein einzuführen face-smile ? Sicherheitshalber.
Viele sehr schlaue Köpfe machen sich über die Robotergesetze Gedanken. Das hat damals Stanislav Lem auch schon getan und Hollywood und viele andere.
Heute sind doch eher solche Fragen zu klären wie: "Kann eine KI seine Programmierung selbst ändern, nachdem sie intelligent genug geworden ist und wie kann man das effizient vehindern?"

Bevor diese Frage nicht ausreichend geklärt ist, sollte man KI nicht hochzüchten auf ein gefährliches Niveau (meine Meinung). Und dann müsste man auch noch klären wo ein gefährliches Niveau beginnt in dem Bereich. Viele offene Fragen, keine Antworten.
Aktuell ist KI eher noch dumm wie Brot. Sie entscheidet aufgrund "programmierter Erfahrung". Genau wie Fuzzy Logic, nur differenzierter und komplexer. Da müssen wir uns um Gefahr noch keine Gedanken machen. Wie immer aber, will die Industrie KI aus Effizienz- und Gewinngründen und die Forschung will sie des Forschens und des Ausloten der Grenzen willen. Beides zusammen, der Druck der Industrie und der Ehrgeiz der Forschung, haben oft genug schon Dinge hervorgebracht die heute unsere Welt bedrohen.
Ich bin kein Verschwörungstheoretiker oder habe Angs vor Luft, es ist ein philosophischer Ansatz das Thema zu betrachten.
Member: itebob
itebob Jan 30, 2024 at 19:09:51 (UTC)
Goto Top
Hallo,

Zitat von @mayho33
Texterkennung und intelligente Schreibautomaten (wollte jetzt nicht KI schreiben) funktionieren mAn ja anders als nach Ausschlussverfahren zu prüfen ob es sich um eine Katze handelt oder nicht. Darum ist ChatGPT eben nicht Fuzzy Logic ...oder vielleicht doch im Kern. 🤷‍♂️

Bei ChatGPT haben wir mit Texten also mit verbalen Beschreibung zu tun Dazu, deswegen ist in Wikipedia:.
Zitat https://de.wikipedia.org/wiki/Fuzzylogik#Anwendungsbeispiele
Anwendungsbeispiele
Fuzzylogik wird heute in unterschiedlichen Bereichen eingesetzt:
[...]
Anwendung findet sie auch in der künstlichen Intelligenz, in Inferenzsystemen, in der Spracherkennung und zum Beispiel in der Elektrosicherheit.
Nützen kann Fuzzylogik besonders dann, wenn keine mathematische Beschreibung eines Sachverhaltes oder Problems vorliegt, sondern nur eine verbale Beschreibung.
[...]
Interessant ist dabei, dass mit der Fuzzylogik auch dann Systeme sinnvoll gesteuert (bzw. geregelt) werden können, wenn ein mathematischer Zusammenhang zwischen den Ein- und Ausgabegrößen eines Systems nicht darstellbar ist – oder nur mit großem Aufwand erfolgen könnte, wodurch eine Automatisierung zu teuer oder nicht in Echtzeit realisierbar wäre. Dies ist häufig bei defekten oder ungenauen Sensoren der Fall, deren Funktion mit Fuzzylogik kompensiert werden kann.

Zitat von @mayho33
Frage ChatGPT etwas Hochtechnisches wo es sehr wenig Material zu finden gibt im INet. Ich habe es mit Installshield-Themen gemacht.
Es erzählt dir irgendwas, wenn es nichts brauchbares findet. Als Lüge an sich habe ich das ja nicht bezeichnet. Oder meinst du das allgemein?

Ich habe angenommen, dass hier
Zitat von @mayho33
Ich bin mir nur nicht sicher ob ich mich einer KI aussetzen möchte die eventuell noch "amok" laufen könnte, aka, ###e erzählen.

mit der Abkürzung "###e" Lüge gemeint ist. Weil hier Die Geschichte des toten CAPTCHA und der bereits schon mit Absicht lügenden KIs das Thema "KI lügt" gerade lebhaft besprochen wird. Ich vermute mal, dass du mit der Abkürzung "###e" "irgendwas" sowas wie "Schei*e" face-smile meinst. Ich nehme auch an, wichtig ist, dass beide Begriffe "Schei*e" und "Lüge" in diesem Kontext die Bedeutung haben "Aussage, die unglaubwürdig ist."

= Robotergesetze =
Zitat von @mayho33
{1} Aktuell ist KI eher noch dumm wie Brot.

Hmm, wenn wir beide auf bestimmte Begrifflichkeiten/ Definitionen einigen könnten, dann würden die Cahncen höher, dass weniger Missverständnisse wie "###e" und "Lüge" entstehen. Wenn wir in {1}:
{1.x} Aktuell ist "Teilgebiet der Informatik, die alle Anstrengungen, deren Ziel es ist, Maschinen intelligent zu machen" eher noch dumm wie Brot.

"KI" durch die Wikipedia-Definition ersetzen, dann ist offensichtlich, dass es keinen Sinn macht die Eigenschaft "dumm wie Brot" irgendeinem Wissenschaftsbereich zuzuschreiben. Weil "dumm" das Gegenteil für "intelligent" ist und in diesem Thread, in diesem Kontext angesichts sukzessiven Verschiebung der Grenze "Was KI-Modell entsprechend dem Stand der Technik leisten kann?" diese Bewertungen keine Aussagekraft haben. In diesem konkreten Fall vermute ich zwar, ich verstehe, dass du mit "KI" die aktuell verfügbare Anwendungen (KI-Modelle) im Bereich KI meinst.

Ich bin der Meinung, dass es keinen praktischen Nutzen hat, über die Fragen "Ist ein KI-Modell XY dumm? Ist das KI-Modell YX intelligent?" zu diskutieren.

Zitat von @mayho33
Da müssen wir uns um Gefahr noch keine Gedanken machen.

Es ist aber unbedingt notwendig, sich darüber Gedanken zu machen, welche Gefahren beim Einsatz von Technischen Lösungen, wo (insbesondere unasgereifte) KI-Modelle verwendet werden, entstehen. Die Gefahren - auch für Leib und Leben - entstehen dann, wenn die Leistungsfähigkeit, die Belastbarkeit, die Zuverlässigkeit bestimmter Technischen Lösungen unterschätzt oder überschätzt wird. Eine Seilbahn ist ein Beispiel für eine Lösung ohne KI, wo Menschen gestorben sind, weil die Belastbarkeit, Zuverlässigkeit der Lösung falsch eingeschätzt wurde.

Heute berichten die Medien:
Ziat US-Militär erkannte feindliche Drohne in Jordanien offenbar zu spät, 30.01.2024
die feindliche Drohne habe sich gleichzeitig mit einer US-Überwachungsdrohne dem Stützpunkt genähert. Da zunächst unklar gewesen sei, ob es sich um eine eigene Drohne gehandelt habe, sei die Luftabwehr nicht sofort zum Einsatz gekommen.

Es ist nicht unwahrscheinlich, dass in der Luftabwehr auf dem Stützpukt und auch die Angreifer hier KI-Modelle verwendet haben. Und die Spezialisten, die diese Abwehr entwickelt haben, haben Annahmen und Einsatzszenarien gemacht und anhand dieser Annahmen das KI-Modell mit Daten trainiert. Je nach Sichtweise - es kann sein, dass bei diesen Annahmen die Leistungsfähigkeit, die Belastbarkeit, die Zuverlässigkeit der Luftabwehr inkl. KI-Modell überschätzt wurde - oder die Leistungsfähigkeit der feindlichen Technischen Infrastruktur unterschätzt wurde.

Kann sein, dass in diesem konkreten Fall die Leistungsfähigkeit der KI-Modelle keine Rolle gespielt hat. Aber ich vermute, es wird nicht lange dauern und die Leistungsfähigkeit der KI-Modelle nicht nur für die Wehrhaftigkeit der Truppe, sondern für das Leib und Leben der Patienten eine große Rolle spielen wird, weil "Viele Studien deuten an, dass Künstliche Intelligenz (KI) auf medizinischen Bildern Krebs gut erkennen kann, oft mindestens so gut wie Ärzte und Ärztinnen selbst." [2], 16.05.2022)

= Quellen =
[1] Die Geschichte des toten CAPTCHA und der bereits schon mit Absicht lügenden KIs, 27.01.2024 - Die Geschichte des toten CAPTCHA und der bereits schon mit Absicht lügenden KIs
[2] Künstliche Intelligenz zur Krebs-Diagnostik, 16.05.2022 - https://www.krebsinformationsdienst.de/aktuelles/2022/news002-ki-kuenstl ...
[3] Künstliche Intelligenz - https://de.wikipedia.org/wiki/K%C3%BCnstliche_Intelligenz
[4] US-Militär erkannte feindliche Drohne in Jordanien offenbar zu spät,30.01.2024 - https://www.deutschlandfunk.de/us-militaer-erkannte-feindliche-drohne-in ...