4
Alexa un Co. TU-Darmstadt entwickelt Anti-Spy Tool
Moinsen!
HR-Info hatte heute ein Feature in dem das "LeakyPick" der TH-Darmstadt vorgestellt wurde.
Das Tool existiert bisher nur als Prototyp und verspricht ungewollte Verbindungen von diversen Sprachassistenten in die Cloud wirksam abstellen zu können. Spannend.
Fast noch interessanter ist aber, dass mindestens Alexa offenbar auf 89 undokumentierte oder ungewollte / fehlerhafte Trigger / "Wake-Words" reagierte.
Das waren z.B so einfache Sachen wie "Letter" oder "Mixer". Teils erfolgreich nur mit Googles Roboterstimme, teils aber auch von menschlicher Quelle.
Die Liste der 89 Wörter wurde aber nicht veröffentlicht, obwohl das in einer wissenschaftlichen Arbeit Standard sein sollte. Das stimmt mich nachdenklich...
Ist hier evtl. mehr dahinter? Ich befürchte das leider. Denn es wäre doch für die Anwender überaus spannend zu wissen bei welchen Wörtern Alexa noch hellhörig wird.
Hier der Artikel der TU: https://www.tu-darmstadt.de/universitaet/aktuelles_meldungen/einzelansic ...
Kompletter Artikel als "Preprint" hier: https://arxiv.org/abs/2007.00500
(rechts oben Download PDF)
Habe das nur überflogen, aber die Wortliste ist definitiv kein Bestandteil der Veröffentlichung.
Was denkt ihr?
e mare libertas!
Buc
HR-Info hatte heute ein Feature in dem das "LeakyPick" der TH-Darmstadt vorgestellt wurde.
Das Tool existiert bisher nur als Prototyp und verspricht ungewollte Verbindungen von diversen Sprachassistenten in die Cloud wirksam abstellen zu können. Spannend.
Fast noch interessanter ist aber, dass mindestens Alexa offenbar auf 89 undokumentierte oder ungewollte / fehlerhafte Trigger / "Wake-Words" reagierte.
Das waren z.B so einfache Sachen wie "Letter" oder "Mixer". Teils erfolgreich nur mit Googles Roboterstimme, teils aber auch von menschlicher Quelle.
Die Liste der 89 Wörter wurde aber nicht veröffentlicht, obwohl das in einer wissenschaftlichen Arbeit Standard sein sollte. Das stimmt mich nachdenklich...
Ist hier evtl. mehr dahinter? Ich befürchte das leider. Denn es wäre doch für die Anwender überaus spannend zu wissen bei welchen Wörtern Alexa noch hellhörig wird.
Hier der Artikel der TU: https://www.tu-darmstadt.de/universitaet/aktuelles_meldungen/einzelansic ...
Kompletter Artikel als "Preprint" hier: https://arxiv.org/abs/2007.00500
(rechts oben Download PDF)
Habe das nur überflogen, aber die Wortliste ist definitiv kein Bestandteil der Veröffentlichung.
Was denkt ihr?
e mare libertas!
Buc
Auf Facebook teilen
Auf Twitter teilen
Auf Reddit teilen
Auf Linkedin teilenBitte markiere auch die Kommentare, die zur Lösung des Beitrags beigetragen haben
Content-ID: 587290
Url: https://administrator.de/contentid/587290
Ausgedruckt am: 04.12.2024 um 08:12 Uhr
4 Kommentare
Neuester Kommentar
Das wirklich Wirksamste ist doch sich so einen sinnfreien Schrott wie Alexa & Co. gar nicht erst ins Haus zu holen.
3
im Pdf letzte Seite sind einige der Wake-words angeführt.
lg
lg
Das liest sich für mich wie eine Variation von falsch ausgesprochenem "Alexa". Ich tippe daher einfach mal, daß die Amazon-entwickler einfach nur zu viele false-postives zugelassen haben, um des "Benutzererlebnis" nicht zu trüben, sprich, daß die Leute ordentlich sonst sprechen lernen müssten.
BTW: weiß einer ob es für den "neuen" FireTV-Stick Fernbedienungen ohne Micro gibt?
lks
Danke @killfrog. Der Verweis auf den Anhang war mir nirgends aufgefallen und bis zur Neige hatte ich nicht gescrollt sondern war bei der Summary ausgestiegen..
Wer aufmerksam liest ist bei der Wissenschaft meist im Vorteil. Sollte ich wissen. Gebe ich zu. Gerade in Coronazeiten ist das wichtiger denn je...
Also: *Paranoiamodus* wieder aus. Besser ist das.
Trotzdem ne tolle Arbeit.
Mein Liebling ist "Bertha" aber 100% bei "electrotelegraphic" bestätigt alle meine Bedenken an KI.
@aqui: Den kannte ich nicht, dabei gucke ich soviel Extra3... Nur komisch, dass uns die Reportagen in letzter Zeit immer als Satire verkauft werden.
@lks: Weisst du noch? Wie wir damals aufgestanden sind um den Sender zu wechseln? "Feuerfernsehstock"? Du bist verloren.
Visionär in den frühen 80ern: Georg Danzer. Google und Co. waren noch lange nicht in Sicht. Aber es war absehbar, was kommt.
Gehabt euch wohl.
Buc
Wer aufmerksam liest ist bei der Wissenschaft meist im Vorteil. Sollte ich wissen. Gebe ich zu. Gerade in Coronazeiten ist das wichtiger denn je...
Also: *Paranoiamodus* wieder aus. Besser ist das.
Trotzdem ne tolle Arbeit.
Mein Liebling ist "Bertha" aber 100% bei "electrotelegraphic" bestätigt alle meine Bedenken an KI.
@aqui: Den kannte ich nicht, dabei gucke ich soviel Extra3... Nur komisch, dass uns die Reportagen in letzter Zeit immer als Satire verkauft werden.
@lks: Weisst du noch? Wie wir damals aufgestanden sind um den Sender zu wechseln? "Feuerfernsehstock"? Du bist verloren.
Visionär in den frühen 80ern: Georg Danzer. Google und Co. waren noch lange nicht in Sicht. Aber es war absehbar, was kommt.
Gehabt euch wohl.
Buc
