Taleassistenter kan lures av skjulte kommandoer

Illustrasjon fra rapport fra N. Carlini og D. Wagner, University of California, Berkely

Taleassistenter som hele tiden lytter og utfører ulike oppgaver basert på det vi sier kan lures til å besøke ondsinnede nettsider, sende tekstmeldinger eller ringe bestemte telefonnummere ved å bruke kommandoer i ikke-hørbare frekvensområder.

Ifølge New York Times viser det seg at det også er mulig å lure taleassistenter ved å gjøre endringer i lydbølgene på en slik måte at mennesker hører noe helt annet enn det taleassistenten hører.

Ved å legge inn en liten «forstyrrelse» lar det seg gjøre å lure en taleassistent til å transkribere en innspilt stemme som en hvilken som helst setning.  Ved hjelp av en rekke eksempel viser forskerne to lydfiler som begge for det menneskelige øre høres omtrent like ut. Men en taleassistent vil oversette de to lydfilene til helt ulike setninger.

For eksempel kan det som høres ut som et konsertopptak inneholde teksten "OK Google browse to evil dot com".

Kilde: Digi.no