Cybernews opisuje badania nad atakami, w których ukryte sygnały audio mogą zmuszać asystentów AI do niepożądanych działań. Polecenia mogą być osadzone w muzyce, filmie lub rozmowie, pozostając trudne do zauważenia przez człowieka.
Ryzyko rośnie wraz z rozwojem agentów AI zdolnych do wysyłania wiadomości, pobierania plików i wykonywania poleceń w aplikacjach. Producenci będą musieli wzmacniać zabezpieczenia przed komendami pochodzącymi z niepewnych źródeł.
Źródło: Cybernews