Výzkum nazvaný FlyTrap představil devítičlenný tým z University of California v Irvine na konferenci NDSS 2026 v San Diegu. Autoři testovali tři drony z běžného prodeje, ke kterým neměli přístup k internímu kódu. Pracovali tedy stejně jako kdokoli zvenčí, jen s tím, co stroj vidí a jak reaguje. Zbraní byl obyčejný deštník, na který vytiskli vzor navržený umělou inteligencí. Dron si z něj vyvodí, že se sledovaná osoba vzdaluje, a dorovná vzdálenost tím, že přiletí blíž.
Proč dron zrychlí k člověku, který se ani nepohnul
Autonomní sledování má u každého výrobce jiné jméno. DJI mu říká ActiveTrack, u modelu Neo jde o Subject Tracking a HoverAir používá označení ShadowTrack. Princip je u všech stejný: kamera rozpozná člověka, software kolem něj vykreslí sledovací rámeček a dron drží takový odstup, aby rámeček zabíral v obraze pořád stejnou plochu. Když člověk odchází, rámeček se zmenšuje a dron přidá plyn.
Vzor na deštníku rámeček uměle zmenší, přestože se člověk vůbec nehýbe. Dron to vyhodnotí jako únik cíle a letí blíž. U malých strojů DJI Neo a HoverAir X1, které podle továrního nastavení sledují cíl ze vzdálenosti zhruba dvou metrů, má takové přiblížení jen malou rezervu a končí nárazem. Neo spadl po kolizi v 60 procentech testovacích letů, HoverAir X1 v 80 procentech letů.
Třetí testovaný dron, DJI Mini 4 Pro s režimem ActiveTrack 360°, nespadl ani jednou. Výzkumníci ho ale přitáhli tak blízko, že ho mohli chytit do sítě. Autoři z toho usuzují, že Mini 4 Pro má vnitřní kontrolní mechanismy, které levnějším strojům chybějí. Ztrátě bezpečného odstupu tyto mechanismy nezabránily.
Obě testované detekční obrany nechal FlyTrap za sebou
Tým vedený Šao-jüan Siem a seniorním autorem Čchi Alfredem Čenem popisuje slabinu jako problém celého řetězce. Kamera předává obraz sledovacímu algoritmu a ten podle něj řídí vzdálenost. Celá stavba stojí na předpokladu, že obraz odpovídá skutečnosti. Jakmile útočník zmanipuluje vstup, řetězec selže bez ohledu na to, jakou verzi softwaru dron právě má. Autoři vyzkoušeli i dvě existující detekční obrany, které měly podobné manipulace zachytit, a FlyTrap obešel obě. Další známé techniky ochrany sledovacích algoritmů podle nich pracují příliš pomalu na to, aby se daly nasadit za letu v reálném čase.
Tvrzení, že slabinu nelze opravit softwarem, tedy neříká, že obrana nikdy nevznikne. Říká, že na to nestačí aktualizace firmwaru jednoho modelu. Výrobci by museli změnit celou architekturu vnímání, nebo dron doplnit o další senzory, které změří vzdálenost nezávisle na kameře. Proto autoři mluví o systémovém problému.
Deštník za sucha nepřekvapil 79 procent dotázaných
Součástí výzkumu byl i průzkum mezi dvěma sty lidmi. Výzkumníci se jich ptali, jestli by jim přišlo podezřelé, kdyby někdo venku za sucha držel deštník. Neobvyklé to nepřišlo 79 procentům z nich. Samotný potištěný vzor označilo za podezřelý necelých šest procent dotázaných. Útočník s takovým deštníkem tedy nemusí nic maskovat. Podle těchto čísel je nenápadnost stejně vážná část hrozby jako samotná úspěšnost útoku.
Navrhnout funkční vzor dá ovšem práci. Autoři nechali umělou inteligenci optimalizovat obrazec přímo pro zakřivenou plochu deštníku. Do výpočtu zahrnuli simulaci postupně se přibližujícího dronu a kontrolovali, aby vzor působil konzistentně v prostoru i v čase.
Nejúspěšnější varianta dosáhla v laboratoři průměrné přenositelnosti 18,2 procenta, tolik činila její úspěšnost napříč různými sledovacími algoritmy. Z toho skromného čísla nelze usuzovat na bezpečnost skutečných strojů. V reálných pokusech stejný vzor oklamal všechny tři testované drony.
Co z testu spotřebitelských dronů plyne pro policejní dohled
Studie upozorňuje, že kamerové autonomní sledování nepoužívají jen selfie drony. Stejný princip slouží i v policejním dohledu, při ostraze hranic a v průmyslové inspekci. Testované stroje jsou spotřebitelské, architektura vnímání je ale u těchto nasazení sdílená. Útok má své hranice: funguje jen proti dronům se zapnutým kamerovým sledováním, v určité geometrii scény a se vzorem vyladěným pro konkrétní typ algoritmu. Nevyžaduje ovšem rušičku, průnik do systému ani fyzický kontakt se strojem.
V Česku Policie ČR prokazatelně pracuje s bezpilotními systémy a Armáda ČR veřejně uvádí, že využívá platformu DJI Matrice 300 RTK. Jestli tuzemské složky používají stejné sledovací funkce jako testované modely, z otevřených zdrojů ověřit nelze. Vojenská police nedávno řešila rozšíření svých pravomocí proti nebezpečným bezpilotním strojům. Majitelům spotřebitelských dronů výzkum doporučuje, aby se na veřejných místech, kde se k dronu může někdo dostat na pár metrů, nespoléhali jen na autonomní sledování.
Výrobce DJI i HoverAir autoři o slabině informovali ještě před zveřejněním výzkumu. Veřejné vyjádření ani termín případné opravy zatím ani jedna z firem nezveřejnila.