적대적 우산 디자인은 "카메라 기반 자율 표적 추적 기술의 취약점을 공략합니다."
또한 비가 오는 날에도 사용할 수 있습니다.
캘리포니아 대학교 어바인(UC Irvine)의 연구원들이 드론 포획 및 추락 유도 장치를 개발했습니다. FlyTrap 공격은 자율 표적 추적(Autonomous Target Tracking, ATT) 시스템의 결함을 악용하는 특수 패턴을 사용합니다. ATT는 종종 능동 추적(Active Track), 모션 추적(Motion Track), 또는 동적 추적(Dynamic Track)으로 불립니다. 연구진은 이러한 FlyTrap 패턴을 '적대적 우산(adversarial umbrellas)'에 인쇄하여 누구나 손쉽게 휴대하고 전개할 수 있도록 했습니다. 본질적으로 이는 첨단 기술 기반의 위험에 대응하는, 기발하고도 소박한(lo-fi) 카운터플레이로 보입니다. 게다가 우산은 우천 시나 휴대용 그늘막으로도 유용합니다.
포토닉스 및 고속 데이터 전송이 차세대 AI 병목 현상이 될 전망
데이터 센터 냉각 현황 분석
대규모 AI 데이터 센터 구축이 에너지 공급에 부담 가중
FlyTrap 공격은 연구원 중 한 명이 앞선 영상에서 실제로 현장 시연을 통해 그 효용성을 입증했습니다. 드론이 현장의 사람을 추적하기 위해 목표를 고정(lock on)한 후, 특별히 설계된 AI 생성 패턴이 우산을 펼치는 방식으로 표시됩니다. 구체적으로, 이 시각적 패턴은 여러 각도와 움직임 속에서도 작동하는 차세대 물리적 거리 당김(Physical Distance Pulling, PDP) 공격을 수행합니다. 이 데모는 DJI Mini 4 Pro, DJI Neo, HoverAir X1 등 세 가지 상용 드론 모델에서 성공적으로 작동했습니다.
우산에 인쇄된 시각적 패턴은 드론의 신경망 추적 시스템이 해당 패턴을 주체가 멀어지는 신호로 오해하게 만듦으로써, 물리적으로 목표 드론을 가까이 끌어당깁니다. 드론이 우산에 접근함에 따라, 패턴은 표적 경계 상자(targeting bounding box)가 계속해서 축소되도록 유발하여, 드론이 더욱 근접하려는 움직임을 보이게 만듭니다. 이 패턴에 유인된 자율 드론은 이후 네트 건으로 쉽게 포획되거나, 추락하도록 더욱 유도될 수 있습니다.
자율 이동 드론 군집 무력화 장치, 3개국 방위 산업체 협력으로 개발
러시아산 샤헤드 드론, 목표 근접 전 공중에서 '분해되는 현상' 포착 영상 공개
본 연구는 FlyTrap 기술이 기존의 적대적-ML(adversarial-ML) 기법인 구형 PDP 기술이나 표적 경사 전이(Targeted Gradient Transfer, TGT)보다 현저하게 효과적임을 입증합니다.
UC Irvine 컴퓨터 과학 조교수인 논문 공동 저자 알프레드 첸(Alfred Chen)은 "자율 표적 추적은 엄청난 잠재력을 지니는 동시에 심각한 위험도 내포하고 있습니다"라고 언급했습니다. 첸은 자율 드론이 국경 순찰이나 공공 안전과 같은 분야에서 활용되지만, 동시에 악의적인 행위자들에게도 이용될 수 있다는 점을 강조했습니다.
주저자인 UC Irvine 컴퓨터 과학 대학원 연구원 셰유안 씨예(Shaoyuan Xie)는 "저희 연구 결과는 중요 인프라에 광범위하게 배치되기 전에 [자율 표적 추적] 시스템의 보안 개선이 시급히 필요함을 보여줍니다"라고 덧붙였습니다.
FlyTrap이 실제 현장에서 사용되는 모습을 보거나 듣는다면 매우 흥미로울 것입니다. 다만, DJI와 HoverAir 측은 이미 자사의 자율 추적 시스템에 존재하는 신경 처리 취약점(neural processing vulnerabilities)에 대해 책임감 있게 통보받은 상태입니다.
최신 뉴스, 분석 및 리뷰를 받아보려면 구글 뉴스에서 Tom's Hardware를 팔로우하거나 즐겨찾는 출처로 등록해 주십시오.