공개적으로 이용 가능한 에이전트들이 더욱 능숙해지면서, 보안 산업과 그들이 방어해야 하는 해커들 모두 AI 사용을 늘리고 있다.
사이버 보안의 미래는 본질적으로 '록 엠 삭 엠 로봇'을 연상시키는데, 이는 공격적인 AI와 방어적인 AI가 서로 대결하는 형태를 띤다는 것입니다. 이는 최소한 업계가 AI를 바라보는 시각에 대한 NBC 보도에서 전달하는 인상입니다.
해당 보도에 따르면, "최근 몇 달 사이, 사이버 범죄자, 스파이, 연구원, 기업 방어자 등 겉으로는 모든 계층의 해커들이 자신의 작업에 AI 도구를 포함시키기 시작했습니다." 또한 "ChatGPT와 같은 거대 언어 모델(LLM)은 여전히 오류가 발생하기 쉽지만, 언어 지침을 처리하거나 일반 언어를 컴퓨터 코드로 번역하고 문서를 식별 및 요약하는 능력에 있어서는 놀랄 만큼 능숙해졌습니다."
NBC는 Google이 AI를 활용하여 취약점을 발견하는 방식, CrowdStrike가 "해킹을 당했다고 생각하는 사람들을 돕기 위해 AI를 사용"하는 방법, 그리고 Xbow라는 스타트업이 6월에 HackerOne 미국 순위표 최상단에 올랐다고 한 AI를 개발한 사례 등을 연이어 보도했습니다. (참고로, HackerOne은 이후 순위표를 개별 연구원용과 Xbow와 같은 "집단"용으로 분리했습니다.)
Anthropic의 Claude Mythos는 지능적인 슈퍼 해커가 아니라 단순한 마케팅 홍보 문구일 뿐입니다. 여기서 언급된 '수천 개'에 달하는 심각한 제로데이 취약점 주장은 단지 198건의 수동 검토에 기반하고 있습니다.
이달 초, 저는 북한 요원들이 생성형 AI를 이용해 이력서, 소셜 미디어 계정 등의 자료를 만들어 서방 기술 기업들을 속여 채용되게 만든 후, 다시 해당 AI 도구를 활용해 동료들과 소통하고 코드를 작성하며 일상적인 위장(facade)을 유지하며 급여를 받으려 시도하는 방식에 대한 CrowdStrike의 경고를 보도한 바 있습니다.
이처럼 AI를 활용하여 목표를 달성하는 능력은 문서 요약 능력과 마찬가지로 어느 정도 확립되었습니다. (적어도 AI가 스스로 정교한 사이버 보안 연구를 수행하는 능력보다는 잘 확립된 측면입니다. 여전히 사실을 압축적으로 파악하는 데는 그다지 뛰어나지 않습니다.)
이러한 배경에도 불구하고, AI 기술의 급속한 발전과 함께, AI의 역량에 의존하는 방식이 가속화되고 있습니다.
이러한 전반적인 상황을 고려할 때, AI의 활용은 지속적으로 중요해질 것입니다.
이러한 기술 발전은 필연적으로 새로운 기회를 창출하고, 우리 사회의 구조적 변화를 가져오게 될 것입니다.
이러한 변화에 대비하여, 평생 학습과 재교육을 통한 역량 강화가 필수적인 과제로 떠오르고 있습니다.
결론적으로, 기술의 발전은 불가피하며, 우리는 이러한 변화의 파도에 올라타기 위해 능동적으로 준비해야 합니다.