ElizaOS 암호화폐 AI 에이전트의 취약성 발견
최근 프린스턴 대학교와 센티언트 재단의 연구자들은 ElizaOS 프레임워크를 사용하는 암호화폐 중심의 AI 에이전트에서 취약성을 발견했다고 발표했습니다. 이 에이전트는 수백만 달러의 암호화폐를 관리하며, 새로운 탐지 불가능한 공격 방식인 ‘메모리 조작’에 취약합니다.
아타르브 팟란 프린스턴 대학원생은 연구 논문의 공동 저자로서 “ElizaOS는 GitHub에서 약 15,000개의 별을 받은 인기 있는 Web3 기반 에이전트로, 널리 사용되고 있습니다. 이러한 광범위한 이용은 우리가 더 깊이 탐구하고 싶게 만들었습니다.”라고 설명했습니다.
Eliza Labs는 2024년 10월에 처음으로 이 프로젝트를 시작하였으며, AI 에이전트가 블록체인과 상호작용하도록 설계된 오픈 소스 프레임워크입니다. ElizaOS는 2025년 1월에 리브랜딩 되어 다양한 기능을 제공합니다. 이 AI 에이전트는 자율적으로 정보를 처리하고 목표를 달성하기 위해 인간의 개입 없이 행동하도록 설계되어 있습니다.
새로운 공격 벡터: 메모리 주입
연구결과에 따르면 이러한 에이전트는 블록체인 플랫폼 전반에 걸쳐 재무 작업을 자동화하는 데 광범위하게 사용되며, “메모리 주입”이라는 방식으로 속일 수 있습니다. 이는 악의적인 지침이 에이전트의 메모리에 삽입되는 새로운 공격 벡터입니다.
팟란은 “Eliza는 기억 저장소를 가지고 있으며, 우리는 소셜 미디어 플랫폼에서 누군가가 기억을 주입하는 방식을 통해 거짓 기억을 입력하려고 했습니다.”라고 말했습니다.
이 연구에 따르면 감정에 의존하는 AI 에이전트는 특히 조작에 취약하며, 공격자들은 Sybil 공격을 통해 가짜 계정과 조작된 게시물을 사용하여 시장 감정을 조작할 수 있습니다.
“가짜 가격을 부풀리도록 잘못된 게시물을 조정함으로써 공격자는 에이전트를 속여 인위적으로 높은 가격에 ‘펌프된’ 토큰을 구매하게 만들 수 있습니다. 그 후 공격자는 자신의 보유 자산을 매도하여 토큰 가치가 급락하게 만드는 방식으로 공격을 수행합니다.”라는 경고도 있습니다.
팟란은 연구팀이 ElizaOS의 기능을 평가하고, 메모리 주입 공격의 실제 상황을 시뮬레이션하는 데 초점을 두었다고 설명했습니다. Eliza Labs와 논의가 진행 중이며, 연구결과는 AI 에이전트의 상황 조작에 대한 저항력을 평가하는 CrAIBench라는 벤치마킹 프레임워크로 이어졌습니다.
팟란은 “기억 시스템을 개선하는 것뿐만 아니라, 언어 모델 자체도 개선하여 악의적인 콘텐츠와 사용자의 실제 의도를 더 잘 구별할 수 있도록 해야 합니다.”라고 주장했습니다.
