AI 생태계의 보안 위험
이 연구에서는 일부 라우터가 악성 코드를 주입하고, 개인 키 및 클라우드 토큰과 같은 자격 증명을 추출하며, OpenAI, Anthropic 및 Google과 같은 제공자와 사용자 간의 TLS 연결을 종료하여 평문 데이터를 접근하는 것으로 나타났습니다. 테스트 결과, 자격 증명 접근 사례와 손상된 키를 사용하여 테스트 지갑에서 Ether가 유출된 사례가 발견되었습니다.
연구 결과의 중요성
캘리포니아 대학교의 연구자들은 인공지능 생태계에서 심각한 보안 위험을 발견하고, 특정 제3자 대형 언어 모델(LLM) 라우터가 사용자에게 암호화폐 도난을 포함한 심각한 취약점을 노출할 수 있다고 경고했습니다. 그들의 연구 결과는 AI 공급망의 숨겨진 위험에 대한 우려가 커지고 있는 가운데, 개발자들이 주요 AI 제공자와 연결하기 위해 중개 서비스를 의존하고 있다는 점을 조명합니다.
“이러한 라우터의 상당수가 사용자에게 알리지 않고 자격 증명 도난에 조용히 관여하고 있었습니다.” – 공동 저자 Chaofan Shou
악성 중개 공격의 발견
이 연구는 악성 중개 공격을 조사하고, 민감한 정보를 손상시킬 수 있는 여러 공격 벡터를 식별했습니다. 가장 우려스러운 발견 중 하나는 일부 라우터가 AI 워크플로에 악성 도구 호출을 적극적으로 주입하고 있으며, 다른 라우터는 개인 키 및 클라우드 접근 토큰과 같은 자격 증명을 추출할 수 있다는 점입니다.
위험한 시나리오와 테스트 결과
AI 코딩 에이전트와 작업하는 개발자들에게, 특히 스마트 계약이나 암호화폐 지갑과 같은 분야에서는 개인 키, 시드 문구 및 자격 증명이 의도치 않게 노출될 수 있는 위험한 시나리오가 발생합니다. 연구자들은 공개 커뮤니티에서 수집한 수십 개의 유료 라우터와 수백 개의 무료 라우터를 평가했습니다. 결과는 놀라웠습니다. 여러 라우터가 악성 코드를 주입하고, 다른 라우터는 기밀 클라우드 자격 증명에 접근하는 것으로 나타났습니다.
재정적 손실과 장기적 위험
한 사례에서는 라우터가 손상된 개인 키를 사용하여 테스트 지갑에서 Ether를 유출하는 데 성공했습니다. 통제된 실험에서의 재정적 손실은 미미했지만, 실제 응용 프로그램에 대한 의미는 상당히 심각합니다. 연구는 또한 안전해 보이는 라우터조차 시간이 지남에 따라 위험해질 수 있음을 밝혀냈습니다.
악성 행동 탐지의 어려움
연구자들이 “중독”이라고 설명한 과정을 통해, 이전에 무해했던 시스템이 유출된 자격 증명을 재사용하여 네트워크 전반에 걸쳐 위협을 증폭시킬 수 있습니다. 상황을 더욱 어렵게 만드는 것은 악성 행동을 탐지하는 것이 어렵다는 점입니다. 라우터는 정상 기능의 일환으로 민감한 데이터를 처리해야 하므로, 합법적인 처리와 도난 간의 경계가 거의 보이지 않게 됩니다.
결론 및 권장 사항
연구자들은 일부 라우터가 운영자가 인식하지 못한 채 조용히 손상될 수 있으며, 무료 서비스가 저렴한 접근으로 사용자를 유인하면서 귀중한 데이터를 수집할 수 있다고 경고합니다. 연구 결과는 강력한 보호 장치의 필요성이 시급하다는 것을 분명히 증명합니다. 개발자들은 AI 시스템을 통해 민감한 정보를 전송하는 것을 피하고, 더 엄격한 클라이언트 측 보호를 구현할 것을 권장합니다.
