중국의 ‘자율’ AI 기반 해킹 캠페인에는 여전히 엄청난 인력이 필요합니다.
사이버보안 전문 정보
Anthropic은 목요일 이전에 알려지지 않은 중국 정부의 후원을 받는 해킹 그룹이 회사의 Claude AI 생성 AI 제품을 사용하여 최소 30개 이상의 조직을 침해했다는 연구 결과를 발표하면서 헤드라인을 장식했습니다. Anthropic의 보고서에 따르면, 위협 행위자는 두 가지 방법을 사용하여 Claude의 보안 가드레일을 우회할 수 있었습니다. 즉, 소프트웨어가 더 광범위한 악의적인 의도를 인식하지 못하도록 작업을 개별 작업으로 분할하고, 모델을 속여 합법적인 보안 감사를 수행하고 있다고 믿게 만드는 것입니다. Anthrop
핵심 특징
고품질
검증된 정보만 제공
빠른 업데이트
실시간 최신 정보
상세 분석
전문가 수준 리뷰
상세 정보
핵심 내용
Anthropic은 목요일 이전에 알려지지 않은 중국 정부의 후원을 받는 해킹 그룹이 회사의 Claude AI 생성 AI 제품을 사용하여 최소 30개 이상의 조직을 침해했다는 연구 결과를 발표하면서 헤드라인을 장식했습니다. Anthropic의 보고서에 따르면, 위협 행위자는 두 가지 방법을 사용하여 Claude의 보안 가드레일을 우회할 수 있었습니다. 즉, 소프트웨어가 더 광범위한 악의적인 의도를 인식하지 못하도록 작업을 개별 작업으로 분할하고, 모델을 속여 합법적인 보안 감사를 수행하고 있다고 믿게 만드는 것입니다. Anthropic의 위협 인텔리전스 팀을 이끄는 Jacob Klein은 CyberScoop과의 인터뷰에서 지난 1년간 악성 해커를 지원하기 위해 Claude를 사용하는 새로운 방법이 점점 더 많아지고 있다고 말했습니다. 3월에는 위협 행위자들이 맬웨어나 피싱 미끼를 구축하기 위해 챗봇 상호 작용을 복사하여 붙여넣었습니다.
상세 분석
회사의 코드 개발 도구인 Claude Code가 출시되었을 때, 악의적인 행위자들이 이를 사용하여 보다 신속하게 스크립트를 생성하고 작업용 코드를 구축하는 것을 보았습니다. Klein은 “그리고 9월에 [이 작업]이 지금 보고 있는 것은 우리가 본 것 중 가장 자율적인 오용이라고 생각합니다.”라고 말했습니다. 그러나 클라인은 “가장 자율적”이라는 말은 상대적인 용어라는 점도 분명히 했습니다. 이 해킹 그룹이 Claude를 사용하는 방식에 상당한 인적, 기술적 자원을 투입했다는 증거가 많이 있습니다. 즉, Claude가 수행한 Anthropic 보고서에 자세히 설명된 자동화는 운영을 조율하고 지원하도록 설계된 프런트엔드 프레임워크를 통해 가능해졌습니다.
정리
프레임워크는 스크립팅, 관련 서버 프로비저닝, 중요한 백엔드 개발과 같은 작업을 처리하여 모든 단계가 올바르게 수행되었는지 확인했습니다. Klein은 이 개발 프로세스가 작업에서 가장 어렵고 중요한 것은 인간이 주도하는 단계라고 지적했습니다. “자율적이지 않은 첫 번째 부분은 프레임워크를 구축하는 것이므로 이 모든 것을 하나로 모으려면 인간이 필요했습니다.”라고 Klein은 말했습니다. “대상을 입력하는 인간 운영자가 있고 버튼을 클릭한 다음 [미리] 생성된 이 프레임워크를 사용합니다. 이 전체 시스템에서 가장 어려운 부분은 이 프레임워크를 구축하는 것이었고, 이것이 바로 인간 집약적인 것이었습니다.” 또한 대상에 대한 정찰을 수행하고, 취약점을 검색하고, 기타 작업을 수행하기 위해 Claude는 AI 모델이 외부 디지털 도구와 안전하게 인터페이스하는 데 도움이 되는 MCP(Model Context Protocol) 서버를 통해 오픈 소스 도구 세트를 호출했습니다. 이러한 연결을 설정하려면 상호 운용성을 보장하기 위해 코딩 전문 지식, 고급 계획 및 인간의 기술 작업이 필요합니다.
자주 묻는 질문
Q. 어떤 정보를 제공하나요?
A. 사이버보안 관련 최신 정보를 제공합니다.
Q. 신뢰할 수 있나요?
A. 검증된 출처만 선별합니다.
Q. 더 궁금한 점은?
A. 댓글로 문의하세요.
원문 출처
이 글은 원본 기사를 참고하여 작성되었습니다.