해커들은 ChatGPT, Grok 및 Google을 속여 악성 코드 설치를 도왔습니다.

올해 초 에이전트 브라우저를 속이는 것이 얼마나 쉬운지에 대해 보고한 이후로 저는 현대 AI와 구식 사기 사이의 교차점을 추적해 왔습니다. 이제 새로운 융합이 눈앞에 다가왔습니다. 해커들은 분명히 AI 프롬프트를 사용하여 Google 검색 결과에 위험한 명령을 뿌리고 있습니다. 모르는 사용자가 이 명령을 실행하면 해커에게 악성 코드를 설치하는 데 필요한 액세스 권한을 제공하라는 메시지가 컴퓨터에 표시됩니다.
이 경고는 탐지 및 대응 회사인 Huntress의 최근 보고서를 통해 나왔습니다. 작동 방식은 다음과 같습니다. 먼저, 위협 행위자는 AI 비서와 일반적인 검색어에 대해 대화를 나누는 동안 AI가 특정 명령을 컴퓨터 터미널에 붙여넣을 것을 제안하도록 유도합니다. 채팅을 공개적으로 표시하고 Google에서 채팅을 홍보하기 위해 비용을 지불합니다. 이후부터 누군가가 해당 용어를 검색할 때마다 악성 지침이 검색결과 첫 페이지 상단에 표시됩니다.
Huntress는 발견 후 ChatGPT와 Grok 모두에서 테스트를 실행했습니다.