Amazon, AI 버그 현상금 프로그램 출시
사이버보안 전문 정보
Amazon은 대규모 언어 모델을 외부 보안 연구자들에게 공개하는 가장 최근의 회사가 되었으며, 거대 기술 기업의 AI 도구를 위한 새로운 버그 포상금 프로그램의 창설을 발표했습니다. 이 프로그램을 통해 엄선된 제3자 연구원과 학술팀은 Amazon의 기본 AI 모델 제품군인 NOVA를 개발하고 그 결과에 대한 보상을 받을 수 있습니다. 이는 대부분의 생성 AI 시스템에 영향을 미치는 다양한 일반적인 취약점, 즉 “실제 악용 가능성”이 있는 모델 내 프롬프트 주입, 탈옥 및 취약점을 다룰 것입니다. 연구원들은 또한 화학, 생물학, 방
핵심 특징
고품질
검증된 정보만 제공
빠른 업데이트
실시간 최신 정보
상세 분석
전문가 수준 리뷰
상세 정보
핵심 내용
Amazon은 대규모 언어 모델을 외부 보안 연구자들에게 공개하는 가장 최근의 회사가 되었으며, 거대 기술 기업의 AI 도구를 위한 새로운 버그 포상금 프로그램의 창설을 발표했습니다. 이 프로그램을 통해 엄선된 제3자 연구원과 학술팀은 Amazon의 기본 AI 모델 제품군인 NOVA를 개발하고 그 결과에 대한 보상을 받을 수 있습니다. 이는 대부분의 생성 AI 시스템에 영향을 미치는 다양한 일반적인 취약점, 즉 “실제 악용 가능성”이 있는 모델 내 프롬프트 주입, 탈옥 및 취약점을 다룰 것입니다. 연구원들은 또한 화학, 생물학, 방사능 및 핵무기 생산을 지원하기 위해 모델을 어떻게 조작할 수 있는지 살펴볼 것입니다. Amazon Stores의 CISO인 Hudson Thrift는 화요일 성명을 통해 “보안 연구원은 우리의 AI 모델과 애플리케이션이 창의적인 조사 하에서 유지하고 있는 궁극적인 실제 검증자입니다.”라고 말했습니다
상세 분석
. 내년에는 초대 전용 시스템을 통해 Amazon이 참가자를 선정할 예정입니다. 즉, 보안 연구원이 자신의 기술에 액세스하는 데 있어 회사가 여전히 영향력을 유지하게 됩니다. 회사에 따르면, 광범위한 공개 버그 현상금 프로그램에 따라 30개의 검증된 AI 관련 취약점에 대해 연구자들에게 55,000달러 이상을 지불했습니다. Amazon은 자체적인 상용 대형 언어 모델(NOVA) 제품군을 개발하는 동시에 고객이 Anthropic, Mistral AI 등과 같은 다른 회사의 모델에 액세스할 수 있는 Amazon Bedrock과 같은 서비스를 제공하는 등 생성 AI에 큰 투자를 했습니다.
정리
그러나 이러한 제품이 Amazon 및 사용자 조직 내에서 점점 더 통합됨에 따라 해당 제품의 안전과 보안은 더 높은 이해관계와 더 큰 잠재적인 다운스트림 영향을 가져왔습니다. Amazon은 발표에서 “Nova 모델이 Amazon Bedrock 및 기타 Amazon 제품을 통해 Alexa, AWS 고객의 성장하는 생태계를 지원함에 따라 보안이 여전히 필수적인 초점이 되도록 보장합니다. 실습 및 발견을 위한 기회를 창출함으로써 Amazon은 차세대 AI 시대를 정의할 시스템을 확보할 수 있는 장비를 갖춘 차세대 연구원을 육성하는 데 도움을 주고 있습니다.”라고 밝혔습니다. 올해 초 아마존은 아마존 코딩 AI 모델의 버그와 취약점을 찾기 위해 10개 대학 연구팀을 대상으로 토너먼트를 열었습니다. 각 팀은 $250,000와 AWS 신용을 받았습니다.
자주 묻는 질문
Q. 어떤 정보를 제공하나요?
A. 사이버보안 관련 최신 정보를 제공합니다.
Q. 신뢰할 수 있나요?
A. 검증된 출처만 선별합니다.
Q. 더 궁금한 점은?
A. 댓글로 문의하세요.
원문 출처
이 글은 원본 기사를 참고하여 작성되었습니다.