"AI가 위험도 먼저 감지, 안전성 더한 시각언어모델"...ETRI, ‘세이프 라바’ 오픈소스로 공개 완벽가이드
소개
핵심 특징
상세 정보
자주 묻는 질문
"AI가...
“AI가 위험도 먼저 감지, 안전성 더한 시각언어모델”…ETRI, ‘세이프 라바’ 오픈소스로 공개 완벽가이드
“AI가 위험도 먼저 감지, 안전성 더한 시각언어모델”…ETRI, ‘세이프 라바’ 오픈소스로 공개
인공지능/AI 전문 정보
한국전자통신연구원(ETRI)은 생성형 인공지능 모델에 안전성을 구조적으로 내재화한 새로운 유형의 시각언어모델‘세이프 라바(Safe LLaVA)’를 공개했다고 26일 밝혔다. 이 기술은 기존 데이터 중심 파인튜닝 방식에서 벗어나, 20여 종의 안전성 기준을 모델 내부에 직접 내장해, 유해 입력 발생 시 안전한 답변과 그 근거를 함께 제시하는 것이 특징이다.ETRI는 이 기술을 공개 SW 기반의 대표 비전-언어(VL) 모델인 LLaVA, 큐원(Qwen), 젬마(Gemma) 모델에 동일하게 적용해 Safe LLaVA(7B/13B), Sa
핵심 특징
고품질
검증된 정보만 제공
빠른 업데이트
실시간 최신 정보
상세 분석
전문가 수준 리뷰
상세 정보
핵심 내용
한국전자통신연구원(ETRI)은 생성형 인공지능 모델에 안전성을 구조적으로 내재화한 새로운 유형의 시각언어모델‘세이프 라바(Safe LLaVA)’를 공개했다고 26일 밝혔다
상세 분석
.
정리
이 기술은 기존 데이터 중심 파인튜닝 방식에서 벗어나, 20여 종의 안전성 기준을 모델 내부에 직접 내장해, 유해 입력 발생 시 안전한 답변과 그 근거를 함께 제시하는 것이 특징이다.ETRI는 이 기술을 공개 SW 기반의 대표 비전-언어(VL) 모델인 LLaVA, 큐원(Qwen), 젬마(Gemma) 모델에 동일하게 적용해 Safe LLaVA(7B/13B), Sa
자주 묻는 질문
Q. 어떤 정보를 제공하나요?
A. 인공지능/AI 관련 최신 정보를 제공합니다.
Q. 신뢰할 수 있나요?
A. 검증된 출처만 선별합니다.
Q. 더 궁금한 점은?
A. 댓글로 문의하세요.
원문 출처
이 글은 원본 기사를 참고하여 작성되었습니다.