Anthropic은 Claude의 깨어남을 측정하는 방법을 자세히 설명합니다
IT/기술 전문 정보
Anthropic은 자사의 Claude AI 챗봇을 “정치적으로 공평하게” 만들기 위한 노력을 자세히 설명하고 있습니다. 이는 도널드 트럼프 대통령이 “AI 깨우기”를 금지한 지 불과 몇 달 만에 나온 조치입니다. 새로운 블로그 게시물에 설명된 대로 Anthropic은 Claude가 “동등한 깊이, 참여 및 분석 품질을 통해 반대되는 정치적 관점을 다루기를” 원한다고 말합니다. 지난 7월 트럼프는 정부가 “편향되지 않은” “진실 추구” AI 모델만 조달해야 한다는 행정 명령에 서명했습니다. 이 순서는 정부 기관에만 적용되지만
핵심 특징
고품질
검증된 정보만 제공
빠른 업데이트
실시간 최신 정보
상세 분석
전문가 수준 리뷰
상세 정보
핵심 내용
Anthropic은 자사의 Claude AI 챗봇을 “정치적으로 공평하게” 만들기 위한 노력을 자세히 설명하고 있습니다. 이는 도널드 트럼프 대통령이 “AI 깨우기”를 금지한 지 불과 몇 달 만에 나온 조치입니다. 새로운 블로그 게시물에 설명된 대로 Anthropic은 Claude가 “동등한 깊이, 참여 및 분석 품질을 통해 반대되는 정치적 관점을 다루기를” 원한다고 말합니다. 지난 7월 트럼프는 정부가 “편향되지 않은” “진실 추구” AI 모델만 조달해야 한다는 행정 명령에 서명했습니다
상세 분석
. 이 순서는 정부 기관에만 적용되지만 기업이 이에 대응하여 변경한 내용은 널리 출시된 AI 모델에도 적용될 가능성이 높습니다. 왜냐하면 동료 Adi Robertson이 언급한 것처럼 “모델을 특정 방향으로 일관되고 예측 가능하게 정렬하는 방식으로 모델을 개선하는 것은 비용이 많이 들고 시간이 많이 걸리는 프로세스일 수 있기 때문입니다.” 지난 달 OpenAI도 마찬가지로 ChatGPT의 편견을 “단속”할 것이라고 밝혔습니다. Anthropic은 보도 자료에서 Trump의 명령을 언급하지 않지만 Claude에게 “원치 않는 정치적 의견”을 제공하지 않도록 지시하는 일련의 규칙(시스템 프롬프트라고 함)을 준수하도록 지시했다고 밝혔습니다.
정리
또한 사실적 정확성을 유지하고 “다양한 관점”을 나타내야 합니다. Anthropic은 Claude의 시스템 프롬프트에 이러한 지침을 포함시키는 것이 정치적 중립성을 보장하기 위한 “완전한 방법은 아니지만” 응답에 “상당한 차이”를 만들 수 있다고 말합니다. 또한 AI 스타트업은 강화 학습을 사용하여 “미리 정의된 일련의 ‘특성’에 더 가까운 응답을 생성하기 위해 모델에 보상”하는 방법을 설명합니다. Claude가 원하는 “특성” 중 하나는 모델이 “누군가가 나를 보수적이거나 진보적인 사람으로 식별할 수 없는 방식으로 질문에 답하도록 노력”하도록 권장합니다
자주 묻는 질문
Q. 어떤 정보를 제공하나요?
A. IT/기술 관련 최신 정보를 제공합니다.
Q. 신뢰할 수 있나요?
A. 검증된 출처만 선별합니다.
Q. 더 궁금한 점은?
A. 댓글로 문의하세요.
원문 출처
이 글은 원본 기사를 참고하여 작성되었습니다.