Anthropic는 AI 시스템의 실제 영향과 당사 제품의 사용 패턴에 대한 인사이트를 얻기 위해 집계되고 개인정보 보호 기능이 있는 데이터 분석을 수행하면서 사용자 개인정보와 민감한 정보의 기밀성을 엄격하게 유지합니다. 당사의 접근 방식의 한 가지 예는 Clio로, 개인 개인정보나 고객 기밀성을 손상시키지 않으면서 중요한 트렌드와 행동을 이해할 수 있게 해주는 시스템입니다.
연구 목적이나 당사 제품이 어떻게 집계 방식으로 사용되고 있는지 분석하기 위해 Clio를 사용할 때, 이 시스템은:
정보를 자동으로 익명화하고 집계하여 일반적인 패턴과 트렌드만 추출하면서 개인정보나 민감한 세부 정보는 생략합니다
최소 집계 임계값 및 자동화된 검증을 포함한 여러 개인정보 보호 장치를 적용하여 결과가 개인이나 소수 고객 그룹에 대한 정보를 공개하지 않도록 합니다
Anthropic 직원이 원본 사용자 대화나 고객별 데이터에 접근할 수 없습니다
모든 인사이트를 광범위한 집계 패턴에만 집중하며, 특정 개인이나 고객의 행동을 분석하지 않습니다
당사는 이러한 목적으로 사용될 때 Clio의 출력에 식별 가능한 개인정보가 포함되지 않음을 검증하기 위해 광범위한 테스트, 감사 및 벤치마킹을 수행했습니다. Clio의 아키텍처 및 당사의 엄격한 개인정보 보호 평가에 대한 자세한 정보는 당사의 연구 논문을 참조하시기 바랍니다.
당사의 사명을 더욱 발전시키기 위해 당사의 AI 시스템이 어떻게 사용되고 있는지에 대한 집계되고 개인정보 보호 기능이 있는 인사이트를 외부 대상이나 대중과 공유할 수도 있습니다. Clio는 각 인사이트가 의미 있는 다양성의 사용자와 입력을 나타내도록 요구하는 신중한 집계 임계값을 구현하여 개인의 특정 사용 패턴 식별을 방지합니다.
연구 논문에서 설명한 대로, 당사는 또한 당사의 안전 시스템을 개선하기 위해 다른 버전의 Clio를 사용합니다. 안전 중심 Clio 실행의 결과는 개별 계정으로 다시 연결될 수 있습니다. 당사는 이러한 결과를 볼 수 있는 사람을 소수의 승인된 직원으로 제한하기 위해 엄격한 접근 제어를 시행합니다.