A Anthropic realiza análises agregadas e preservadoras de privacidade de dados para obter insights sobre os impactos reais dos sistemas de IA e os padrões de uso de nossos produtos, mantendo rigorosamente a privacidade do usuário e a confidencialidade de informações sensíveis. Um exemplo de nossa abordagem é Clio, um sistema que nos permite compreender tendências e comportamentos importantes sem comprometer a privacidade individual ou a confidencialidade do cliente.
Quando usamos Clio para fins de pesquisa ou para analisar como nossos produtos estão sendo usados em agregado, o sistema:
Anonimiza e agrega automaticamente informações, extraindo apenas padrões e tendências gerais enquanto omite detalhes privados ou sensíveis
Aplica múltiplas salvaguardas de privacidade, incluindo limites mínimos de agregação e verificação automatizada para garantir que os resultados não revelem informações sobre indivíduos ou pequenos grupos de clientes
Não fornece acesso para funcionários da Anthropic a conversas brutas de usuários ou dados específicos do cliente
Concentra todos os insights apenas em padrões amplos e agregados, nunca analisando o comportamento de nenhum indivíduo ou cliente específico
Realizamos testes extensivos, auditoria e benchmarking para validar que os resultados do Clio não contêm informações privadas identificáveis quando usados para esses fins. Para informações detalhadas sobre a arquitetura do Clio e nossas avaliações rigorosas de privacidade, consulte nosso artigo de pesquisa.
Para avançar ainda mais nossa missão, também podemos compartilhar insights agregados e preservadores de privacidade sobre como nossos sistemas de IA estão sendo usados com públicos externos ou com o público. O Clio implementa limites de agregação cuidadosos que exigem que cada insight represente uma diversidade significativa de usuários e entradas, o que protege contra a identificação dos padrões de uso específicos de um indivíduo.
Conforme descrito em nosso artigo de pesquisa, também usamos uma versão diferente do Clio para melhorar nossos sistemas de segurança. Os resultados das execuções do Clio focadas em segurança podem ser vinculados de volta a contas individuais. Implementamos controles de acesso rigorosos para limitar quem pode visualizar esses resultados a um pequeno número de funcionários autorizados.