Anthropic realiza análisis agregados que preservan la privacidad de los datos para obtener información sobre los impactos reales de los sistemas de IA y los patrones de uso de nuestros productos, mientras mantenemos rigurosamente la privacidad del usuario y la confidencialidad de la información sensible. Un ejemplo de nuestro enfoque es Clio, un sistema que nos permite comprender tendencias y comportamientos importantes sin comprometer la privacidad individual o la confidencialidad del cliente.
Cuando utilizamos Clio para fines de investigación o para analizar cómo se están utilizando nuestros productos de forma agregada, el sistema:
Anonimiza y agrega automáticamente la información, extrayendo solo patrones y tendencias generales mientras omite detalles privados o sensibles
Aplica múltiples salvaguardas de privacidad, incluidos umbrales de agregación mínima y verificación automatizada para garantizar que los resultados no revelen información sobre individuos o pequeños grupos de clientes
No proporciona acceso a los empleados de Anthropic a conversaciones de usuarios sin procesar o datos específicos del cliente
Enfoca todos los conocimientos únicamente en patrones amplios y agregados, nunca analizando el comportamiento de ningún individuo o cliente específico
Hemos realizado pruebas extensas, auditorías y evaluaciones comparativas para validar que los resultados de Clio no contienen información privada identificable cuando se utilizan para estos propósitos. Para obtener información detallada sobre la arquitectura de Clio y nuestras rigurosas evaluaciones de privacidad, consulte nuestro artículo de investigación.
Para avanzar aún más en nuestra misión, también podemos compartir información agregada que preserva la privacidad sobre cómo se están utilizando nuestros sistemas de IA con audiencias externas o con el público. Clio implementa umbrales de agregación cuidadosos que requieren que cada conocimiento represente una diversidad significativa de usuarios e insumos, lo que protege contra la identificación de los patrones de uso específicos de un individuo.
Como se describe en nuestro artículo de investigación, también utilizamos una versión diferente de Clio para mejorar nuestros sistemas de seguridad. Los resultados de las ejecuciones de Clio enfocadas en seguridad pueden vincularse a cuentas individuales. Implementamos controles de acceso estrictos para limitar quién puede ver estos resultados a un pequeño número de personal autorizado.