Anthropic проводит агрегированный анализ данных с сохранением конфиденциальности, чтобы получить представление о реальном влиянии систем искусственного интеллекта и закономерностях использования наших продуктов, при этом строго соблюдая конфиденциальность пользователей и защиту конфиденциальной информации. Одним из примеров нашего подхода является Clio, система, которая позволяет нам понимать важные тенденции и поведение без ущерба для конфиденциальности отдельных пользователей или клиентов.
Когда мы используем Clio в целях исследования или для анализа того, как наши продукты используются в совокупности, система:
Автоматически анонимизирует и агрегирует информацию, извлекая только общие закономерности и тенденции, исключая приватные или конфиденциальные детали
Применяет несколько мер защиты конфиденциальности, включая минимальные пороги агрегирования и автоматическую проверку, чтобы гарантировать, что результаты не раскрывают информацию об отдельных лицах или небольших группах клиентов
Не предоставляет сотрудникам Anthropic доступ к необработанным диалогам пользователей или данным, относящимся к конкретным клиентам
Сосредоточивает все выводы исключительно на широких агрегированных закономерностях, никогда не анализируя поведение конкретного отдельного лица или клиента
Мы провели обширное тестирование, аудит и сравнительный анализ, чтобы подтвердить, что результаты Clio не содержат идентифицируемую приватную информацию при использовании в этих целях. Подробную информацию об архитектуре Clio и наших строгих оценках конфиденциальности см. в нашей научной статье.
Для дальнейшего развития нашей миссии мы также можем делиться агрегированными выводами, сохраняющими конфиденциальность, о том, как используются наши системы искусственного интеллекта, с внешней аудиторией или с общественностью. Clio реализует тщательные пороги агрегирования, которые требуют, чтобы каждый вывод представлял значительное разнообразие пользователей и входных данных, что защищает от идентификации конкретных закономерностей использования отдельного лица.
Как описано в нашей научной статье, мы также используем другую версию Clio для улучшения наших систем безопасности. Результаты запусков Clio, ориентированных на безопасность, могут быть связаны с отдельными учетными записями. Мы установили строгие элементы управления доступом, чтобы ограничить просмотр этих результатов небольшим числом авторизованного персонала.