Anthropic führt aggregierte, datenschutzwahrende Analysen durch, um Erkenntnisse über die realen Auswirkungen von KI-Systemen und die Nutzungsmuster unserer Produkte zu gewinnen, während wir die Privatsphäre der Nutzer und die Vertraulichkeit sensibler Informationen streng wahren. Ein Beispiel für unseren Ansatz ist Clio, ein System, das es uns ermöglicht, wichtige Trends und Verhaltensweisen zu verstehen, ohne die Privatsphäre einzelner Nutzer oder die Vertraulichkeit von Kunden zu gefährden.
Wenn wir Clio für Forschungszwecke oder zur Analyse der aggregierten Nutzung unserer Produkte einsetzen, führt das System folgende Funktionen aus:
Anonymisiert und aggregiert Informationen automatisch, extrahiert nur allgemeine Muster und Trends und lässt private oder sensible Details weg
Wendet mehrere Datenschutzmaßnahmen an, einschließlich Mindest-Aggregationsschwellwerte und automatisierte Überprüfung, um sicherzustellen, dass die Ergebnisse keine Informationen über einzelne Personen oder kleine Kundengruppen offenbaren
Gewährt Anthropic-Mitarbeitern keinen Zugriff auf rohe Nutzerkonversationen oder kundenspezifische Daten
Konzentriert alle Erkenntnisse ausschließlich auf breite, aggregierte Muster und analysiert niemals das Verhalten eines bestimmten Einzelnen oder Kunden
Wir haben umfangreiche Tests, Audits und Benchmarks durchgeführt, um zu überprüfen, dass die Ausgaben von Clio bei Verwendung für diese Zwecke keine identifizierbaren privaten Informationen enthalten. Detaillierte Informationen zur Architektur von Clio und unseren rigorosen Datenschutzbewertungen finden Sie in unserem Forschungspapier.
Um unsere Mission weiter voranzutreiben, können wir auch aggregierte, datenschutzwahrende Erkenntnisse darüber, wie unsere KI-Systeme genutzt werden, mit externen Zielgruppen oder der Öffentlichkeit teilen. Clio implementiert sorgfältig gewählte Aggregationsschwellwerte, die erfordern, dass jede Erkenntnis eine aussagekräftige Vielfalt von Nutzern und Eingaben repräsentiert, was vor der Identifizierung spezifischer Nutzungsmuster eines Einzelnen schützt.
Wie in unserem Forschungspapier beschrieben, verwenden wir auch eine andere Version von Clio zur Verbesserung unserer Sicherheitssysteme. Die Ergebnisse aus sicherheitsorientierten Clio-Läufen können mit einzelnen Konten verknüpft werden. Wir haben strenge Zugriffskontrolle implementiert, um den Zugriff auf diese Ergebnisse auf eine kleine Anzahl autorisierter Mitarbeiter zu beschränken.