Anthropic melakukan analisis data yang teragregasi dan menjaga privasi untuk mendapatkan wawasan tentang dampak nyata dari sistem AI dan pola penggunaan produk kami sambil dengan ketat mempertahankan privasi pengguna dan kerahasiaan informasi sensitif. Salah satu contoh pendekatan kami adalah Clio, sebuah sistem yang memungkinkan kami memahami tren dan perilaku penting tanpa mengorbankan privasi individu atau kerahasiaan pelanggan.
Ketika kami menggunakan Clio untuk tujuan penelitian atau untuk menganalisis bagaimana produk kami digunakan secara agregat, sistem ini:
Secara otomatis menganonimkan dan mengagregasi informasi, mengekstrak hanya pola dan tren umum sambil menghilangkan detail pribadi atau sensitif
Menerapkan beberapa perlindungan privasi, termasuk ambang batas agregasi minimum dan verifikasi otomatis untuk memastikan hasil tidak mengungkapkan informasi tentang individu atau kelompok kecil pelanggan
Tidak memberikan akses kepada karyawan Anthropic untuk percakapan pengguna mentah atau data khusus pelanggan
Fokus semua wawasan hanya pada pola agregat yang luas, tidak pernah menganalisis perilaku individu atau pelanggan tertentu
Kami telah melakukan pengujian ekstensif, audit, dan benchmarking untuk memvalidasi bahwa output Clio tidak mengandung informasi pribadi yang dapat diidentifikasi ketika digunakan untuk tujuan ini. Untuk informasi terperinci tentang arsitektur Clio dan evaluasi privasi ketat kami, silakan lihat makalah penelitian kami.
Untuk lebih lanjut memajukan misi kami, kami juga dapat berbagi wawasan agregat yang menjaga privasi tentang bagaimana sistem AI kami digunakan dengan audiens eksternal atau dengan publik. Clio menerapkan ambang batas agregasi yang cermat yang memerlukan setiap wawasan untuk mewakili keragaman pengguna dan input yang bermakna, yang melindungi dari identifikasi pola penggunaan spesifik individu.
Seperti yang dijelaskan dalam makalah penelitian kami, kami juga menggunakan versi berbeda dari Clio untuk meningkatkan sistem keamanan kami. Hasil dari jalankan Clio yang berfokus pada keamanan dapat ditautkan kembali ke akun individu. Kami menerapkan kontrol akses ketat untuk membatasi siapa yang dapat melihat hasil ini hanya kepada sejumlah kecil staf yang berwenang.