Anthropic esegue analisi aggregate che preservano la privacy dei dati per ottenere informazioni sugli impatti reali dei sistemi di IA e sui modelli di utilizzo dei nostri prodotti, mantenendo rigorosamente la privacy degli utenti e la riservatezza delle informazioni sensibili. Un esempio del nostro approccio è Clio, un sistema che ci consente di comprendere tendenze e comportamenti importanti senza compromettere la privacy individuale o la riservatezza dei clienti.
Quando utilizziamo Clio per scopi di ricerca o per analizzare come i nostri prodotti vengono utilizzati in aggregato, il sistema:
Anonimizza e aggrega automaticamente le informazioni, estraendo solo modelli e tendenze generali omettendo dettagli privati o sensibili
Applica molteplici salvaguardie sulla privacy, incluse soglie di aggregazione minima e verifica automatizzata per garantire che i risultati non rivelino informazioni su individui o piccoli gruppi di clienti
Non fornisce ai dipendenti di Anthropic accesso alle conversazioni grezze degli utenti o ai dati specifici dei clienti
Concentra tutti gli approfondimenti esclusivamente su modelli ampi e aggregati, non analizzando mai il comportamento di alcun individuo o cliente specifico
Abbiamo condotto test estensivi, audit e benchmarking per convalidare che gli output di Clio non contengono informazioni private identificabili quando utilizzati per questi scopi. Per informazioni dettagliate sull'architettura di Clio e sulle nostre rigorose valutazioni sulla privacy, consultare il nostro articolo di ricerca.
Per promuovere ulteriormente la nostra missione, potremmo anche condividere approfondimenti aggregati che preservano la privacy su come i nostri sistemi di IA vengono utilizzati con audience esterne o con il pubblico. Clio implementa soglie di aggregazione attente che richiedono che ogni approfondimento rappresenti una diversità significativa di utenti e input, il che protegge dall'identificazione dei modelli di utilizzo specifici di un individuo.
Come descritto nel nostro articolo di ricerca, utilizziamo anche una versione diversa di Clio per migliorare i nostri sistemi di sicurezza. I risultati delle esecuzioni di Clio focalizzate sulla sicurezza possono essere collegati agli account individuali. Abbiamo implementato rigorosi controlli di accesso per limitare chi può visualizzare questi risultati a un piccolo numero di personale autorizzato.