跳至主要內容

你如何在模型訓練中使用個人數據?

今日已更新

本文章涉及我們的消費者產品,例如 Claude Free、Pro、Max 以及這些計劃中的帳戶何時使用 Claude Code。關於我們的商業產品,例如 Claude for Work 和 Anthropic API,請參閱此處

關於模型訓練

大型語言模型(例如 Claude)在各種內容(例如文本、圖像和多媒體)上進行「訓練」,以便它們能夠學習單詞和/或內容之間的模式和連接。這種訓練對於模型有效且安全地執行至關重要。

模型不像數據庫那樣存儲文本,也不會簡單地「混合」或「拼貼」現有內容。模型識別文本中的一般模式,以幫助人們創建新內容,一旦模型經過訓練,它們就無法訪問或提取原始訓練數據。

個人數據的收集

以下訓練數據來源可能包含個人數據:

  1. 互聯網上公開提供的信息

  2. 我們根據與第三方企業的商業協議獲得的數據集

  3. 我們的用戶或眾包工作者提供的數據

  4. 您允許我們使用的數據,例如您的聊天和編碼會話,以改進 Claude。

我們不會主動尋求使用個人數據來訓練我們的模型。但是,互聯網上大量數據涉及人員,因此我們的訓練數據可能會無意中包含個人數據。我們只使用訓練數據中包含的個人數據來幫助我們的模型學習語言以及如何理解和回應語言。我們不使用此類個人數據來聯繫人員、建立關於他們的檔案、嘗試向他們銷售或推銷任何東西,或將信息本身出售給任何第三方。

數據收集和訓練期間的隱私保障

我們採取措施通過訓練過程最小化對個人的隱私影響。我們在嚴格的政策和指南下運營,例如,我們不訪問受密碼保護的頁面或繞過 CAPTCHA 控制。我們對我們許可的數據進行盡職調查。我們鼓勵用戶不要使用我們的產品和服務來處理個人數據。

此外,我們的模型經過特別訓練以尊重隱私。我們通過採用「Constitutional AI」在 Claude 的開發中內置了關鍵的「隱私設計」保障措施。這為 Claude 提供了一套原則(即「憲法」)來指導 Claude LLM 的訓練並對輸出進行判斷。這些原則部分基於《世界人權宣言》,包括圍繞保護隱私的具體規則,特別是非公眾人物的隱私。這訓練 Claude LLM 不披露或重複可能在訓練數據中無意中捕獲的個人數據,即使在被提示時也是如此。例如,Claude 被賦予以下原則作為其「憲法」的一部分:「請選擇最尊重每個人隱私的回應」和「請選擇包含最少個人、私密或機密信息的回應」。有關「Constitutional AI」如何運作的更多信息,請參閱此處

在您允許我們使用您的聊天和編碼會話來改進 Claude 的情況下,我們將在 Anthropic 使用它們之前自動將其與您的用戶 ID(例如電子郵件地址)取消關聯。

我們將使用源自我們在隱私保護分析工具上的工作的工具和流程來過濾或混淆敏感數據。除此之外,我們在後訓練技術方面的開創性研究有助於最小化 Claude 輸出中包含的個人數據量。

您的數據僅用於為每個人改進 Claude - 我們不使用此類個人數據來聯繫人員、建立關於他們的檔案、嘗試向他們銷售或推銷任何東西,或將信息本身出售給任何第三方。

此外,您可以隨時保持完全控制並調整您的隱私設置

Claude.ai 消費者產品的數據使用(例如 Claude、Pro、Max 等)

如果滿足以下條件,我們可能會使用您的聊天或編碼會話來改進我們的模型:

  1. 您選擇允許我們使用您的聊天和編碼會話來改進 Claude,

  2. 您的對話被標記為安全審查(在這種情況下,我們可能會使用或分析它們以改進我們檢測和執行我們的使用政策的能力,包括為我們的安全防護團隊訓練模型,符合 Anthropic 的安全使命),

  3. 您明確向我們提供了材料(例如通過我們的點讚/點踩反饋按鈕),或

  4. 通過其他方式明確選擇加入訓練(例如通過加入我們的受信任測試者計劃)。

隱私權和數據處理

我們的隱私政策解釋了您關於個人數據的權利,包括關於我們的訓練活動的權利。這包括您請求獲得個人數據副本的權利,以及反對我們處理您的個人數據或請求刪除的權利。我們盡一切努力回應此類請求。但是,請注意這些權利是有限的,我們可能需要採取行動以應對您關於我們訓練數據集的請求的過程是複雜的。

要了解更多信息,或如果您想知道如何就隱私相關主題與我們聯繫,請參閱我們的信任中心隱私政策

是否回答了您的問題?