以後和ChatGPT訴苦或聊私事真的要小心了！OpenAI內部正悄悄執行一項名為「Lily計畫」（Project Lily）的專案，聘用了數百名真人承包商，人工閱讀用戶與ChatGPT的對話，以期改善AI的回覆品質。
根據科技媒體404 Media，這些負責審查對話的人被稱作「提示詞審查員」（prompt reviewers），他們的主要工作是閱讀經匿名化處理的真實對話，評估ChatGPT回覆是否切題，以及是否過度使用「AI腔」等，據悉時薪超過50美元。
此外，審查標準嚴格禁止AI出現擬人化表達或捏造個人經驗，確保其僅能客觀陳述而不得假裝具備人類情感。
儘管事前會對內容進行去識別化處理，但OpenAI坦承過濾程序並非萬無一失，部分私人個資仍可能流出，特別是簡短的對話。交給審查員檢視的資料更包含「使用者記憶摘要」，涵蓋用戶的提問、興趣、背景與所在位置。
一名審查員形容這份工作「非常機械化」，且審閱指引頻繁變動、經常自相矛盾。更讓人擔憂的是，許多用戶根本不知道自己的私密對話會被他人閱讀，甚至早就習慣將ChatGPT當作傾訴心聲的朋友或心理諮詢對象。
目前，ChatGPT的免費版、Plus和Pro個人版本，皆將「允許聊天紀錄用於改善模型」功能預設為開啟，僅有企業、商務和教育版本預設關閉。然而，即使現在用戶手動關閉該設定也不具備追溯效力，先前輸入的對話不僅會留在資料庫中，甚至可能早已被匿名化並納入數據集中供人審閱，用戶的隱私防線等同宣告失守。
