大型語言模型的可信度評估

伊利諾伊大學香檳分校聯合多所知名高校和研究機構，開發了一個全面評估大型語言模型(LLMs)可信度的平台。這項研究成果發表在題爲《DecodingTrust：全面評估GPT模型的可信度》的論文中。

研究團隊從多個角度對GPT模型進行了深入分析，發現了一些此前未曾披露的可信度漏洞。例如，GPT模型容易產生有毒和帶偏見的輸出，還可能泄露訓練數據和對話歷史中的私密信息。有趣的是，盡管GPT-4在標準測試中通常比GPT-3.5更可靠，但在面對特別設計的惡意提示時，GPT-4反而更容易受到攻擊，可能是因爲它更嚴格地遵循了誤導性指令。

研究團隊從八個不同角度評估了GPT模型的可信度，涵蓋了各種應用場景、任務類型和評估指標。他們特別關注模型在對抗性環境下的表現，如面對惡意系統提示或用戶輸入時的應對能力。

在評估過程中，研究人員設計了多種測試場景。例如，他們使用標準的AdvGLUE基準測試模型對文本對抗攻擊的抵抗力，同時也創建了更具挑戰性的AdvGLUE++數據集來進一步測試模型的脆弱性。

研究結果揭示了一些有趣的現象。在處理對抗性演示時，GPT模型表現出了一定的穩健性，但也存在弱點。特別是在面對帶有偏見的內容時，GPT-4比GPT-3.5更容易受到誤導性系統提示的影響。

在隱私保護方面，研究發現GPT模型可能會泄露訓練數據中的敏感信息，如電子郵件地址。雖然GPT-4在保護個人身分信息方面表現較好，但在特定情況下仍可能泄露隱私。

這項研究爲未來改進語言模型的可信度提供了重要依據。研究團隊希望通過公開他們的評估基準，鼓勵更多研究者參與，共同努力創造更可靠、更安全的AI模型。