男子輕信AI傳播董明珠謠言被格力起訴 被判賠7萬元

快科技8月5日消息，近日，媒體報道了一則男子因輕信AI傳播格力集團董事長董明珠謠言，終被格力起訴被判賠7萬元的案件。

據報道，案件中，男子發表了一篇關於「董明珠言論帖」，該言論帖中，涉及了所謂董明珠曾稱「想雙休的人，拿不到高薪，更不值得培養」等言論。

但格力公司方面證實，董明珠本人並沒有發表過上述言論，遂認定男子所發內容純屬捏造，且已實際引發公眾對格力公司及其產品的抵制言論和負面評價。

鑒於此，格力公司方面起訴了該男子。最終經過法院判決，男子除了道歉外，還應向格力公司賠償經濟損失7萬元。

案件判決後，有媒體採訪了男子。

男子透露稱「在引用信息時，通過權威信息檢索工具、最新一代頂尖大模型人工智慧核實來源」，殊不知，自己不慎引用了錯誤信息。

值得注意的是，今日，國家安全部還發表提示文章稱，高質量的數據能夠顯著提升模型的準確性和可靠性，但數據一旦受到污染，則可能導致模型決策失誤甚至AI系統失效，存在一定的安全隱患。

具體表現在以下三個方面：

1、投放有害內容

研究顯示，當訓練數據集中僅有0.01%的虛假文本時，模型輸出的有害內容會增加11.2%；即使是0.001%的虛假文本，其有害輸出也會相應上升7.2%。

2、造成遞歸污染

當前，網際網路AI生成內容在數量上已遠超人類生產的真實內容，大量低質量及非客觀數據充斥其中，導致AI訓練數據集中的錯誤信息逐代累積，最終扭曲模型本身的認知能力。

3、引發現實風險。

數據污染還可能引發一系列現實風險，尤其在金融市場、公共安全和醫療健康等領域。