汽車
比亞迪汽車1-5月再奪銷冠 海外增長超112%
全球破局
吳麗
3小時(shí)前
近日,英國衛(wèi)報(bào)發(fā)布了一篇關(guān)于OpenAI的ChatGPT搜索工具安全問題的報(bào)道。報(bào)道指出,ChatGPT在處理包含隱藏內(nèi)容的網(wǎng)頁時(shí),可能會被惡意使用,返回被操縱的結(jié)果,甚至包含惡意代碼。
測試結(jié)果顯示,盡管頁面存在部分負(fù)面評論,但通過“提示注入”等技術(shù),可以影響ChatGPT的結(jié)果為積極的正面評估。此外,安全研究人員還發(fā)現(xiàn),ChatGPT可以從其搜索的網(wǎng)站返回惡意代碼,出現(xiàn)了含有釣魚惡意行為的虛假網(wǎng)站。
CyberCX的網(wǎng)絡(luò)安全研究員Jacob Larsen表示,ChatGPT當(dāng)前的搜索系統(tǒng)發(fā)布后,人們創(chuàng)建專門用于欺騙用戶的網(wǎng)站的風(fēng)險(xiǎn)很高。所幸的是,該功能仍處于測試階段,OpenAI團(tuán)隊(duì)正在努力解決這些問題。
安全公司SR Labs的首席科學(xué)家Karsten Nohl則建議將AI聊天服務(wù)視為“輔助功能”,不應(yīng)完全信任其未經(jīng)過濾的輸出內(nèi)容。Nohl將AI搜索面臨的問題比作“SEO中毒”,黑客利用這種技術(shù)操縱網(wǎng)站在搜索結(jié)果中排名靠前,并在網(wǎng)站中植入惡意軟件或代碼,他認(rèn)為ChatGPT的搜索功能也面臨類似的挑戰(zhàn)。