研究顯示推薦系統(tǒng)能使用 AI 操縱人的偏好

我們所欣賞、所閱讀和所購買的很多東西是 YouTube、Twitter 和 Amazon 等網(wǎng)站通過推薦系統(tǒng)滲透到我們的意識中的。定制化的算法推薦旨在增加廣告流量、點擊或購買量。推薦系統(tǒng)有時候會讓用戶覺得算法根本不了解我們，但有時候也讓人覺得它就像肚子里的蛔蟲什么都知道。推薦系統(tǒng)不僅能根據(jù)我們的偏好進行調(diào)整，實際上還能塑造我們的偏好。國際機器學習會議(International Conference on Machine Learning)上發(fā)表的研究表明，當推薦系統(tǒng)使用強化學習增加參與度時，可能會產(chǎn)生改變偏好以增加參與度的副作用。研究人員介紹了檢測和減少此類 AI 操縱的方法。