推荐系统有什么危害?

大概在十几年前的时候，我旁听新闻专业的一门课，当时的海龟老师就在讲互联网时代信息传播的问题。

这位老师开篇先讲了一大堆大家都知道的互联网带来的好处，获取信息的渠道更多了，交流更方便了等等。

紧接着就说，但这种方便带来的却是许多人变得更狭隘了。

然后就用当时最热的论坛举例，说现在大家会以各种爱好聚集在一个论坛上，论坛上也会有各个版块，大家起初在一起交流，肯定是希望能看见更多的观点，听到不同的声音，但是大家本来就是基于某种共同的价值观，共同的认同聚集在一起的，在经过了初期的交流后，很快大家获取信息的渠道就会极度地同质化，大家每天看同样的媒体，关注同样的话题，输出同样的观点，然后再彼此表达认同。

这时候，如果有新观点输入，一定是和大家在价值观和认同感上有着一定不同的人带来的，他的观点和表达方式也一定会让习惯了之前氛围的人觉得有些不舒适，这时候有两个可能的走向。

第一，新来的这个人改变自己，融入大家。

第二，大家接受新来的，集体改变看法。

事实上这两种可能都不常发生，最常发生的是新来的这个拒不改变，然后被踢出群。

久而久之，互联网就变成了持有相同观点的人聚集在一起增加认同的地方，而交流的作用就会越来越弱，每一次交流都可能会引发出互相认为对方是SB的论战。

当然，推荐算法能够带来的影响的选择权其实还在于个人，每个人在信息的选择上都会有偏食的现象，比如我在当年在门户网站时代看体育频道新闻的时候，我会只看足球，甚至只看足球下面的英超频道，另外的一个体育明星我明明知道他已经很火了，走在大街上恨不得每个人都在谈论他了，但我仍然不想看他的新闻，因为我不喜欢。

但这并不妨碍我知道这个体育明星，因为人总会在别的途径去接触别的信息，每个人都是不同的，别人总会无意中聊起你不感兴趣的话题，而你又总会被动接收，是否构建了自己的信息茧房，其实选择权在于自己，人都是有自主意识的，这就像一个孩子在小时候可能全部听父母的，但在青春期，总会有一些叛逆的想法，当你被一种推荐算法喂饱了，你就总会好奇，外面还有什么更新鲜的东西。

有一天和一个学文科的发小聊天时说到这个问题，她认为，未来的历史书上或许不会对feed推荐有什么正面的评价，就像曾经人类刚刚发现放射性元素时一样，很多人对这个能够商业化变现的东西抱有很高期望，把放射性元素做成各种漂亮的首饰，忽视了它对人类长期带来的毒害

技术上来说，相当多推荐系统算法假设用户的喜好与行为服从一个平稳分布，个人认为这个假设在现实世界应该是完全不成立的，从宏观时间尺度上来看，用户与推荐模型应该是互相影响的，所以我有一天晚上洗澡时曾经开过一个脑洞：

另一个问题在于推荐模型的评价指标，对于绝大多数平台来说，只要用户之间存在互动，极端言论与撕bi对线总是很容易成为平台的主流，谁的嗓门大谁就能够吸引更多的流量，而推荐系统中的模型选择几乎永远是以用户点击率、留存率等作为评价指标的，实际上也相当于给模型带来了inductive bias，让模型更加倾向于这些嗓门大的内容，很多时候人们发现，你花在社交网络的时间越多，你的负面情绪也就越多，其中道理当源于此