推荐算法的“退化反馈循环”
推荐算法被 Google、YouTube、Facebook、Netflix 等服务都有使用。它们有便利的地方,比如使用户更容易看到自己感兴趣的新闻或者视频。它们也有负面作用,即所谓的“回音室”(Echo Chamber)或者“过滤气泡”(Filter Bubbles)效应。 这个负面作用很早以前就有学者或相关人士关注、研究、讨论。Facebook 诞生之前三年,哈佛的一位法律教授出版著作准确预测了互联网的崛起可能带来的“群体极化”(Group polarization)效应,它最终将危害健康的民主体制。 2016 年美国大选过后,上述效应(或者说词汇、概念)变得流行起来,相关研究又陆续出现。DeepMind 的研究人员最近在 arXiv 预印本网站发表论文,标题是“ Degenerate Feedback Loops in Recommender Systems ”(推荐系统的退化反馈循环),讨论了此议题。 研究人员分析了不同的推荐算法在加速或者减缓上述两个效应方面的表现。 “回音室效应”和“过滤气泡效应”本来是同一类型事物,“退化反馈循环”是它们的学术表达。不过,研究人员对二者进行了区分。“回音室”通过把用户暴露在相似内容中强化用户的兴趣;“过滤气泡”则缩小用户可接触到内容的范围。退化程度越高,表明它们的效应越强烈。 研究人员模拟了五种不同的算法,算法的差别在于预测准确度的优先级。结果发现,准确度优先级越高的算法,系统退化越快。也就是说,抵抗“回音室”或者“过滤气泡”危害的办法是设计算法使其更具探索性,推荐给用户一些不那么准确抓住用户兴趣的内容。拓宽推荐算法所基于的总体信息集也有帮助。 明尼苏达大学的计算机科学教授 Joseph A. Konstan 以前也进行过“过滤气泡”方面的研究,他说 DeepMind 的研究结果并不出人意料。“研究人员早就意识到了推荐系统里准确预测和有效探索之间的矛盾。” 以前有研究发现,用户忍受较低程度的预测准确性的同时能够得益于推荐多样性的好处,不过开发者并不愿意把自己的算法设计成那样。推荐安全的选择更容易成为“正确”。 Konstan 批评 DeepMind 的研究没有采用有人类参与的交互系统而是使用机器学习进行模拟。他说,“人是复杂的。一方面,人珍视多样性;另一方面,人如果觉得推荐算法变得过...