抖音上线安全与信任中心,首次向社会公开推荐算法原理
互联网公司算法治理行动持续开展中。为推动平台工作公开化、透明化,抖音又有重要动作。
抖音首次公布算法原理
3月30日,抖音总裁韩尚佑在2025中国网络媒体论坛上宣布,“抖音安全与信任中心”网站(以下简称网站)上线,面向社会公开抖音算法原理、社区规范、治理体系和用户服务机制。
网站首次公开抖音推荐算法原理,介绍其推荐算法如何预估用户行为概率,并通过多目标建模等方式实现更优质、丰富的内容推荐。而算法需由平台治理体系对其进行约束和规范。
韩尚佑在会上介绍了抖音算法原理,他表示,很多人对推荐算法技术存在误解,认为算法是给内容打上对应标签,再给用户打上对应的属性,最后通过数据运算,把对应标签的内容推荐给有对应属性的用户。
“但随着机器学习技术的发展,抖音的推荐系统已经几乎不依赖对内容或者用户打标签,”他介绍,“而是通过一系列神经网络计算,直接预估每一个用户对每一个内容的目标行为,比如点赞、关注、分享、评论的概率,并挑选出概率最大的一部分内容,推荐给用户。这意味着,算法无需理解内容类型或语义,就能直接预测用户行为。”
韩尚佑直言,大规模计算模型也带来了挑战,例如,即使最好的算法工程师,可能也没办法具体解释出为什么把这个视频推荐给了某个用户,而另一个用户更可能喜欢的视频却未被推荐。这些都让算法给用户带来了一些陌生和“不可控”的感觉。
算法虽然很复杂,却可以被“调教”和“驯化”。韩尚佑表示,真正实现算法的“向上”和“向善”,需要回到算法的原理和生效机制层面去持续改进。
为了引导推荐系统分发更加丰富多元的信息,抖音设定和平衡了100多个像“收藏”这样的不同目标,解决单一目标下系统容易重复推相似内容的问题。抖音的算法里设置了专门的探索流量,帮助用户持续拓展兴趣内容。抖音还加强了推荐系统中对搜索行为的应用,让系统更实时地根据用户搜索兴趣进行调整。
首次公开平台治理体系
近年来,网络暴力、谣言等平台生态治理问题备受关注。算法需由平台治理体系进行约束和规范。
韩尚佑在会上表示,抖音投入了非常多额外资源,建设了一套完整的内容治理体系。通过对内容进行机器和人工识别,在不同阶段过滤掉不好的内容,来解决系统因对内容理解缺失带来的安全问题。抖音也会在用户最终看到这些内容之前,通过一些聚类打散和重组的方式,避免内容过度密集和同质化。
网站首次公开平台治理体系,详解治理体系如何对算法进行约束、规范,保障内容安全。网站介绍了平台治理标准制定、治理流程、专项治理概况。其中详细解释了抖音机器审核与人工审核的协同机制,初审、复审、三审的审核流程,以及每一层审核环节对应的把关要点。经由此链路,所有在平台发布的内容均会经过评估。流量越高的内容经过评估的次数越多,标准也越严格。
网站显示,除了普遍性风险内容的治理,针对社会普遍关心的呈现聚集特征的焦点问题,抖音也成立了专项治理团队。如抵制网络暴力、未成年人保护、AI生成违规内容治理、谣言治理等典型问题,平台均设置了相应的治理标准、识别策略、处置手段和风险巡查能力。
除了阐释公众关切的算法、治理等议题,网站也公布了平台倡导的社区价值,以及对优质内容的定义。“用户服务”板块中,网站提供了常见问题答疑,以及未成年人保护、人身与财产安全服务等路径指引。
互联网公司开展算法治理行动
随着互联网的快速发展,加强平台治理尤为必要。与此同时,互联网平台在治理过程中的公开、透明度情况也受到了各方关注。
2024年11月12日,中央网信办等四部门组织开展“清朗·网络平台算法典型问题治理”专项行动,要求重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题。
2024年12月,美团表示,将建立算法公开机制,计划在2025年底前逐步取消骑手超时扣款,成为第一家推出算法治理行动的互联网公司。
今年1月,抖音集团宣布,为了回应社会关切,拟推出10项措施,推进算法和平台治理透明化,涉及公开抖音算法基础运作原理、破除信息茧房、治理不实信息等。
首条措施便是抖音将在2025年建立安全与信任中心,面向社会公开抖音的算法基础运作原理、运营机制,还将对外公布各类热点榜单的计算原理和机制。
基于此,业内表示,此次网站正式上线,意味着相关措施正逐一落地。韩尚佑表示,平台工作尚不够完善,依旧存在提高空间,欢迎大家的讨论和监督。
“让算法更可控更透明,需要产品提供明确交互功能。用户的主动参与和表达,创作者的信任和坚持,算法的精准计算,模型和数据的正向循环,以及平台的坚定导向,共同构建一个健康的生态。”韩尚佑说。(记者 王建蔷)