2023抖音集团平台治理年度报告.pdf

2023 抖音集团平台治理年度报告2023 年，久违的烟火气重新回到身边，在线下生活现场不断重建我们内心的秩序，也在线上找寻更多沟通和连接的可能。从视频创作到直播、电商、生活服务，数字生活与现实世界交融并行，相互映照，相互成就。于抖音的平台治理而言，守护好这份贯穿线上和线下的烟火气无疑是这一年最重要的目标。过去一年，抖音平台治理实践主要围绕“规范倡导”和“违规治理”展开。规范倡导，是为了保障更多主体在平台的安全，保护信息平台的“真实性”更加可靠。违规治理，是为了惩治不良现象，维持生态健康发展，维护用户权益。所以，我们进行了一系列新的尝试。发布行业首个“探店规范”，明确探店流程规则和相关权益；更新治理摆拍和伪公益信息新规，发起“反网暴倡议”活动，推出新版“健康分”制度等等。前言这还不够。我们知道，平台治理不是单靠抖音闭门造车就可以完成的工作，我们推窗邀月，希望社会相关方参与进来。我们鼓励用户对信息和内容自主打标，共同识别与处理风险；同时，我们通过开放日、“争议众裁”等形式，与各方探讨平台治理中的问题与不足。我们也在努力提升用户的体验，上线了“一键修改”“发文检测”，重点保障未成年与中老年用户的权益等等。这本小册子，是我们 2023 年平台治理工作的一次回顾。我们把平台治理工作视作抖音平台所应承担的社会责任。新的一年，我们会继续努力，和更多同行者一起，步履不停。工具与服务探讨与共建公示与透明91101111目录01规范与倡导保护我们一直爱着的人求真与求善7727规范与倡导（一）0201建立能够保障平台生态风清气正的平台治理规则，并及时处理各种违规内容和违规行为。唯如此，才能维护包括创作者在内的、所有用户的共同利益。04规范3 月 30 日，抖音发布了关于“演绎”类的内容创作最新规则。新规要求：“创作者通过剧情演绎方式创作、发布虚构内容时，需在显著位置标注作品系演绎”（文案包括但不限于“虚构/演绎作品，仅供娱乐”等），避免作品被误解。对未注明“演绎”标识，又刻意利用虚假摆拍获取流量进行不当营销、误导公众的账号，平台将视情节对其进行无限期封禁等处罚。同时，无论视频是否打标，内容均需遵守抖音社区公约。抖音出台最严摆拍治理令违规者最高无限期封禁6月2日，为促进公益行业更好发展，抖音发布关于公益内容治理的最新规范，打击以“助农”“助困”“助残”为幌子的虚假公益行为。新规要求，发起慈善募捐的账号主体需持有相关资质，并按照规定认证，无资质的账号不得以任何形式在平台发起慈善募捐，包括但不限于利用电商销售等方式变相募捐。另外，新规明确要求公益类账号不得进行直播打赏、电商销售等营利性行为。严打“卖惨”虚假助农抖音新规禁止公益类账号变现一 规范与倡导03一 规范与倡导060512月 19 日，抖音平台治理部门在日常巡查中发现，有黑灰产组织试图通过“AIGC造假”“盗取他人直播内容并加以剪辑”“以官方名义发布培训课程”等多种新型行为，批量发布低质同质甚至违法违规内容，试图借此使其账号快速涨粉、“养号”，不当获利。对此，平台予以了严厉打击。抖音严格治理包括“AIGC 造假”在内的六类新型黑灰产养号行为11 月 30 日，为保护用户权益，抖音发布新规，打击有组织的多账号互相引流、不当获利等违规行为。新规明确，平台将严格打击有组织批量发布低质同质甚至违法违规内容的矩阵号；或者自身发布内容未违规，但通过其他违规账号(小号)引流不当获利的账号(大号)。据悉抖音已按照新规要求严格处置多个百万粉丝以上的账号或矩阵号，清退违规 MCN 机构，并配合公安机关打击犯罪团伙。抖音新规禁止“大小号”不当引流获利封禁多个百万粉丝矩阵号暑期期间，为了给未成年人提供更好的网络保护，营造健康安全的网络环境，抖音启动 2023年暑期未成年人网络保护专项治理。平台重点治理可能对未成年人造成不良导向的内容，如渲染“X 年级的暑假最可怕”“暑假就别玩了，再不努力就来不及了”“六升七的暑假是分水岭”等内容，借此制造教育焦虑、蹭炒教育热点卖书卖课。抖音启动 2023 年暑期未成年人网络保护专项治理严惩“营销焦虑”等行为4 月 4 日，抖音直播发布不良直播 PK 内容治理公示，对 2023 年 1 月起存在违规的69,914 个账号做回收直播权限处置，并对其中 559 个账号无限期回收直播权限。抖音直播长期进行不良直播 PK 内容治理行动，整治扰乱社区秩序、违背公序良俗的不良内容，严厉打击“恶意炒作、逞勇斗狠、拉帮结派、低俗惩罚”等违规行为。不良行为包括但不限于：直播展示暴力冲突行为、直播 PK 约架吸引网友线上线下围观、制造虚假约架剧情吸引流量等其他不良行为。抖音直播持续对不良直播 PK内容治理一 规范与倡导080712 月 14 日，抖音宣布，将持续开展老年人保护相关的内容治理专项，重点打击冒充名人、土味情话诱导、利用老年人卖惨博流量、领收益骗互动等违规行为。有团伙性账号大量仿冒假冒社会知名人士形象，发布“土味情话”“情感歌曲”“人生感悟”等内容，通过评论、点赞等方式骗取中老年用户关注。对此，平台予以严格处置。抖音开展老年人保护内容治理专项打击冒充名人、土味情话诱导等违规行为抖音倡导用户分享真实、文明、健康的内容，共建风清气正的社区氛围，持续打击同质化不良信息等现象。3 月 17 日，针对极个别用户发布的“创业失败”“暑期志愿申报”等同质化内容视频，平台进行了严格处理。抖音严格打击以同质化内容不当博取流量的行为7 月 11 日，抖音集中整治低俗色情账号，22 个高粉账号被无限期封禁。如“陈*妹”（粉丝 406 万）“陈*妮”（粉丝 383 万）发布擦边内容，同时在其他平台发布大量色情、低俗内容，打造不雅形象，并借此引发关注，不当获利；还有部分账号通过昵称、头像、评论等渠道发布引流信息，诱导用户前往第三方色情、低俗内容聚集平台，甚至实施诈骗。媒体表示，虽然这些账号个个都是高粉，其中不乏 400 万粉丝大号，但只要触碰红线，就必须让其对“条”入座，付出代价。高粉账号前不“护犊子”、无限期封禁毫不手软、拉出来公示毫不遮掩；一系列惩治措施，既显示平台态度，也能实实在在地警告那些企图“打擦边球”走歪门邪道赚取流量者，此路不通！抖音封禁多个发布色情低俗内容的高粉账号3 月 23 日，平台发现部分广告主在推广过程中使用涉嫌赌博、壮阳等禁投内容，或涉及虚假夸大产品功效等违规行为。为了保障用户权益和平台生态健康，鼓励广告主合法经营，平台依照相关法律法规和广告投放管理规范，对虚假宣传产品功效、色情低俗及侵权等违规行为进行严厉打击。具体措施包括暂停广告投放、封停广告账户等，并对违规情节严重的广告主永久不合作。抖音严厉打击虚假宣传产品功效、色情低俗及侵权等违规广告信息一 规范与倡导10093 月 3 日，抖音医疗发布关于治理 MCN 机构内容乱象的公告。公告表示，抖音始终致力于打造风清气正的社区氛围，创造健康、安全的网络生态环境，为更好地服务 MCN 机构健康运营，抖音持续打击各种违法违规行为，并对入驻平台的 MCN 机构加强管理。平台在巡查中发现，有个别 MCN 机构/账号发布违规内容，包括：在社会热点事件期间或借用公众关注的医疗事件，编造或传播未经证实的医学信息，以达到吸引眼球、博取流量或对特定病患群体造成伤害的内容或行为；出于不良目的，散布医疗有害信息，传播危害用户安全的虚假内容，利用虚假故事、极端个案，发布可能引发公众恐慌、扰乱社会秩序等不实内容；批量编造、传播低质同质化内容实施虚假宣传、人设打造、博取流量等行为。抖音医疗严格处置编造或传播未经证实的医学信息，对特定病患群体造成伤害的内容或行为为维护广大旅游者和商家的合法权益，6 月 6 日抖音开展合规经营宣导、违规经营巡检等治理措施，要求商家不得在平台发布/宣传/售卖不合理低价的旅行产品，热门旅游景区门票、目的地等售卖价格平台特制定指导价格。双十一活动期间，抖音发现部分创作者在直播间/短视频推广商品时，存在利用低价品引流、捆绑销售、虚构价格补贴/优惠、混淆商品规格等违规营销行为，涉嫌损害消费者合法权益、影响消费者购买体验及平台公平竞争的环境。对此，抖音电商对直播间/短视频关于“低价引流品虚假宣传”等违规行为开展专项治理，相关违规行为一经发现将严肃处理。抖音电商对“低价引流品虚假宣传”等违规行为展开专项治理 抖音生活服务打击违规“低价游”一 规范与倡导1211我在反诈第一线，没能阻止她被骗 500 万文/真实故事计划300 万元“救急款”未婚夫新公司的资金链出了问题，刘玥赶紧给对方转去 300 万元救急。可惜有人从中作梗，抖音不停向她发出弹窗提示，提示她可能遭遇了诈骗。她忙着逐一关闭，还没应付完弹窗，就接到了一通来电。“女士，跟您私聊的用户涉及诈骗风险，他极有可能是想骗取您的财物，请务必要谨慎保护自己的财产安全。”是抖音发现风险报警后，公安民警打来的电话。她很焦急。这是 2022 年初一个清晨。阳光正好，刘玥像往常一样在家练习跳舞，突然收到了未婚夫孟亚新的信息：老婆，我在南方的厂子因为疫情资金周转不开，你能不能先转我100万垫着，我之后想办法还你。刘玥了解孟亚新，他不到万不得已不会向自己借钱，知道事态紧急，刘玥二话没说，向孟亚新的账户转去了100万。没成想工厂的窟窿越来越大，眼下，刘玥指望着再砸300万进去，能让孟亚新的生意彻底盘活。几个月前，刘玥和孟亚新在抖音相识，通过私信，孟亚新向这位素未谋面的女士表露了欣赏。当时刘玥刚“”互联网带来极大便利的副作用，是潜藏其中伺机而动的网络诈骗。在中国人常用的短视频平台背后，反诈的压力巨大。一个特殊团队，通过劝说受害者和研发反诈程序，焦灼地与黑产对抗。这是一份苦差，面对顽固而机敏的诈骗团伙，比制裁犯罪更难的，是在磋磨中保持心力，持续坚守。刚从一段失败的恋情中走出来，萎靡又应激，很长一段时间，她都无法跟人建立信任关系，对感情更是避而不谈。直到孟亚新出现。交流了一段时间，刘玥感觉对方是个事业型暖男。根据孟亚新自己的说法，他在一家上市公司做高管，同时也在打理自己的公司。他忙于事业，无心谈情说爱，进入中年才想着找一份陪伴。起初刘玥不信，世上哪有这么好的事？疫情大流行期间，一通电话里，刘玥轻轻咳嗽了两声，便惹来孟亚新着急的关切。“身体是怎么回事，有无大碍？”“是阳了吗？一定要注意休息。”孟亚新关怀细致、有如太阳般温暖的性格让她心动，在三观、兴趣爱好上也表现出跟刘玥高度契合。这不是“真命天子”是什么？刘玥想。两个人的关系迅速升级，开始谈婚论嫁。在此期间，在孟亚新的鼓励下，刘玥以未婚妻的身份参与了不少投资。3 万、50 万、100 万，钱投下去多少都尝到点甜头，刘玥对孟亚新的信任与日俱增。转不出 300 万，这份感情会面临考验。刘玥为此直接电话里质问抖音客服：“你们这是在干什么！你们是在破坏我的感情，知道吗！”穿越层层阻挠，300 万终于成功转到了孟亚新提供的账户上。随着转账成功，这个男人也从刘玥的世界里骤然消失。就在刘玥苦苦寻找着未婚夫音讯时，警察敲响了她的家门。又是一场经典的“杀猪盘”诈骗。刘玥这才幡然醒悟，她已经被孟亚新骗去 500 余万元。得知“营救”失败，负责和刘玥对接的抖音客服文涵婕感到无比沮丧。她摘掉头戴式耳机，瘫坐在椅子上。文涵婕今年 28 岁，有些婴儿肥，说起话来柔声细语。因为多次成功对接重大诈骗案件，文涵婕在抖音获得过不少奖项，她把得奖时拍的照片跟收集的帽子和贴纸放在一起，装点半包围式的隔音工位。部门领导来了，安抚大家的情绪。这天，还有很多类似的紧急事件等着文涵婕去处理。谁是真的文涵婕所在的抖音安全中心有一批客服，他们每天要处理各类极端事件，有的涉及诈骗，有的涉及自杀。类似刘玥所遇见的“杀猪盘”诈骗，文涵婕经常会遇到。一 规范与倡导1211一 规范与倡导1413在虚拟空间，诈骗犯罪分子靠伪装和无下限的欺瞒骗取信任。客服团队的成员需要想尽办法，让已经头脑发昏、情绪过激的用户冷静下来，妥善处理自己面临的危机。高宛静毕业于心理学专业。刚到抖音客服团队时，她自觉有心理学知识支撑，工作开展起来不至于太难。结果发现，在前线工作，自己来到了一个“无物之阵”。前期诈骗分子通过欺瞒博得受害者信任后，客服要再获得信任极难。“你们才是骗子吧”“我不会被骗的”这样的话高宛静经常听。客服工作的难点，就在于如何顶住事主的怀疑和焦虑，耐心地和诈骗分子争夺事主的信任。高宛静数次尝试劝服一位中年阿姨，对方长期沉迷冒牌男明星直播。那位男明星长期走红，但其本人从未在抖音开设过账号。诈骗分子嗅到商机，利用演员的的热度，开设假冒账号骗取影迷的财物。这些骗局通常不复杂。最夸张的时候，在一张布满鲜花的背景图上摆张男明星的照片，配上音频“我是XX，弟弟来了，很想姐姐”。如此，就可以骗取钱财。接到任务的时候，高宛静发现那位阿姨已经被骗了上万元。每次回复询问，高宛静都细心给阿姨讲解“假冒明星诈骗“的套路，给阿姨强调视频里的并非真人，提示阿姨切勿上当。每次电话，高宛静都会给阿姨讲解近半个小时，阿姨听了，满口答应下来。没过几天，风险提示平台上又出现了阿姨的 ID阿姨虽满口说“好”，但心里并不承认被骗。直到第 7 次听见高宛静熟悉的声音，阿姨在电话那头噗嗤笑出声来，“又来了？”高宛静比以往更着急：“是啊，阿姨，这直播里确实不是他本人，他只是仿冒名人让您汇款，咱们已经说过很多次了，您怎么就不听呢！”长久的交流，让阿姨的信任开始向高宛静这边倾斜，这次阿姨终于承认自己被骗，保证自己再不花钱。之后很久没再看见阿姨的 ID，高宛静这才安下心来。攻防缠斗诈骗是一个历史悠久又规模庞大的产业，15 年前，电信诈骗在公安部刚立项的时候只占到刑侦案件的5-8%，治理了 15 年，这个比例上涨到了 80%。“社会治安良好，赚钱渠道有限。犯罪分子抢不到钱，转而涉足诈骗”，抖音安全中心的一位负责人总结道。“点赞即可获得报酬”，这在不少宝妈看来，是个不错的兼职选项。实际上，这种赚小钱的门路大概率是骗局，一旦上钩，就会被诱导去其他诈骗 APP。在安全中心内部，这种骗局被称为“刷单诈骗”，它每天会威胁到 8 万用户。面对规模巨大的诈骗产业链，人工客服的力量显得尤为薄弱。在此背景下，抖音于 2022 年 1 月上线了反诈工具抖音小安。它可以通过数据模型，找到诈骗者和诈骗场景，一边对诈骗团伙进行打击，一边适时提醒处于危险之中的用户，躲避诈骗风险。武汉的股民林坚，为了拓宽理财思路，平日里会在抖音看一些财经博主的视频。后来，一个自称某财经自媒体客服的账号加了林坚的抖音，林坚喜出望外。当时，林坚参考那个自媒体账号提供的建议进行过投资，获得了收益，他乐于进一步向对方请教投资技巧。根据“客服”的指示，林坚加入了荐股群，获取推荐股票信息之后，他通过群里的链接跳转到某知名炒股软件上进行了大额交易。实际上，林坚加入的群是伪造的，就连他跳转购买股票的炒股软件也是假的。假软件的底层逻辑设计一致，外表看不出破绽，但软件内里的支付链路、股票信息均为伪造，可以无声无息地转移炒股账号里的资金。接到警方通知时，林坚已经被骗上百万。经过调查后发现，此前私信林坚的客服，不过是盗用了他人账号的资料信息建立的伪造账号。抖音安全团队与警方有日常联动机制。此案发生后，团队立即行动，会同警方顺藤摸瓜，在武汉一个村子里抓捕了犯罪嫌疑人3 个 20 岁出头的年轻人。他们被一位同村人找来运营假账号，每引流一个新用户到私人荐股群，就可获得 50 元报酬，一直以为自己在做正规工作。至于群里负责跟受害者聊天的犯罪头目，早已消失在海外。互联网黑色产业链有一些共性，抖音安全团队将某些特征叠加到一起，这样，大概率可以定义到一个黑产。不过，这依旧是场永无止境的缠斗。魔高一尺道高一丈，反诈技术升级的同时，骗子的骗术也在迭代、变化。邢彦君是抖音安全团队的研发人员，他总结过去一年，自己的工作主要是追赶黑产的脚步：发现新的诈骗方式，然后去升级产品模型。新的诈骗形式层出不穷，黑产的诡计变化多端，那是如同在黑暗甬道中爬行的日子，不停被黑产推着走。黑产比常人更乐于洞悉社会风向。几年前，黑产在实施“杀猪盘”时还都在争相仿冒互联网高管，随着套一 规范与倡导1413一 规范与倡导1615路被摸清，他们便转而仿冒特种职业，说辞也跟着变成，“我在某某特殊单位，不能投资，这 5 万块钱给你，可否以你的名义帮我投资？”等受害者尝到甜头，再实施诈骗。过去，假冒领导打电话“来我办公室一趟”泛滥。在疫情期间，诈骗犯因时制宜，开发出假冒乡镇领导诈骗民营企业家，假冒远在海外因疫情无法回国的人向其父母要钱买机票等多种新的诈骗形式。为了让抖音反诈跟上犯罪分子诡计迭代的速度，团队在工作上不敢松懈。有一段时间，邢彦君的办公室里常会发出感叹，“敌人又来了”。心智争夺战2022年初抖音小安上线时，团队踌躇满志。他们把抖音小安视作新武器，相信小安一面可以打击黑产，一面可以帮助用户识别、反击诈骗，是个狠角色。结果没有让人失望。一年过去，抖音用户对诈骗的举报量下降了88%。打击黑产的需求再上一个台阶，抖音安全团队转换思路，把反诈重点放到教育用户上来。如今，小安会在用户触发风险模型时，自动给用户发送警示，会在高风险环境中，给用户推送一键拉黑、一键举报的按钮。不过，无论团队如何部署，还是免不了有不少用户会对干预视而不见。去年 2 月，一位浙江女性被卷入杀猪盘。黑产伪装成成熟男性，开始给她发私信，劝她参与投资，她均未回复。5 月 12 日，这名女性首次回复黑产的私信时，抖音小安就立即给她下发了提示，她没有理会。随后2 天，小安又接连给她发送了多次提示，她依旧选择快速关闭弹窗。团队成员感到崩溃，为什么提醒这么多次用户还是不听？要怎么提醒，用户才会听，并且相信我们？去年 7 月，大家经历了最为沮丧的一段时间。当时连续两周出现了 3 起诈骗金额较大的诈骗案。复盘会开了一次又一次，外部对抖音小安的产抖音小安发出的提示品能力也提出质疑，不断有人问，“为什么你做了这么多，用户最终还是没有选择相信你？”没有人能找到答案。一次复盘会后，一位同事突然提议：“有没有可能去找受害者聊聊，他们当时为什么不接受提示？”大家恍然大悟，找到抖音与警方对接的团队，试图联系受害者。但因涉及用户隐私等合规问题，团队的诉求被拦了下来。如何才能在不打扰用户、保护用户隐私，又符合法律法规的情况下，有效地提醒用户不受骗？这很难。比起生硬、单刀直入的提醒，用户更容易相信黑产花费三五个月建立的强社交关系。安全团队能做的只有坚持，只能在交互上不断向前。无法奢求永恒的顺利，能做的只有在焦灼中坚持劝说和提示。诈骗的底层逻辑针对人性的弱点。宝妈之所以会被“点赞刷单”的蝇头小利诱骗，跟她们怀孕期间缺乏安全感有关。孕后休假在家，没有经济来源的时候，这些女性会感到生活支出、自我尊严仰仗于丈夫。靠刷单带来的一点点收入，可以维持她们最后的价值感。假冒明星直播诈骗之所以盛行，是由于中老年妇女心理上面临巨大落空，如果家庭不能提供帮助和温暖，她们大概率就会向外寻求帮助。一位上海的阿姨退休后跟家人说不上话，又厌倦去跳广场舞，最终在加入假明星诈骗群后，找到了精神慰藉。一再引爆舆论又难以根治的“杀猪盘”，根源在于原子化时代脆弱的亲密关系。许多急于脱单的女性，成了诈骗团伙的猎物。诈骗分子利用人性的弱点，煽动起人的激情，这很容易。而反诈工作人员想要让人恢复理性却异常难办。更不可能指望通过一两句提示，就能叫醒安全意识薄弱的用户。因此，反诈人员为了救人，需要倾注的心力难以估量。刘玥被骗 500 万之后，文涵婕因为担心她受骗金额巨大做出过激行为，曾经对其作了回访。接到来电，刘玥语气低落，不敢相信之余，还有些惋惜。她最后告诉文涵婕，“骗子的话语是有灵魂的。”这句话在安全团队的心里成了一道芒刺。即使被骗了钱，一些受害者依然难以割舍骗子制造的关怀假象。也因如此，要战胜诈骗犯，还有漫漫长路在前头。*文中人物均为化名一 规范与倡导1615一 规范与倡导02030101020304050607081011121314150916一 规范与倡导一 规范与倡导060501020304060710081112141513160509一 规范与倡导18倡导7 月 27 日，抖音发布关于抖音治理网络暴力信息的最新规范。新规明确，平台鼓励用户“友善表达，客观理性发表自身观点，传递善意”。同时，抖音发起“反网暴倡议”活动，呼吁各界共同“反对并抵制网络暴力这一丑恶现象，尊重差异、善意假设、友善表达；避免发布可能会给他人带来心理、情感和社会伤害的言论；在力所能及的范围内，抵制此类语言”。倡议还表示，“反网暴就是保护我们自己，希望更多的你和你们参与其中，共建平等友善、温暖和谐的社区氛围和社会环境。”抖音发起反网暴倡议活动超过 230 万用户主动参与一 规范与倡导17一 规范与倡导20192 月 16 日，抖音生活服务发布行业首个“探店规范”，打击虚假宣传行为，并明确了商家和网络达人在探店合作过程中应遵守的行为规范和权利责任。规范发布的同时，平台还推出了相关撮合产品，以保障探店规范的实施，维护消费者、商家、达人的权益。该规范和产品已在成都、南京等 8 个城市率先试点，经测试优化后将逐步推广至全国。5 月 9 日，抖音直播提供虚拟主播注册能力，用户使用“虚拟主播”形象开播前需向平台主动报备，未经平台报备的“虚拟主播”不可开播。同时，虚拟主播开播需真人驱动并进行身份核验。另外，平台明确要求，虚拟主播直播应当具有显著标识，虚拟主播直播内容需遵守社区规范。2023 年 9 月，抖音直播开始试运行主播分级分类管理机制。在针对直播间违规内容做单次处罚的基础上，平台根据主播日常直播行为增减账号“健康分”，并依据分值对账号分级定档，对应不同的长效管理措施。2024 年 1 月 3 日，抖音直播新版“健康分”管理制度正式生效，303 名主播被关闭收礼物权限。抖音发布行业首个探店规范打击“霸王餐”“云探店”等现象 抖音规定使用“虚拟主播”进行直播需提前报备且具有显著标识 抖音直播新版“健康分”生效为鼓励创作者尊重事实、发布客观真实信息，并避免特定信息对用户造成误导及其他不良影响，抖音于 9 月 8 日发布内容标识使用规范，呼吁创作者在发布人工智能生成、虚构情节、涉及专业行为等内容时，需以“内容标识”的形式提供充分的说明。抖音发布内容标识使用规范呼吁发布演绎、专业等内容需主动添加标识一 规范与倡导22218 月 14 日，抖音电商针对珠宝玉石类商品，推出“先鉴后发”标签。消费者购买拥有“先鉴后发”标签的商品，成交后商品将被送往质检中心，由权威质检机构鉴定商品材质，鉴定合格后出具鉴定证书，随商品统一包装发给用户。如用户对商品材质有争议，可自行送检或申请复检，经具有鉴定资质机构鉴定核实商品材质为假后，商家向用户履行“假一赔四”承诺。抖音电商推出“先鉴后发”标签与权威机构合作珠宝玉石鉴真3 月 9 日，新版抖音电商创作者价格宣传行为规范正式生效。新规再次强调创作者的责任与义务，如因其虚假宣传行为导致消费者权益受损，创作者与提供该商品或服务的商家承担连带责任。抖音电商修订价格宣传规则，带货达人不得虚构商品比价12 月 13 日，抖音电商发布新版商家体验分规范。新规强调，体验分是反映店铺综合服务能力的重要指标，该指标覆盖用户消费全链路。服务保障达标、用户消费体验好的商家可获得高分，并获得更多的平台支持。抖音电商修订商家体验分规则激励商家提升商品品质和服务体验 一 规范与倡导2423找出造成雪崩的每一片雪花文/阑夕抖音出了一份反网暴联合倡议，我签名的时候，是排在 30 万左右，刚又去看了一下，差不多有 100 万人参与了。几天时间100万人响应，如果仅看数字增长，确实很不错，但是相比抖音日活乃至网民规模的整个基本盘，只能说是路险且长。当然，路险且长的下句是，行则将至，对抗网络暴力这件事情，值得也必须持久的做下去，如果善良是西西弗斯的那块巨石，那么无论它滚落多少次，人类都还是会再次把它推向山巅，千百年来，莫不如是。也许我们见过了太多的正义虽迟必到，却多少有些忽视法不责众的细小恶意，互联网的价值和缺陷是一体两面的关系，正面在于表达的平权，话筒不再被少数媒体垄断，反面在于人人都获得了将言语武器化的权力，置身于群体的庇护里随意射击。如果我们真要迎接所谓的数字生活，那么也就必须如同对待真实生活那样，为数字空间的行为规范划定一些底线，它甚至可以是一种常识：那些在和一个陌生人面对面时你说不出口话，在网络上你也不该说出来。这很难理解么？根据百度指数的统计，网络暴力 这个关键词在2014年9月达到了最高峰，所以那个月究竟发生了什么？其实是汕尾中级人民法院做出了一场裁决，以侮辱罪判处被告人蔡某有期徒刑一年。蔡某是汕尾陆丰市一家服装店的老板，因为怀疑高三女生徐某偷了店里的衣服，于是把店内监控拍到的徐某进店片段发至网上，并配上了小偷的字样，希望网民帮他找人。很快，徐某的个人隐私被扒得一览无余，铺天盖地的羞辱和谩骂，击溃了她的心理防线，最终选择跳河自杀。案件审判的结果，第一次在社会层面引起巨大震动，被称作为广东人肉搜索第一案，那些构成网络暴力的声音，其实都是出自朴素的正义感，出自人们对于偷窃行为的深恶痛绝，但在素未谋面的网络上，正义有时也与刺刀无异。是的，在大多数的辩解里，都可以说是正义被误导了、被利用了，所以法律真正能够追究的，往往都是始作俑者，也就是发起动员的人，就像没有任何一片雪花会承认是自己造成了雪崩，受害者的感受更非如此。事实上，从影响来看，自 2014 年以来，那场刑事判决并未起到杀鸡儆猴的作用，相反，随着互联网的渗透率进一步增长，加上社交媒体的交互性不断丰富，网络暴力反而趋于普遍化，这是非常恶劣的发展。有人因在网上寻亲而被卷入撕裂的舆论，有人只是染了头发就遭恶语相向，有人分享了打赏外卖小哥的故事却被讥讽给的太少，有人轻生念头打消反被曾经的关心者斥责假死博关注，这些事情的最后结局，都以受害者的死亡结束，而每一次的悲剧尾声，都已形成了教条式的反思呼吁。反思来反思去，到底反思出了什么结果呢？其实谁也不知道。在抖音的反网暴联合倡议里，能看到除了反思之外，互联网平台还能做哪些事情来遏制网络暴力的泛滥趋势。最核心的功能，有两个，一个是一键开启保护模式，一个是对于某个时间段的私信批量举报。安迪沃霍尔说过，每个人都有 15 分钟的成名时间，只是他没说的是，要在这 15 分钟走红网络，需要付出怎样的代价，甚至很多人并非主观意义上的想红，而是因为流量潮水的随机汹涌，在不知情中被推上了风口浪尖。所以抖音推出的一键防护，非常适合那些突然成为网暴靶心的素人，开启之后，相当于进入了一种隐身模式，不但不再接受任何人的评论和私信，也不会在其他用户的列表里公开出现，这在大多数情况下，可以帮助受害者抵御来势最凶的那一波冲击。而对私信的批量举报，在我测试之后，发现这是一个非常体贴的产品设计，如果只有技术，那么很简单，就像其他平台那样，在每天私信里添加一个举报按钮就好了。但在实际体验中，这种举报方式的感受是非常糟糕的，因为它相当于要逼迫用户去一条条的重新阅读那些伤害他的言论，如果技术没有温度，就会出现这样的设计，从功能上，它当然没问题，但从人性上，它是机器化、任务化的。一 规范与倡导2423一 规范与倡导2625抖音采取的方案，是用户直接设置收到私信的起始时间，然后授权平台读取这个时间段里的所有私信，剩下的事情，会由平台介入排查，判断哪些私信可以被归咎于网暴范畴，进而作出处理，在最大程度上杜绝了用户受到二次伤害的可能。这要是不给产品经理的午饭加鸡腿，我是不接受的。我的意思是，在对抗人性之恶的时候，技术和温度是缺一不可的，若是只有技术，产品很难共情到用户真正的苦衷，只有温度的话，也很容易陷入束手无策的空谈，抖音的解法，堪称示范。三联生活周刊曾经报道过一个研发工程师的故事，这个 34 岁的男人事业成功，家庭幸福，周末经常带着妻儿和父母出去玩，还烧得一手好菜，不忙的时候就下厨做饭，如果单独把这一面拍摄出来，搞不好在今天都能成为短视频里的优质素材。但他有一个秘密，就是每天晚上入睡之前，都会打开枕边的平板，在各大社交媒体里的女性照片底下发表荡妇杀猪盘等留言，然后心满意足的入睡，没人知道他的这个睡前习惯，包括他的妻子，他甚至用不同的邮箱和手机注册了多个账号，避免在被封禁时无法骂人的憋屈。在三联生活周刊的采访里，很多网暴者实际上都并认为自己是在施暴，在现实世界，他们绝大多数都是再正常不过的普通人，回到网上切换人格的原因大同小异，不是释放生活里无从倾泻的压力，就是自视见义勇为，亲自惩罚那些应到遭受惩罚的人。每个人都相信自己站在道德的制高点，站在刺眼的阳光下，在社会心理学家的解释里，这是认知失调的典型症状。我曾在唐山烧烤店打人事件后看到有人在施暴者之一的社交媒体帐号下评论说你信不信有人会对你的女儿做同样的事情，我问他为什么要如此威胁伤害一个与本案无关的人时，他的回答很是轻松：我又不会真的这样做，我只是想让他感受到痛苦。以暴易暴，正是对自身行为合理化的调节手段，互联网的虚拟特征，让它失去了现实空间的抑制能力，网络暴力的成本低到发起者自己都可能转瞬即忘，既不会被问责和追究，也难以形成污点。所以，平台除了尽到救济义务之外，也能提供反攻的手段，为弱者赋予还手权。2016 年，密歇根州的一个母亲在 Facebook 上求助，自述自己 7 岁的女儿因为常被邻居家的男孩欺凌而多次受伤，以至于变得不敢出门。这个消息最后传到了一家摩托俱乐部耳中，于是几十个花臂壮汉骑着轰鸣的哈雷摩托来到这个女孩的社区里，带着她浩浩荡荡的巡视一圈，最后站在那个欺凌她的男孩家门口，确保他能看到这个场面，壮汉们还公开给小女孩写了一封信，表示要定期知道她的情况是否变糟，后来，这个小女孩再也没有受到欺负。我不认为那个欺负她的男孩彻底洗心革面了，他只是不敢再那么做了，因为看起来后果会很严重，有一股远远强过他自己的力量在力挺弱者，所以不得不管住自己的手。有的时候，让所有施暴者都能意识到，被他们攻击的对象，永远都将获得社会制度、资源乃至整个系统的支持，这反而是最容易让人学会好好说话的方法。抖音的反网暴联合倡议底下，比较显眼的是来自各地公检法账号，由身穿制服的警察叔叔/姐姐出来告诫网络暴力将会受到怎样的待遇，说服力顿时拉满。更重要的是，很多网暴者的侥幸心理在于，我国的法律机关可能不至于为了网上骂人这点小事做出反应，而 平安江苏则以权威角色给社会普及了遭受网暴后的标准流程：保存侵权证据，可以向平台反馈，也可以向公安机关保安处理，人民法院的刑事自诉流程也接受一切相关求助。最后，平安江苏的视频以这句掷地有声的话收尾：那些躲在网络背后实施网络暴力的小丑终将被追责。为弱者保留一扇反制的门，就是对施暴者的最大威慑，但从根本上，没有人希望互联网的交流总是走到这个死胡同里，人生可以有很多乐趣，伤害他人也绝不是其中之一。在电影白雪公主杀人事件里，一名记者自行判断了他心中的嫌犯，并在网上发动了舆论审判的声势，真相水落石出后，记者迫于压力前去造访被诬陷者道歉，两人在路上遇到，相向而行却又擦肩而过，因为互相都没认出对方。这也是对所有网络暴力事件的最大讽刺，那些夹枪带棒刀刀见血的仇恨，其实出自互不相识的陌生人，还有比这更闲得慌的吗？一 规范与倡导262527平台治理工作千头万绪，林林总总的网络不良信息大多有一个共同的特征“假”，造谣，摆拍，欺诈，假公益，以次充优，等等。治理这些不良信息最有效的特效药，就是“真”。2023 年，抖音平台治理部门对于“不实信息”“网络暴力言论”“诈骗”等风险板块进行了重点治理。相较以往，平台治理除了继续升级产品功能，还重点推出了“打标”与“规范”两项措施。努力让平台的治理更加公开、透明。我们也相信，一个风清气正的平台生态，更依赖于唤醒人与人之间的善意。真和善是相互成就的。28求真与求善（二）二 求真与求善302901治理“不实信息”与推出“打标提示”抖音发布打击不当摆拍行为的公告2 月，平台在日常巡查中发现，有用户为博取同情、蹭取流量，与其前夫共同摆拍“殴打”视频，并谎称“遭遇家暴，已经报警”。上述制作、传播不实信息的行为，严重违反了平台规则，破坏了社区氛围，平台下架了违规视频、封禁了相关账号。抖音发布 2023 年第二季度安全透明度报告处置伪公益账号 9000 个9 月 11 日，抖音发布2023 年第二季度安全透明度报告。报告显示，2023 年第二季度，抖音针对一些摆拍、卖惨、夸张凸显社会与家庭矛盾等不实信息，或借助发布“助农”“助老”“助残”“助困”等谋求商业变现的内容，进行了严格治理，累计处置伪公益账号 9000 个。2023 年，抖音平台治理在短视频、直播、电商、商业化等多个场景下推出了打标功能。例如，为避免误解，创作者发布演绎类（摆拍）作品，可配以标识；利用 AIGC 技术生成数字人进行直播，需主动打标；同时，针对平台上的存疑或者争议内容，平台在巡查发现后也会边核实边打标进行提示。平台特别强调，摆拍、演绎与虚拟内容不仅需要打标，也不得违背公序良俗。二 求真与求善32312月2023 年，抖音上线了一键跳转功能，针对一些真实性存疑的内容，用户可点击视频下方链接，获取更权威的官方辟谣信息。同时，1 月至 12 月，平台辟谣官号发布“高考虚假卖惨营销”“外卖小哥爬山送外卖系摆拍”等 172 条辟谣视频，处置发布或传播不实信息账号 1.9 万个，清理不实信息相关视频 240 万条。抖音上线辟谣内容一键跳转功能新规要求创作者发布演绎类作品主动打标并有效对外展示的同时，剧情类创作作品仍需遵守抖音社区公约，包括但不限于：不得包含虚假慈善、虚假卖惨等违反公序良俗的内容，不得含有低俗、暴力、歧视等违法或不良内容。相关规则详见：抖音社区自律公约。同时，抖音将开通申诉通道，若创作者认为自己发布的虚构作品无责，仅是被不合理曲解或者其他原因引发视频被处罚，可向平台提出申诉。抖音更新 剧情演绎类作品创作规范3月二 求真与求善3433抖音发布内容标识使用规范，规范呼吁，创作者在发布涉及国内外时事、公共政策、社会事件的相关内容时，如自行制作、传播，需添加拍摄时间、地点，如引用其他用户发布内容，需添加引用来源，以帮助其他用户判断事件真实性和时效性。抖音要求发布时事、政策内容需明确标识9月5月有评论指出，抖音此举意义在于：考察资质，使骗子无从立身。没有资质，募捐也就无从开展；禁止变现，断了骗子的财路。难道他们愿意真的做慈善吗？骗子们也就自然退散。打假账号，让那些试图火中取栗的骗子们无所遁形，或者加大成本，或者无法涨粉，或者不能变现，无利不起早的骗子们自然也就知难而退。抖音新规要求公益类账号必须认证平台倡议创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。同时，禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。抖音禁止利用人工智能技术发布虚假内容二 求真与求善3635以慈善之名行欺骗之事，人性之恶伊于胡底？文/冰川思享号四川省凉山彝族自治州已经在许多直播和短视频平台上，成为了“网红”地区。这原本是令人欣喜的事情，独特的文化风景，开放的心态，与热切想与时代同步的人们，正在彻底地改变这个曾经与世隔绝的地方。在过去数年间，走红于线上，总是能给那个地区的人们，带来巨大的改变：直播的曹县，丁真的理塘，和烧烤的淄博。但是在网络上，大凉山美丽的风景与风情之上，却投下了一片浓重的阴影：在许多平台里，假慈善，伪公益，借助大凉山的势头，给它蒙羞，带来负面。这些乔装打扮的伪网红们，欺骗了许多平台用户的心灵，伤害他们的善良，骗取他们的金钱。这场骗局从 2016 年就已经开始。典型的方法，这些网红们拍摄最穷困的人们，取景最破旧的房屋，“偶遇”最潦倒的农民，然后告诉观看这些视频的人们，这里的生活如何艰辛，人们如何困顿，农产品如何滞销。如果你是善良的人，你可以慷慨解囊，购买这些穷苦的人们的产品，以帮助他们度过艰难岁月。心地柔软的你，怎能忍受这样的画面，拒绝这样无助的请求？于是你不会计较价格的高低，产品的质量，更加不会追问，他们是否从此脱离了困难。你只是本能地去帮助了需要去帮助的人。