郭旨龙
中国政法大学网络法学研究所教授
伴随信息技术的迅猛发展，个性化算法推荐已经深入公民生活的方方面面，改变了人们在互联网获取信息的方式。青少年作为“数字原住民”，与信息网络的互动更加紧密，算法推荐也已渗透至新闻、短视频、直播及在线教育等青少年高频使用的场景，其通过精准匹配个性化信息，为青少年高效娱乐、学习与社交提供了便利。但与此同时，由于青少年群体的特殊性，加上算法推荐机制本身的技术局限、平台企业的价值观导向与法律责任落实不力等多层次原因，未成年网民在强算法推荐的网络环境中正面临过度娱乐化推送、不良信息推送等问题的侵扰，进而引发网络沉迷、跟风模仿、抑郁焦虑或价值观混乱等不利结果。算法作为人工智能技术的基石之一，其治理效能已成为衡量数字时代国家治理能力的关键维度。2022年3月施行的《互联网信息服务算法推荐管理规定》（以下简称《规定》）为规范平台企业的算法推荐活动提供了重要依据，并通过设置未成年人网络保护专条凸显了重点关注青少年群体网络权益的价值立场。2024年11月，中央网信办等四部门联合发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，进一步厘清了现阶段开展算法综合治理的任务、目标、安排与要求。以此为基础，本文拟就构建适配未成年人发展特征的算法推荐治理体系展开研究，以求在技术红利与数字风险间实现平衡，筑牢未成年人网络权益保护的立体屏障。根据《规定》第二条的表述，应用算法推荐技术是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。从原理上看，算法推荐依托协同过滤和深度学习来实现信息精准分发，其通过分析点击次数、停留时长、互动频率等用户行为数据来构建用户画像，进而实现内容的个性化匹配。尽管在由技术开发者、企业或行业组织所发布的技术白皮书中常将算法推荐表述为“价值中立”的技术工具，但其在实际运作中对未成年人的影响已超越单纯的技术应用范畴，其正向反馈加强化的运行逻辑正在未成年人网络权益领域引发不同层面的现实风险。首先，技术加持下的内容精准投放更易诱发未成年人网络沉迷。算法推荐通过即时反馈机制（如自动播放、无限滚动）和成瘾性设计（如“猜你喜欢”“你可能感兴趣”标签），能够不断刺激青少年的多巴胺分泌，使其陷入“观看→反馈→持续观看”的无意识行为循环当中，部分平台甚至强制用户选择兴趣标签以延长使用时长，使未成年人在持续“刷屏”中形成高频次、高黏性的使用习惯。未成年人群体因身心发育尚不成熟，自控力较成年人而言相对较差，更易被此类成瘾性机制所俘获，而网络沉迷不仅挤占他们的学习、社交与运动时间，还可能引发视力下降、注意力分散、睡眠障碍等生理问题。其次，算法推荐易促使内容分发逐渐同质化和低质化，导致“信息茧房”与未成年人的认知局限。一方面，研发及使用算法推荐系统的互联网平台企业，其出发点在于追求用户的高留存率和高使用时长，因此往往倾向于不断优化推送策略，通过“点击越多推送越类似”的闭环来强化既有兴趣标签，这会导致信息推送的高度同质化，使未成年人的信息获取范围被算法无形压缩；另一方面，由于知识型内容的直接吸引力往往弱于娱乐型内容，点击率差异会使有价值的内容占比不断减少。被困于算法推荐所制造的“围城”中的未成年用户，事实上很难突破被技术设定的兴趣边界，而长期接触娱乐八卦、游戏攻略或低俗擦边等低质量内容，无疑将削弱未成年人对多元事物的包容性和批判思考能力，固化其价值观，使其最终成为“单向度的人”。最后，低俗信息、虚假合成信息、煽动性信息等有害信息对未成年人身心造成直接危害。网络世界所充斥的信息良莠不齐，违法和不良信息或通过算法推荐机制呈现于青少年的智能终端。一方面，部分平台会对具有感官刺激性的暴力或低俗擦边内容实施流量倾斜，这些内容往往通过语义模糊、图像隐晦（如将软色情内容伪装成“穿搭教程”）等方式规避监管，给未成年人的身心健康带来显著危害；另一方面，目前借助生成式人工智能技术，可以轻易地产出深度伪造视频、虚假科普内容、虚假新闻等，与此相关的标识及传播规则尚未得到充分落实，极易扰乱未成年人对真实世界的感知，消解其判断能力。此外，平台企业为攫取流量或获得来自第三方的经济利益，通过干预“热搜”榜单炒作和推送热点，放大煽动性信息的情况也屡见不鲜，而尚处于世界观形成与身心发育关键时期的青少年不加过滤地接触极端言论、恶性刑事案件或明星团队恶意诋毁等类型的负面信息，也可能加剧焦虑抑郁情绪或引发模仿行为。算法推荐技术对未成年人网络权益的多重风险，本质上是技术局限、商业利益、规范力度与社会责任缺失等因素共同作用的结果，其无法通过单一维度的归因得以阐释，需要深入解构技术逻辑、经济利益与规范治理体系等不同因素的综合作用机制。首先，算法黑箱的技术局限与制度庇护滋生了算法推荐的系统性风险。算法黑箱有技术性黑箱与制度性黑箱之分。对于技术性黑箱而言，由于算法推荐机制是基于海量数据训练形成的决策逻辑，这使得内容推荐的运作路径难以被完全追溯。例如，某短视频平台虽可能为未成年用户设置了“暴力”“低俗”等关键词过滤规则，但算法对图像、语音等多模态数据的自主关联学习仍会将部分过滤内容归类为“生活技巧”推送给未成年用户。这种技术性黑箱导致平台即便有治理意愿，也难以彻底规避算法偏差。更深层的矛盾在于制度性黑箱，平台往往主张算法应作为“商业秘密”得到制度性的排他保护，并以此为由拒绝公开算法运作逻辑，规避透明度及可解释性义务。其次，资本逻辑主导下的价值冲突加剧了算法推荐的风险裂变。对未成年人身心健康的保护，本应置于平台的利润追求之前，予以优先重视，但平台从商业利益出发，甚至会刻意强化针对未成年用户的成瘾性设计，以实现用户留存最大化的目标。由此，青少年用户的身体和行为信息极易被异化为一种“生物资本”，青少年用户也就相应地沦为逐利场中“可计算的人”。更深层次地看，这种资本主导下的价值异化也容易排斥教育、科普等低商业价值内容的推送，转而加大对电子游戏、短剧、艺人八卦等高商业价值内容的投放。除此之外，算法伦理建设滞后于技术创新，亦是不可忽视的因素之一。“算法的价值观就是人的价值观”，算法工程师仅将“暴力”“低俗”等形式化的标签内容纳入算法的过滤范围，但对技术伦理方面的考虑相对有限，未能将未成年人网络权益保护、社会主义核心价值观引导等关乎技术与社会和谐发展的长远要求纳入核心设计逻辑。最后，现有相关法律规范的适用逻辑未予充分厘清。围绕算法推荐技术治理与未成年人网络权益保护问题，虽然我国已经陆续出台一系列法律法规及司法解释，但由于其中的部分条文规定较为笼统和模糊，导致实际落地存在困难。例如，“国家支持研究开发有利于未成年人健康成长的网络产品和服务”等相关规定，虽具有重要的宣示性意义，但却并未具体明确政府、平台的责任与未成年用户的网络权利。算法推荐对未成年人网络权益的侵蚀背后存在多维复杂成因，依托《未成年人网络保护条例》《规定》等现有算法规范，应着力构建技术突破、社会协同与法律规制有机联动的协同治理机制，以求在技术红利与青少年发展权的价值张力间建立“算法向上向善”的可持续发展范式。第一，要敦促平台自觉肩负行业责任，优化技术治理路径。“清朗·网络平台算法典型问题治理”专项行动对此已作出具有启发性的指引。首先，平台应完善算法推荐机制下的防沉迷技术性措施。基于算法推荐本身精准反馈与易沉迷的机制特点，平台企业应在短视频、网络直播、网络社交等领域嵌入有效的未成年人识别机制，通过面部、声纹等生理特征与浏览速度、关注内容等行为分析，在准确识别身份的基础上限制使用时长，以抵销算法推荐的成瘾性所带来的不利影响。其次，平台应在技术上保障算法推荐信息的合法性、合规性，并满足基本的内容推送质量要求。具体而言，平台一方面应依照《规定》第九条的要求，加大对算法生成合成信息、违法和不良信息的技术性审查及过滤力度，及时发现有害信息并予以处理，及时发现算法生成合成信息并予以显著标识；另一方面也应通过技术性设计，提高推送内容的多样性，避免狭隘地将点击率和浏览时长等作为信息投放的单一指标，针对未成年用户的兴趣方向保留特定比例的知识型内容投放，以防止信息过度同质化和低质化倾向。最后，平台应在技术上保障未成年用户关于算法推荐服务的知情权和自主选择权。《规定》第十条已经规定了算法推荐服务提供者不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。在此基础上，可考虑要求平台提供针对用于内容推送的个人兴趣标签的编辑功能，便于未成年用户及其监护人自主选择兴趣领域。同时，也可为平台设定针对未成年用户默认关闭算法推荐服务的义务，或提供易于未成年人发现的关闭入口及易于操作的关闭流程，以保障其自主选择是否使用个性化推荐服务的权利。第二，要激活家庭、学校、行业等方面的协同力量，构筑未成年人网络权益保护的社会屏障。只有在家庭理解监护责任、学校承担教育使命、行业恪守价值底线的基础上，未成年人网络权益才能真正实现从被动防御到主动保护的范式转型。首先，家庭作为影响未成年人网络行为的第一道防线，需在数字时代相对应地提升监护能力。监护人应主动介入算法推荐环境的管理，通过掌握基础设置工具——如内容过滤设置方法、使用时长设置方法、推荐服务关闭设置方法、兴趣标签编辑方法等，建立与未成年人数字成长需求相匹配的监护模式，实现从被动应对到主动引导的角色转变。其次，学校可考虑在基础教育阶段开设网络素养通识课程，重点解构算法推荐的技术逻辑与社会影响，以及“信息茧房”的生成机制、流量经济的运作规律等，进而超越过去单纯“防沉迷”的工具性教育思维，引导青少年建立对算法操纵的警惕性与防护能力。高等教育机构则应对计算机相关专业的学生加强算法伦理教育，确保未来的技术人员具备良好的未成年人网络权益保护意识，从人才源头植入“算法向上向善”的价值基因。最后，互联网行业组织应加强行业自律，考虑将未成年人网络权益及发展权保护作为制定相关行业规范或行业标准的理念指引，推动形成“底线合规+伦理引领”的行业治理范式。第三，要完善算法推荐技术的事前治理体系，强化算法权力的制度约束。对于未成年人网络权益保护而言，除压实事后问责机制，必要时对未妥当履行算法相关义务的平台施以行政乃至刑事处罚以外，算法透明、算法备案、算法评估等事前治理措施也应进一步完善。首先，需用好算法透明这一破解黑箱的利器。可考虑对推荐算法在涉及未成年用户时实施强制透明度及可解释性标准，即要求平台针对推荐算法中涉及未成年人网络权益保护的部分，如青少年防沉迷机制、知识型内容加强推荐机制、青少年不宜内容的过滤机制等功能，以一般人可理解的方式（如简明的自然语言、可视化图表等）向用户公示与之相关的基本原理及依据。其次，作为算法透明义务的重要延伸和履行途径，《规定》第二十四条所确立的算法备案制度也是我国算法监管体系的核心内容之一，应予以有效落实。为平衡商业秘密保护和公共利益需求，前述条文将备案的主体范围限定在“具有舆论属性或者社会动员能力的算法推荐服务提供者”。在此基础上，为强化针对未成年人网络权益的事前保护，应考虑将以未成年人为主要或重要服务对象的算法推荐服务提供者，如电子游戏资讯平台、网络直播平台、短视频平台等也纳入应履行备案义务的主体范围，以使监管机构利用最少成本获得平台准确清晰的训练数据、权重参数等核心技术性信息，并消弭算法透明引发的知识产权和商业秘密争议。最后，算法影响评估制度作为当前算法治理的重要工具，亦应在实践中得到充分重视。应以《规定》第八条所确立的算法评估规则为基础，在覆盖算法设计、部署、运营的全流程中就针对未成年用户的推荐算法开展严格的评估审查，覆盖输入数据的合法性、必要性，以及输出结果的目的正当性、内容质量、对未成年人身心健康与发展权的现实影响等多重因素。技术、社会与法律维度的协同治理，本质上是重构算法时代的权力制衡体系的过程。当平台的技术力匹配社会责任，法律的强制力穿透算法黑箱，社会的监督力填补防护“缝隙”，未成年人方能在数字世界中获得自由而健康的成长空间。这不仅需要制度设计的智慧，更考验着整个社会对下一代发展权的集体担当。
作者：郭旨龙系中国政法大学网络法学研究所教授；王小源工作学习单位为中国政法大学刑事司法学院
来源：《中国网信》2025年第11期
责任编辑：赵满同
暂无评论