2024年11月以来，落实中央网信办等四部门联合部署要求，上海市委网信办会同市通管局、市公安局、市市场监管局推进开展“清朗浦江·网络平台算法典型问题治理”专项行动。为巩固专项治理成果，加强业务合规指导，近期上海市委网信办会同上海互联网应急中心编写了《上海属地网络平台算法治理合规指引（试行）》（下称《指引》），并于2025年4月1日起正式实施。
《指引》共七章，分为十七条细则，在兴趣管理、推荐内容、加强特殊群体权益保护等方面均作出引导提示。
《指引》围绕个性化推荐、热搜榜单、调度决策等算法场景，对“信息茧房”、违规操纵热搜榜单、骑手“困在”算法里、大数据“杀熟”等社会关注度高的算法典型问题，对属地网络平台提出16条合规要求，强调要坚持算法导向正确、公平公正、公开透明、自主可控、责任落实原则，促进算法应用向上向善，保障用户合法权益。
兴趣管理自主化、推荐内容清朗化
在个性化推荐场景方面，《指引》着重强调，要保障用户的自主选择权和体验。《指引》提出，用户应能便捷关闭个性化推荐，关闭后平台不得静默开启或频繁打扰。同时，平台需提供完善的兴趣标签管理，注册时不得强制用户选择标签，并且要不断完善“不感兴趣”等负反馈功能，细化多维度反馈选项。
澎湃新闻了解到，近日，在网信部门指导下，小红书、哔哩哔哩上新“一键破茧”功能，通过图表向用户直观展示目前浏览内容的“信息茧房”程度，同时支持用户自主调节个性化推荐的内容偏好。
《指引》明确要求平台推荐内容清朗化。要积极利用算法技术，推动平台内容生态治理。不一味以用户偏好为导向，要在算法推荐中引入“账号信用分”“作品质量分”等类似正向指标，提高内容合规指标比重。从算法分发源头，加大优质内容、作者的流量倾斜，完善违规信息特征库，抑制不良信息出现频率。
同时，《指引》提出，使用消费者信息时要做减法。不得以个性化推荐为名过度收集超出算法本身功能必要范围的用户个人信息，如设备价格、收入水平等；商品或服务定价不得使用不合理的与用户特征相关因素，包括年龄、性别、浏览记录、消费水平、设备类型等。优惠促销活动要明确说明优惠规则，如适用范围、参与条件、用户身份限制等，不得包含歧视性条件，如购买能力等。
算法应用向上向善，加强特殊群体权益保护
《指引》要求，网络平台提供算法相关服务，要坚持算法导向正确、公平公正、公开透明、自主可控、责任落实原则，促进算法应用向上向善，保障用户合法权益。
澎湃新闻注意到，在特殊群体权益保护方面，《指引》要求健全涉未成年人内容审核机制，完善未成年人模式，不得向未成年人用户推送侵害其身心健康的网络信息，不得设置诱导未成年人用户沉迷、过度消费等的算法模型。持续优化面向老年人的算法推荐服务，减少向老年人推送保健产品、老年人用品和金融产品等营销信息，不推送不实新闻、反科学、封建迷信等容易引发恐慌情绪的内容。
同时，《指引》还载明，要对生成合成内容进行显著标识，提升生成合成信息检测识别能力，及时发现处理违法违规生成合成信息。要在生成合成类内容的用户发布流程中，通过必选项等方式显著要求用户选择标识。要建立完善兼顾用户体验和安全可靠的模型评价体系，不能过度依赖用户互动反馈和停留时长等业务标准。模型训练数据覆盖类别要全面、价值观要对齐。
此外，要健全算法透明公示机制，主要算法“应备尽备”。备案算法要在其对外提供服务的网站、应用程序的显著位置标明其备案编号及公示链接，要求在首页操作4步内可达。要建立算法沟通机制，线上要设置便捷的公众投诉举报入口，包括服务热线、举报邮箱等。
针对同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、利用算法实施大数据“杀熟”等典型问题，2024年11月，中央网信办、工信部、公安部、国家市场监督管理总局启动“清朗·网络平台算法典型问题治理”专项行动。
2024年底，为指导平台进一步定位问题、落实整改措施，上海市委网信办联合相关部门召开算法治理合规指导会。针对相关问题，上海市委网信办要求网站平台落实算法治理主体责任，结合专项行动重点任务举一反三自查整改，进一步引导算法应用公平公正、透明可释，充分保障网民合法权益。此后，属地网站平台积极行动，加强算法功能迭代升级，推出多项创新举措，进一步保障网民合法权益。
2025年初，在上海市委网信办指导下，小红书、得物、喜马拉雅、哔哩哔哩、拼多多等多家网站平台陆续发布“清朗浦江·网络平台算法典型问题治理”专项行动治理公告，并公布网民投诉举报反馈渠道，表态主动接受社会监督，将根据网民反映的问题调整优化算法应用，促进算法应用向上向善。
兰州大学信息科学与工程学院副教授刘忻在接受媒体采访时表示，算法作为一种工具，其使用方向决定善恶，作为一系列代码的集合，它在某些领域属于核心资产，查看算法模型对执法者来说需要一定门槛，这是目前规范算法的薄弱环节之一。从技术角度看，需尽快完善大数据算法模型制定依据和检测办法；从管理角度看，需加强监管机制，明晰市场准入制度，让大数据走出技术“暗房”。
此次上海发布网络平台算法治理合规指引，有望进一步净化网络空间，提升用户体验，促进互联网行业的健康发展。
还没有评论，来说两句吧...