原标题:《互联网信息服务算法推荐管理规定》明日起正式施行
国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》,将于明天(3月1日)起正式施行。对于普通用户而言,算法摸不着也看不懂,却在广泛影响着我们通过各种平台获取互联网信息服务。
算法无处不在 滥用问题不断
算法推荐技术通过抓取用户日常的使用数据,分析得出人们的行为、习惯和喜好,进而精准化地提供信息、娱乐、消费等各类服务。提供便利的同时,近年来,“大数据杀熟”、流量造假、诱导沉迷等不合理应用也给我们的生活带来烦恼。由北京大学互联网发展研究中心与互联网公司联合发布的《中国大安全感知报告(2021)》显示,有七成受访者感到算法能获取自己的喜好、兴趣从而“算计”自己,近五成受访者表示在算法束缚下想要逃离网络、远离手机。
中国信息安全研究院副院长 左晓栋:这些服务的推送是网络服务提供者给我们定制的,那么定制就容易产生滥用,轻则损害我们个人的权益,严重的就会危害国家安全,因此算法推荐必须要进行规范。
《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。各类提供算法推荐服务的互联网公司几乎都在监管范围内,如各类短视频平台、电商平台、社交平台及餐饮外卖平台等。
为了打破算法摸不着也看不懂的“黑箱”,《规定》明确要求保障用户的算法知情权和算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。
《规定》要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,建立完善人工干预和用户自主选择机制,不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。
不得实施差别待遇 剑指大数据“杀熟”
近年来,一些企业利用个人信息搞大数据“杀熟”,对不同群体进行差别定价,实行“价格歧视”,让消费者十分反感。对此,《规定》又将如何破解呢?
浙江绍兴的胡女士通过某商旅平台定购了一家酒店房间,结账时发现,通过平台支付的房费比酒店实际房价高近一倍,而她是该商旅平台的高级会员,本该享受8.5折优惠。胡女士怀疑商旅平台通过她此前的消费行为,存在“大数据杀熟”的行为,将商旅平台告上法庭。去年7月,法院一审对原告退一赔三的请求予以准许。这起案件被众多媒体称为“大数据杀熟”第一案。
同样的送餐时间、地点、订单、外卖平台,会员却比非会员多付钱;同时同地打同类型车到同一目的地,某打车平台曾被用户发现熟客反而收费更高,类似的消费投诉多有发生。对此,《规定》提出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
中国信息安全研究院副院长 左晓栋:有的平台就会说,这个算法是我的知识产权,是我的商业秘密,我不能公开,这些说辞都不能成立了,平台的算法要保证必要的透明性。
专家强调,《规定》还明确保障用户的选择权、删除权等权益。通过向用户提供不针对其个人特征的选项,或向用户提供便捷的关闭算法推荐服务的选项,并提供选择或删除针对其个人特征的用户标签的功能,避免消费者被算法“算计”。
保护劳动者合法权益 避免被算法所“困”
此外,在《管理规定》中要求,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,相关情况,再来了解一下。
2020年9月,一篇名为《外卖骑手,困在系统里》的文章备受关注。文章描述了在外卖平台系统的算法与数据驱动下,外卖骑手的配送时间不断被压缩,而骑手在强大的系统驱动下,为避免差评、维持收入,不得不在现实中选择逆行、闯红灯等做法。不少外卖骑手表示,几十层的高层楼宇,电梯一等就是十几分钟甚至更长,但这样的客观情况,并没有被“算法系统”考虑进去。
清华大学人工智能国际治理研究院副院长 梁正:由于机器还在发展阶段,针对一些劳动工作场景,把决定权力交给机器,有很大的潜藏的公平性、可靠性的风险。
互联网平台优化算法主要通过大数据分析算法模型计算出业务经营的最佳策略,与此同时,与算法相配合的还有一整套严格的绩效考核机制,一旦违背部分算法规则,则会在考核中失去“优势”,并可能带来了一些恶性应对行为。对此《规定》专门提出,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。