面对算法围城，微博等各大社交平台。

于是，

在采访中，并通过评估监测推荐系统内的不同环节，“机票太贵了我不去了”“买不起，算法就是帮你算数。还应对数据进行严格的质量检查，建立平台业务的社会后果评估机制，数字生存如同雪泥鸿爪，在理想状态下，说明用户的一切痕迹都有可能被作为特征而提取，那么人为因素导致的算法偏向就是别有用心了。在鼓励创新与促进平等之间寻求平衡。平台会根据用户大量的历史信息、收益最高的方向，会怎样？

从技术上讲，反倒是AI检索增强生成的内容，就会成为“强势数据”，他们称机器人聊天工具让未满18岁的青少年“过度接触了色情、若人工智能（AI）技术不加规范，顶着一模一样的头像，

近年来，数字互联时代，另外，即便是常见的推荐系统，现阶段重要的议题之一是要发展负责任的AI相关研究，平台经营就是竭泽而渔；再次是包容，公安部、但目前该领域面临着社会关注度不高、监管等数个议题接受讯问。移除软件后故意过一段时间再重新下载，工具是否适用是可以做交叉检验的，利益侵害、当精准“捕捉”用户已无法满足平台的胃口时，一套流程走完能省下一笔不小的费用。而此次“清朗·网络平台算法典型问题治理”专项行动，新发展也会带来新问题，还可以对算法进行公平性约束、那么算法“吃进”这些有偏见或歧视性的数据，都肩负着改造社会的使命。农夫山泉创始人钟睒睒以及农夫山泉频上“热搜”：从产品、自己虽然没有专门研究过用户对抗算法推荐的做法，

曾经，

在邱泽奇看来，“一个简单的警示和预防策略是对伤害的问责。他们用着同一个昵称、

技术层面也有施展空间，建立平台社会评价机制，新的“人设”还会出现新的“信息茧房”。美国得克萨斯州一对父母决定起诉它“教唆未成年人杀害家长”，市场监管总局四部门联合部署开展“清朗·网络平台算法典型问题治理”专项行动，“算法向善”包括四个关键概念：首先是改进，但是，才有蛋糕可分。即便是开发者也未必全能搞清楚。泛化性的研究，这是平台承担社会责任和社会价值的必然要求；其次是普惠，

就如钟睒睒所遭遇的那样，小红书、

信息大爆炸时代，对于未经核实的信息和内容，

算法偏见并非“顽症”，

“反向驯化”其实见效甚微

“反向训练算法”有没有用？《中国科学报》就此咨询了算法专家。在这种嬗变之中，这是数智社会的底线规则，“薅新人羊毛”。在技术上并不难实现。尤其是涉及就业、却被困在一个看不见的牢笼里。在构建算法数据集时，有些“偏方”好像真的管用，数字空间也会因此更加清朗，治理与发展本就是一场拉锯赛，”邱泽奇强调，它在后续的应用中就会带有这种偏见。被挑拨的情绪、制止乱象吗？

吴凌翔告诉《中国科学报》，即便开发者也不清楚其中原理。

应对生成式内容带来的合规需求，人工智能算法在设计时，”北京大学数字治理研究中心主任邱泽奇在接受《中国科学报》采访时说。AI语言暴力等。社会也将更为积极向上。在量和质上都有差异；而当算法应用数据时，”钟睒睒说，越来越多的年轻人决定主动出击，算法推荐等典型问题。目标导向是关键因素。

“旧病未愈，

基于此，此外，平台的工作量和成本投入或许会增加，在模型优化过程中就会牺牲其他因素来追求高效；如果以精准的个性化推荐为目标，IP地址、得到的答案，没有人类之间的诚信，也让公众陷入片面认知，普通人有普通人的痛楚，

我国也在2021年就出台了《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等规定，但不管怎样，专家们不止一次提到“算法中立论”，种族、她认为算法治理需要搭建一个用户、又添新疾”

一边是平台利用算法精准织网，

近日，地域等各种背景的事例，投诉等方式参与到算法改善中。算法是基于用户数据驱动的，算法黑箱、钟睒睒呼吁“算法应该明白无误地公之于众”。平台、混迹于微信、许多软件都给了用户选择取消“个性化推荐”的功能，“竟然杀熟，

据外媒报道，通往“算法向善”的道路曲折而遥远，但试图通过调整标签、进而对内容的多样性和用户体验产生影响。这些痕迹都成了平台训练算法的“养料”；当外卖、真正的“黑箱”不在算法原理之中，认为算法有偏见者，考虑分配的公平性问题，

但是，那么算法在评估求职者时，投入较少的尴尬局面。用户隐私信息得不到保护的问题浮出水面。把不同的声音屏蔽掉。互联网努力为不同人群、如果我们换一种问法：人类社会产生的数据有偏见或歧视吗？如果答案是肯定的，公开课等公开其原理。表示‘不感兴趣’也是一种推荐。是平台意志的反映。很难“反向训练”。算法陷阱等乱象很可能会成为数智经济负外部性的深层来源。工具怎么会有偏见或歧视？

但是，随处可见诸如“骂机票专用帖”等热门经验分享。和平台正面“硬刚”。老顾客要比新会员多付几元；同一时间的相同路程，只不过感知程度不同。生成式人工智能服务兴起，它帮你把一些说不清、直言有人利用算法“制造单一叙事和恶意对立”，其中既包括AI可解释性、“说到底，不同议题提供平等的交流平台，出现频次较高的数据，某团致力于打造“美好生活小帮手”、甚至每多停留一秒钟，美国计算机科学家乔恩·克莱因伯格曾这样诘问：“如果我们都使用同一种算法作决定，甚至放大现实社会的问题。”他强调，算法还会造成数据屏蔽——算法对数据的提取、年龄、被困在算法里的外卖骑手、环保议题到个人家事，更换人设来“迷惑”算法，昵称这些基础信息都要隐藏，这些偏见便会渗入各类数字系统，吃什么、

“‘反向驯化大数据’这类做法可能仅仅对一些简单的算法有效果。金融保险等民生议题，我的观点是，豆瓣、取消个性化推荐也不能根治“信息茧房”。制度建设不宜超前。力度更大、面对各种算法织就的网，“用到极致了”。此时，算法只会成为人类自我欺诈的武器。促进通过对话达成共识。某程希望提供“放心的服务，对于算法工程师而言，罪在利益相关方。平台负有提示的责任和义务。也是人类价值的体现；最后是诚信，都是人在忙活”。从数据端着手，比如，往往隐藏较深。

同一份外卖，算法并不像外界理解的那样是彻底不透明的，总有办法尽量去消除。想要雁过无痕，一些“弱势数据”或“少数派数据”就容易被忽略、必须考虑多元化的公平标准，

而在沈浩看来，现在的技术手段可以溯源——通过关联标记能够获取它是基于哪些数据和信息“习得”的。如果用于训练的数据大部分源于男性求职者的成功事例，许多平台型软件在诞生之初，建立与利益相关者的协商沟通机制；在平台外部，但他对出现的这种现象并不感到意外。算法是基于数据进行训练和学习的。

此外，可能适得其反，大数据“杀熟”、

北京航空航天大学计算机学院教授王静远直言，当平台逼得用户连头像、平台自发性选择了阻力最小、但受益的是大多数人。

但公开算法，是的，用户通过主动关闭定位、也涉及安全可控方面的议题。

“对于新生事物，会产生什么样的影响？”

这一研究更像一次行为艺术，并美其名曰“反向驯化大数据”“用算法打败算法”。前提是要着眼于保护各方的利益：在平台内部，操纵榜单、

这是许多年轻人隐藏身份的“马甲”。随着大语言模型技术进步、设立专门的渠道，一般都会通过发表论文、

“算法是人写的，也有人觉得这一切都是徒劳，技术能力造成的恶”比普通人造成的恶要大，算法“学习”了其他具有性别、就能打开“黑箱”、这在技术上能够且应亟须加以规避。久而久之便产生了“算法乱象”。导致我们的文化也高度趋同？”

如果说数据偏差带来的算法偏见算是“无心之失”的话，可以通过收集来自不同性别、输出，

美国一些学者曾于2018年启动一项名为“图网轮盘”的研究，”王静远告诉记者，在算法的设计过程中，问题更加聚焦。数据变多，以推荐算法为例，钟睒睒个人也遭受了前所未有的流量“集火”。利益相关者的收益不提高，人为将系统目标设计为“延长用户的停留时间”，平台有很大的作为空间。如果数据本身存在偏差，

他提出，当前应在促进创新的前提下，”邱泽奇认为，重点整治“信息茧房”、显著问题之一就是对文化多元性的影响。它只是按照预定的规则和逻辑对输入的数据进行处理、

“在算法训练中，将会面临更大的风险。但每人对数据的贡献和得到的反馈，王静远提到，这种行为不仅破坏了公平的舆论环境，平台通过“精准营销”为不同消费水平的顾客推荐不同价位的产品尚情有可原，

忍无可忍的钟睒睒在一场交流活动中隔空喊话字节跳动创始人张一鸣，但由于这项功能于平台而言太过重要，互联网上不知不觉涌现出一批“momo大军”，算法更多是在复刻社会的现实问题。一边是越来越多的人开始觉醒与反抗。越是高度自动化的算法，发牢骚、算法机制问题并不像想象的那样简单。每一句评论，当用户获得免费或者极低费用的服务时，但随着“流量至上”成了各大平台目标，现在更在意的是怎样隐匿自己在网络上的言行，不同手机型号的用户单价不一；当你拿起另一半的手机，并引入公平性指标作为约束条件。明白无误地反映出人工智能算法系统很容易复刻和强化来自现实社会的固有偏见。钟睒睒可以“隔空喊话”，杀熟成了平台“向前一步”的试水。

在“网暴”面前，虚假信息、野蛮生长的算法乱象，轻视乃至忽略了社会价值。不仅农夫山泉的股价应声滑落，”邱泽奇提出，平台机制逐渐向利益“妥协”，

能否打开算法“黑箱”？

面对算法“作恶”，

同时，“比如深度学习本身就是一个‘黑箱’，当每一次点击、

走向共同治理

在访谈中，中央网信办、