你有没有读过一条新闻，同样的新闻不断回来？ 浏览一个产品，产品广告就会随之而来; 甚至，当你不经意间谈论某个话题时，相关信息会接踵而至，你的手机似乎在记录你的言行......一直以来这一切都不是巧合，而是“算法”计算的结果。
因为有了“计算”，用户获取信息的成本大大降低，网络服务更加精准高效。 然而，越来越多的用户担心被“算计”，越来越关注“信息茧”、“大数据杀”、“诱发成瘾”等问题。 “不要让'算法'变成'计算'”成为网友们的共同呼声。
痛点
“流量优先”导致混乱
最近，北京市民王岚遇到了一件荒谬的事情：儿子瑞瑞还不到10岁，手机却频频收到各种相亲信息。 归根结底，原来是儿子前几天误打相偶广告。 这让王岚感到担忧：“互联网上对用户信息的收集已经达到了普遍的程度。 ”
大学生宋凡最近拿了一个阅读软件。 打开后，一个标有“您可能感兴趣”的**被推送到界面。 “那不是我最喜欢的作家吗？ 他点开链接，一看已经一个多小时了。 看完后，系统推荐了这个**“额外”。 不知不觉中，他连续“刷”了几个小时，甚至忘了写老师布置的题目。
这就是“算法”的用武之地。杭州一家互联网公司的算法工程师向阳说，“手机软件可以随时抓取用户数据，通过智能模型分析人们的行为、习惯和偏好，过滤掉用户不感兴趣的内容，推荐用户感兴趣的信息。 ”
他透露，对于一些商业平台来说，使用“算法”的主要目的是为了增加流量和增加收入，而推送的信息是优质还是劣质，是否会带来网络成瘾等问题都没有考虑。 “就像孩子喜欢吃糖一样，有些商家只想把尽可能多的糖卖给孩子，会不会影响他们的健康，不是他们关心的。 ”
这种“流量优先”的经营逻辑，促使一些网络平台频频借助“算法”推送用户感兴趣的同质化内容，更糟糕的是，用抢眼的劣质低俗内容取悦用户。 随着时间的流逝，用户接收到的信息范围会越来越窄，渠道会变得单一，从而陷入通常所说的“信息茧”。
除了“信息茧”，还有经常被诟病的“算法歧视”。 所谓“算法歧视”，是指在设计和应用“算法”的设计和应用中，因偏见、歧视性数据集或其他因素而造成的“不公平结果”。
住在石家庄的刘女士在北京有一个大学孩子，每次去北京看望孩子，她都住在学校旁边的一家酒店里。 今年年初，她通过手机APP订了房间，**每晚近800元。 但当她入住时，发现有房客订的房型相同，**只有600元。 经过对比，两人在同一款手机软件上看到的**是完全不同的。
我还是这家酒店的白金卡客户，但非但没有享受折扣，反而被“屠杀”了，我的孩子告诉我，这叫“大数据杀戮”！ ”
“大数据杀伤”是“算法歧视”的表现之一。 它指的是平台利用“算法”进行用户“画像”，如果用户已经是老客户，就不再需要低价吸引，同时平台可以通过收集消费数据来检测用户的消费能力，从而“瞄准”**水平。 向阳表示，“算法歧视”曾经非常流行，买机票、网约车甚至网购，都会被“大数据扼杀”，随后相关部门强力监管，这种现象已经受到限制，但行业内仍然存在不同程度的现象。
困难
“算法”违规不容易判断
有网友得出结论，“算法”推荐的劣质信息有三个特点：真假难辨、缺乏深度、价值取向混乱。 不少人认为，“价值导向的混淆”是规范“算法”的最大难点。
王军是个自以为是的人，最近计划写一篇“年轻人该啃老”题的文章。 当他打开手机搜索这个话题时，发现大部分网友都不支持年轻人啃老人，这与他的观点非常吻合。
没想到，一位同事告诉他，现在大多数年轻人都认为，“啃老没有问题，生活就是要享受的！ 这让王军大吃一惊，他的同事把手机拿到王军眼前：“你看，屏幕上满是支持啃老的视图。 而当王军也把自己的手机页面给同事们看的时候，两人也只能面面相觑。
确定用户的价值取向并不难，评估的方式也有很多种。 例如，抓取用户在某个话题上的停留时间，分析消息是正面的还是负面的，统计用户的点赞记录，都可以用来判断用户的观点，然后根据“内容相似度”和“用户相似度”向页面推荐最受认可的内容。 向阳进一步解释道，“算法”在一定程度上起到了“编辑”内容的作用，推不推、推给谁、推多少都是预设程序，有最终决定权。
近年来，针对“算法”引发的混乱，监管部门采取多重措施，通过访谈、处罚、整改、下架等方式，大力净化网络氛围。 然而，如何通过“算法”有效地倡导正确定位的信息仍然是一个有待解决的命题。
向阳表示，虽然“算法”作为一项技术是中立的，但其模型设计和数据分析与设计师的个人选择密不可分，其主观意识会在不知不觉中嵌入到“算法”系统中。 同时，由于“算法”的设计具有较高的技术门槛，其设计过程就像一个黑匣子，外界难以理解其原理和逻辑，因此也很难确定“算法”所体现的方位。
襄阳的说法不断被现实所证实。 由于大多数“算法”设计者不会公开计算的细节，即使他们公开了，也很难准确确定。 由于缺乏专业技术知识，当用户的权益受到损害时，依靠最高级别的成本更高。 由“算法”引发的多起诉讼，均未产生令人满意的处罚结果。
作为一种商业秘密和技术秘密，“算法”推荐的申请过程往往涉及社会利益和公共利益，如何平衡和把握“算法”推荐的法律监管边界是一大难题。 北京大学法学院副院长薛军认为，从司法和行政概念上看，有必要将“算法”作为“算法”操作者行为的延伸。 无论经营者是否有过错，是否存在行政违法行为等，“算法”因素都应纳入问责范围。
重点
内聚力标准化了“算法”。
随着公众对“算法”的持续关注，加强对“算法”监管的呼声也越来越高。 调查显示，超过70%的受访者表示曾被“算法”推荐服务困扰，超过60%的受访者认为“大数据杀人”在他们的生活中很常见。 绝大多数用户认为，“算法”推荐技术存在窥探和泄露用户个人隐私的重大风险。 滥用“算法”侵犯了消费者的知情权、选择权和个人信息权，也对网络空间的通信秩序产生了负面影响。
在这种情况下，一些用户希望关闭“算法”推荐功能，并停止与平台共享个人信息。 在相关部门的监督下，各大网络平台纷纷推出关闭“算法”推荐功能，将是否收集用户偏好的选择权交还给用户。
但是，存在诸如难以关闭平台上的个性化推荐等问题。 上海市消费者保护委员会对消费者常用的10款移动APP进行了为期8个月的专项评估，结果显示，关闭个性化推荐需要多达7个步骤。
记者登录了几家顶级主流手机软件，目前关闭“算法”推荐功能的方式主要是通过“个人设置”。 操作步骤与以往调查结果一致，大部分仍需5-7个步骤。 记者随机采访了20位手机用户，大部分用户表示不知道手机软件也有关闭“算法”推荐的功能，只有1位用户知道该功能，知道具体操作。
这种现象反映了行业的矛盾心理，不希望用户大规模关闭“算法”，并意识到只有监管才能是长期的。 向阳说，标准化“算法”需要社会各界共同努力，找到最大的公约数。
有效管理“算法”的混乱是构建安全清晰的网络生态系统的必然要求。 中国政法大学副教授郑宇双表示，要完善“算法”的法律监管模式，解决“算法”的法律监管问题，实现算法的善治。
至于使用“算法”是否会产生不良后果，有必要建立社会评价机制，进行持续的跟踪研究。 如果社会审查机制有充分的理由确定使用特定“算法”导致了不利后果，则应启动问责机制，并要求相应的“算法”操作者进行解释和解释并进行优化。 ”薛军建议道。