■ 中国妇女报全媒体记者 李雪婷
■ 戚梦颖
数字技术发展给世界经济带来巨大的改变，其中一个非常显著而重要的改变就是催生了平台经济。平台经济在带来巨大市场优势的同时，也带来了不少新的挑战，“大数据杀熟”“算法黑箱”等问题折射了算法正在成为社会治理的核心，对人们的衣食住行，生老病死乃至国家治理国际规则都产生了深远影响。算法在平台经济中为什么会发挥如何此重要的作用？我们应该如何认识引起热议的“大数据杀熟”问题？政府又该如何规范平台经济的行为？如何创新监管以保障数字经济的有序发展？近日，在“北大国发院承泽课堂·平台经济十二讲”系列直播课中，北京大学国家发展研究院教授、北大数字金融研究中心副主任沈艳表示，算法带来的利弊像是硬币的一体两面，我们不应妖魔化平台和算法。解决算法带来的问题，平台方要承担相应的社会责任，提高算法透明度，增加算法的可解释性。监管方则应积极推动算法审计等治理方式。
“数字之手”集优点和弊端于一体
在数字时代，人与机器之间、真实世界与线上世界之间都有着越来越多的融合。沈艳指出了平台经济的四大优势，包括：市场环境更透明，信息更易于自由流动；降低了搜寻成本，让生产者和需求者更容易匹配；降低了准入门槛，少一点的资金也可以做网商；在此基础上，数字平台的发展也带来技术突破和效率提升。
在数字时代，算法的使用意味着个体在用数据换取所谓的免费服务，人本身成为数字社会的新资源，人工定价转变为算法定价，头部平台在其中起到引领作用。掌握数据优势的企业不仅在已有行业有优势，也能在跨界并购中有优异的表现。
如今，无论是衣食住行，还是医疗、就业，甚至是司法审判领域，关于人的重要决定，已经越来越多由算法做出。算法在不知不觉中影响了我们的生活，相应也带来诸多新问题，大数据杀熟就是其中备受争议的现象。
沈艳对相关案例进行搜索，发现最早的报道出现于2000年9月，亚马逊依照电脑浏览器的个人特征信息以不同价格销售DVD产品。国内首次提出“大数据杀熟”的说法，起源于2017年底一则网友的爆料，他发现酒店预定平台给新人和常住客以不同酒店房价。
除大数据杀熟外，因用户不清楚算法如何输入输出等信息的算法黑箱、人们由于兴趣引导收获狭窄信息的茧房效应以及算法使用者因立场、能力而造成的算法不平等等也是大数据导致的另外三个问题。
不要高估算法的作用
沈艳认为，算法带来的诸多问题是由算法的特点导致的。
沈艳解释，其一，无论是聚类算法、文本分析或是图像识别，机器学习的方法重要在于“预测得准”，而非“为什么要这样预测”；
其二，“重视速度而非因果”，算法的可解释性较差。预测越准确的算法模型往往越复杂，涉及参数甚至上百万个。因此，得到结果时，技术人员也很难解释其中一个变量发挥着怎样的作用；
其三，算法在效率公平及有效性方面的作用被高估，对其负外部性评估不足，对人、对社会相关福利影响的评估不足。大数据的代表性、人工参与的参数设定的客观性都有待商榷，机器也缺少“关于未来的信息”以及专业知识等人类掌握更多的软信息，算法还存在只重视技术但是忽略对经济、金融或者行业相关领域专业知识掌握的问题。比如网络借贷的问题是因为算法忽略了金融规律。
其四，在平台经济发展过程中，算法一方面减少了部分信息不对称性，另一方面却可能制造着新的不对称。算法模型迭代更新快，不易形成稳定的预期。
在沈艳看来，人类往往高估算法的作用，忽略人在决策方面的长处。“人的决策有利有弊，但不应忽略人的作用，应恰当设立人辅助决策的救济措施，要更多地关注人和算法间的互动，把两者搭配好。”
算法审计有助于提升对平台的信任度
那么，究竟如何破解算法带来的问题？从认知和执行两个层面，沈艳提出了一些解决思路。
沈艳认为，各方都要认识到平台在数字经济发展中的重要作用，要对其当下问题的解决抱有信心。对于平台而言，因运营过程中为商家、消费者、劳动者制定的算法规则会影响他们的行为，平台也应深刻认识到自己所承担的一定的公权力。“算法通效率，但是不够通人性。”因此各方也要对算法相应的弊端有深刻的充分的认知。
基于这样的认知，沈艳建议平台从两个层面改善算法目前带来的问题。
首先，为了长期稳健发展，平台应考虑增加决策的可解释性。沈艳提到，2018年欧盟出台的《通用数据保护条例》已经对此作出规范，要求运用自动化算法的企业能够保证算法具有透明性和可解释性。这也就意味着，那些不可解释的模型，将成为非法应用。“如果想去欧洲发展业务的话，就要增强国际竞争力，研究怎样增加自己决策的可解释性。”
其次，要增加信息的透明度。心理学家卡尼曼的研究结果显示，消费者非常厌恶不公平。涉及价格差异时，消费者更能接受涨价的原因是成本增加而非需求增加。沈艳强调，多项研究表明，大数据时代的杀熟对于平台来说或许并非权宜之计。“弱势的消费者对于杀熟的厌恶，带给相关企业的负收益会超过优势消费者享受个性化定制所带来的正收益。长久来看，个性化定价可能会导致消费者对平台的信任度降低。”
与此相对的是，有实证研究表明，如果增加信息的透明度，那么消费者对于价格差异的接受度也会增加。
“尽量通过制定恰当的治理机制，通过机制实现取长补短。”沈艳认为，大数据杀熟等问题是平台提升服务过程中产生的副产品，在治理时不适合一刀切，更不应妖魔化。
因此，短期来看，监管部门要推动平台建立更清晰的规则，加大治理人为的信息不对称，将治理结果公之于众，让公众理解这些问题有着相应的投诉和处理机制。而从长期来看，增加可解释性与透明度，推动算法审计是非常关键和重要的一步。
沈艳解释：“算法审计就是指搜集算法在特定环境中使用时表现的数据，然后评估算法是否对某些利益产生负面影响，从而判断算法本身的好坏，是否需要做出相应的调整。”
沈艳表示，算法审计可以帮助判断算法是否合法合规，评估算法的透明度与可解释性，以及数据安全和信息保护等方面。她建议，国家需要建立相关部门，负责数据相关事务。“比如说数据审查委员会或者是小组。具有一定的公信力，同时鼓励市场有新的审计公司。”通过算法的审计帮助消费者、平台商家以及劳动者，能够对平台的实际状况有更多的认知，从而提升对平台的信任度。
