金融科(kē)技伦理(lǐ)治理(lǐ)推动数字金融有(yǒu)序发展
2022-02-17 13:37:14

全球数字化转型方兴未艾，新(xīn)冠疫情加速改变大众生活模式和经济运行方式，前沿科(kē)技蓬勃发展。基因工程、人工智能(néng)和机器人、纳米技术、增强现实、3D打印等新(xīn)兴技术在应用(yòng)中存在一定风险性和不确定性，并可(kě)能(néng)引发伦理(lǐ)问题。党的十九届四中全会提出健全科(kē)技伦理(lǐ)治理(lǐ)體(tǐ)制，十四五规划纲要也明确提出加强科(kē)技伦理(lǐ)建设。近期印发的《金融科(kē)技发展规划（2022—2025）》提出健全多(duō)方参与、协同共治的金融科(kē)技伦理(lǐ)规范體(tǐ)系。金融领域，新(xīn)技术应用(yòng)带来的风险伴随金融的外部性，已经产生金融服務(wù)的数字鸿沟、算法歧视等问题，金融科(kē)技伦理(lǐ)治理(lǐ)也成為(wèi)当前理(lǐ)论和政策研究关注的焦点。本文(wén)分(fēn)析了金融科(kē)技伦理(lǐ)治理(lǐ)涉及的主要领域，结合我國(guó)金融科(kē)技创新(xīn)发展现状和趋势，提出建立健全金融科(kē)技伦理(lǐ)治理(lǐ)评估和审查制度，充分(fēn)发挥行业自律与监管协同，采用(yòng)多(duō)元化工具以构建适应性金融科(kē)技治理(lǐ)體(tǐ)系等建议。

科(kē)技伦理(lǐ)治理(lǐ)：软约束还是硬制度？

科(kē)技与伦理(lǐ)，本属于彼此伴生的两套独立系统。科(kē)技极大地扩展了人类的行為(wèi)空间和方式，而伦理(lǐ)是对行為(wèi)的价值判断。然而，新(xīn)兴科(kē)技发展引发的伦理(lǐ)冲突日渐成為(wèi)科(kē)技治理(lǐ)中的焦点问题。科(kē)技发展遵循引进、渗透、权力化演进路径，随着技术融入社会的广度与深度不断增加，受技术影响的行為(wèi)选择范围越广、潜在的伦理(lǐ)问题就越多(duō)。新(xīn)技术融合性特征增强了技术变革不确定性，增大了技术发展至权力阶段的演进概率。新(xīn)兴科(kē)技具有(yǒu)推动社会剧烈变革的潜力，将引发大量价值冲突，如信息科(kē)技发展带来的交流便利与隐私侵犯的价值事实冲突、信息科(kē)技发展带来的文(wén)化多(duō)元与虚无主义之间的价值观念冲突等。科(kē)技伦理(lǐ)因素在科(kē)技系统中的作用(yòng)逐步扩展——从单纯作為(wèi)一种评价个體(tǐ)行為(wèi)的价值工具，已逐步演化為(wèi)重要的治理(lǐ)工具。科(kē)技伦理(lǐ)由哲學(xué)理(lǐ)论學(xué)科(kē)或概念发展為(wèi)一种治理(lǐ)机制，源于科(kē)技治理(lǐ)體(tǐ)制在科(kē)技与社会的持续互动中不断进行制度探索。科(kē)技伦理(lǐ)治理(lǐ)以解决伦理(lǐ)困境為(wèi)目标，对科(kē)技伦理(lǐ)的影响进行探寻与反思，為(wèi)个體(tǐ)行為(wèi)提供行為(wèi)指引。

科(kē)技伦理(lǐ)治理(lǐ)逐步发展成為(wèi)科(kē)技监管的重要考量。在新(xīn)兴科(kē)技治理(lǐ)中，提升科(kē)技治理(lǐ)工具对科(kē)技发展的适应能(néng)力成為(wèi)解决步伐匹配问题的有(yǒu)效路径。伦理(lǐ)學(xué)為(wèi)解决伦理(lǐ)冲突提供了重要理(lǐ)论工具，也成為(wèi)科(kē)技治理(lǐ)制度发展的重要转向。从实践来看，伦理(lǐ)治理(lǐ)的作用(yòng)从开始局限于科(kē)學(xué)體(tǐ)内部反思的非正式自我规制方式，逐步演进為(wèi)监管部门在科(kē)技监管政策中越来越多(duō)的考量因素，科(kē)技伦理(lǐ)从科(kē)學(xué)體(tǐ)内部小(xiǎo)范围反思逐步发展為(wèi)體(tǐ)系化治理(lǐ)。

科(kē)技伦理(lǐ)治理(lǐ)主要围绕探寻反思科(kē)技伦理(lǐ)影响和指引规范个體(tǐ)伦理(lǐ)行為(wèi)展开。一是开展科(kē)技伦理(lǐ)动态评估，增强社会对快速发展科(kē)技的掌控能(néng)力。科(kē)技伦理(lǐ)动态评估强调在科(kē)技创新(xīn)阶段嵌入伦理(lǐ)反思机制，激励专家、公众对科(kē)技发展可(kě)能(néng)方向与结果进行讨论，并将好的科(kē)技展望纳入科(kē)技产品设计中。在科(kē)技创新(xīn)过程中，对科(kē)技发展状态与伦理(lǐ)影响进行持续的阶段性审视，将好的理(lǐ)念纳入科(kē)技产品设计中；同时在厘清技术现状基础上，反思科(kē)技创新(xīn)与应用(yòng)引发的伦理(lǐ)问题，构建伦理(lǐ)冲突解决方案或提炼共识性伦理(lǐ)准则。二是科(kē)技伦理(lǐ)委员会和论坛机制。科(kē)技伦理(lǐ)反思的公共论坛一般由科(kē)技伦理(lǐ)委员会和监管部门共同主导，引导公众深入思考、理(lǐ)解科(kē)技伦理(lǐ)问题，并解决伦理(lǐ)冲突问题。三是提炼引导个體(tǐ)伦理(lǐ)反思的原则和理(lǐ)念，增强社会对科(kē)技发展整體(tǐ)向善的掌控力。伦理(lǐ)原则一般由國(guó)际组织、监管机关、行业协会、科(kē)技企业、研究机构编纂，通常以义務(wù)、结果、美德為(wèi)导向，对个人行為(wèi)提出增强社会福祉、尊重个體(tǐ)尊严、公正公平等要求。由于新(xīn)兴科(kē)技应用(yòng)极為(wèi)广泛，以及伦理(lǐ)的多(duō)元性、相对性特征，用(yòng)于个行為(wèi)指引的伦理(lǐ)原则都较為(wèi)抽象，如人工智能(néng)领域，主要伦理(lǐ)原则包括尊重人类自主性原则和防止损害原则。

科(kē)技伦理(lǐ)治理(lǐ)有(yǒu)别于法治逻辑，但也有(yǒu)法制化发展需要。科(kē)技创新(xīn)一般具有(yǒu)一定的风险性、二用(yòng)性、可(kě)能(néng)引起伦理(lǐ)问题等特征，其结果存在不确定；与法制针对事后结果判定存在不匹配性。但同时，伦理(lǐ)治理(lǐ)模式又(yòu)可(kě)以通过事前监测、事中评价和事后检查等流程进行健全与完善，伦理(lǐ)治理(lǐ)模式特征體(tǐ)现為(wèi)适应性治理(lǐ)与软法规制，有(yǒu)必要通过适度法制化路径，提升伦理(lǐ)治理(lǐ)效率。审慎使用(yòng)实體(tǐ)权利—义務(wù)规范方式规定伦理(lǐ)问题，推动法律通过规范程序方式促进伦理(lǐ)反思：建立法律规则、行政指引与自律规范相结合的多(duō)层次规范體(tǐ)系，完善风险交流机制与伦理(lǐ)共识达成机制，增强伦理(lǐ)原则执行力。我國(guó)已经组建國(guó)家科(kē)技伦理(lǐ)委员会，党的十九届四中全会、五中全会也均强调要健全科(kē)技伦理(lǐ)治理(lǐ)。然而，从科(kē)技治理(lǐ)现状来看，我國(guó)科(kē)技伦理(lǐ)治理(lǐ)的作用(yòng)仍然较弱，尚未建立相应的科(kē)技伦理(lǐ)治理(lǐ)工具。推动科(kē)技伦理(lǐ)治理(lǐ)法制化，通过法制规范能(néng)够提升我國(guó)科(kē)技伦理(lǐ)治理(lǐ)的效率和水平。

金融科(kē)技伦理(lǐ)治理(lǐ)：渐行渐近的科(kē)技监管？

近年来，金融科(kē)技的快速融合创新(xīn)发展极大拓展了金融服務(wù)覆盖范围，丰富了金融产品，激发了金融发展活力。但随着科(kē)技在经济社会各领域的应用(yòng)深度和广度不断拓展，也带来隐私保护、信息茧房效应、数字鸿沟、技术排斥、算法歧视、诱导过度借贷、隐私保护欠缺等伦理(lǐ)道德问题，引发全球关注。金融科(kē)技创新(xīn)应用(yòng)的核心技术主要包括云计算、大数据、人工智能(néng)、區(qū)块链、物(wù)联网等。其中大数据、人工智能(néng)应用(yòng)最為(wèi)广泛。智能(néng)风控、智能(néng)投顾、智能(néng)客服（机器人客服）等基于人工智能(néng)、大数据技术的金融应用(yòng)几乎已经成為(wèi)各金融机构的标配。而这些技术应用(yòng)本身就存在科(kē)技伦理(lǐ)治理(lǐ)问题，在金融领域应用(yòng)和资金的结合，其负面的影响更加明显。

人工智能(néng)技术在金融领域应用(yòng)的伦理(lǐ)问题最為(wèi)凸显。一是智能(néng)算法可(kě)能(néng)产生算法黑箱、算法歧视等问题，可(kě)能(néng)产生信贷供给歧视，存在诱导过度借贷等伦理(lǐ)问题，应对不当可(kě)能(néng)影响金融稳定和安全。需要进一步深入了解算法的精准性和性能(néng)，主动披露算法的运行逻辑和潜在风险，确保算法的可(kě)解释性、可(kě)把握性、可(kě)审计性。二是机器人客服潜藏着难以预估的风险。2017年机器人索菲亚（Sophia）在沙特阿拉伯成為(wèi)史上首个获得公民(mín)身份的机器人，随之而来的问题是：“她”是否和人类一样具有(yǒu)法律身份和公民(mín)资格？如果将来索菲亚触犯法律，接受惩罚的是设计者、制造者，还是索菲亚自己？机器人客服在金融领域主要是语音机器人和智能(néng)大堂经理(lǐ)两种，未来和客户之间产生的纠纷责任主體(tǐ)确定、机器人算法黑盒带来的风险不确定性尚难评估。

金融大数据应用(yòng)带来隐私保护和数字鸿沟难题。大数据技术在给金融领域带来积极变化的同时，也导致透明社会的到来，从而产生了数据主體(tǐ)自主权不足、个人数据权利边界消失、信息隐私被侵害、数据独裁与数字鸿沟不断扩大等一系列伦理(lǐ)问题。美國(guó)大数据、伦理(lǐ)學(xué)与社会理(lǐ)事会将大数据伦理(lǐ)归纳為(wèi)五个方面议题：数字身份、隐私、可(kě)及、安全和安保、数字鸿沟，國(guó)内學(xué)者探讨最多(duō)的是个人隐私、信息安全、数据公平。我國(guó)数据安全法、个人信息保护法為(wèi)数据工作划定“红線(xiàn)”、明确原则、提供遵循，对过度收集滥用(yòng)个人信息、违规处理(lǐ)用(yòng)户数据等顽疾下了一剂猛药。这要求金融业提高个人金融信息保护意识，增强金融领域数据应用(yòng)的安全性与合规性。

人民(mín)银行科(kē)技司有(yǒu)关负责人指出，金融业要秉持以人民(mín)為(wèi)中心的发展思想，聚焦当下科(kē)技伦理(lǐ)突出问题，锚定服務(wù)实體(tǐ)经济、普惠百姓民(mín)生的伦理(lǐ)坐(zuò)标，加快制定金融领域科(kē)技伦理(lǐ)标准规则、行动指南和自律公约，建立伦理(lǐ)审查、信息披露等常态化的工作机制，将伦理(lǐ)道德作為(wèi)衡量金融科(kē)技人才的重要尺度，聚守正之力、扬向善之帆，谱写金融行业科(kē)技向善共鸣曲。

适应性金融科(kē)技伦理(lǐ)治理(lǐ)：重评估还是重引导？

适应性治理(lǐ)（Adaptive Governance）强调治理(lǐ)體(tǐ)系设定从一开始就期待、预见、回应变化，通过积极监测客观环境变化，及时调整治理(lǐ)方案以匹配新(xīn)监督需求。完整的金融科(kē)技伦理(lǐ)治理(lǐ)體(tǐ)系从创新(xīn)初期、发展阶段到推广应用(yòng)，通过持续性伦理(lǐ)评估与伦理(lǐ)讨论、伦理(lǐ)共识提炼，预见、回应新(xīn)技术金融应用(yòng)带来的新(xīn)社会问题。金融领域，技术应用(yòng)面临商(shāng)业伦理(lǐ)选择的挑战更為(wèi)直接，引导金融科(kē)技向善、惠民(mín)利企，不仅需要有(yǒu)效引导公众审视和反思金融科(kē)技伦理(lǐ)的影响，更需要建立适应性金融科(kē)技伦理(lǐ)治理(lǐ)體(tǐ)系。

1）建立金融科(kē)技伦理(lǐ)动态评估机制，完善金融科(kē)技创新(xīn)应用(yòng)规范

一是探索在金融科(kē)技创新(xīn)试点时同步开展金融科(kē)技伦理(lǐ)评估,将科(kē)技向善的理(lǐ)念融入到金融科(kē)技产品与服務(wù)设计纳入试点评估體(tǐ)系。二是加强算法审计，防止算法歧视。确保算法符合公平原则、具有(yǒu)可(kě)解释性，避免算法效果的同质化和算法团队的垄断风险等。三是开展金融科(kē)技创新(xīn)适老化和数字普惠评估，缩小(xiǎo)数字鸿沟。借助科(kē)技手段，宣传和推广专门针对老年人、低收入人群和残障人士的金融科(kē)技服務(wù)模式，进一步提升农村数字普惠金融服務(wù)，提高农村地區(qū)金融服務(wù)可(kě)得性。此外，在金融科(kē)技创新(xīn)应用(yòng)时，建立伦理(lǐ)审查、信息披露等常态化工作机制。强化金融科(kē)技伦理(lǐ)治理(lǐ)， 

2）探索设立金融科(kē)技伦理(lǐ)委员会，建立治理(lǐ)软法则

通过行政引导方式构建金融科(kē)技伦理(lǐ)秩序，引领新(xīn)技术金融应用(yòng)整體(tǐ)向善发展，并及时解决伦理(lǐ)冲突是最具成本优势的治理(lǐ)工具。在科(kē)技伦理(lǐ)治理(lǐ)发展程度较高的西方國(guó)家，通过伦理(lǐ)委员会形式系统性推动伦理(lǐ)治理(lǐ)主要集中在生物(wù)科(kē)技领域。而在人工智能(néng)技术等领域，尚未成立专门的伦理(lǐ)委员会，其主要通过科(kē)技监管部门伦理(lǐ)评估、召开论坛、专家民(mín)众技术交流会等形式进行科(kē)技伦理(lǐ)治理(lǐ)。在我國(guó)，一方面可(kě)成立金融科(kē)技伦理(lǐ)治理(lǐ)委员会，形成原则性指引為(wèi)基础，在具體(tǐ)情境中进行原则申辩与审视，并结合新(xīn)技术金融应用(yòng)的客观风险与效益、技术应用(yòng)者的主观状态等进行伦理(lǐ)判定的软性金融科(kē)技治理(lǐ)规则。同时，也可(kě)充分(fēn)发挥成方金融科(kē)技论坛、中國(guó)金融學(xué)会金融科(kē)技學(xué)术年会等平台作用(yòng)，开展技术交流、发布金融科(kē)技伦理(lǐ)治理(lǐ)的研究报告，增进金融消费者对金融科(kē)技创新(xīn)的理(lǐ)解。 

3）发挥行业协会作用(yòng)，建立个體(tǐ)行為(wèi)的伦理(lǐ)指引，合理(lǐ)引导金融消费者

主要经济體(tǐ)的行业协会在技术伦理(lǐ)治理(lǐ)中扮演重要角色，如IEE于2020年成立了关于科(kē)技伦理(lǐ)与社会的技术委员（Technical Committee on Technology Ethics and Society）。我國(guó)行业协会在社会治理(lǐ)中的作用(yòng)较為(wèi)薄弱，且新(xīn)兴科(kē)技发展蕴含巨大商(shāng)业利益,科(kē)技公司、媒體(tǐ)具有(yǒu)强烈商(shāng)业动机在自下而上的伦理(lǐ)商(shāng)谈中歪曲技术事实。充分(fēn)发挥互联网金融协会、金融科(kē)技产业联盟等行业协会在金融科(kē)技伦理(lǐ)治理(lǐ)中的作用(yòng)，确保从业机构负责任、有(yǒu)道德地开展金融科(kē)技创新(xīn)。同时，聚焦科(kē)技伦理(lǐ)突出问题，引导金融消费者理(lǐ)性开展金融科(kē)技伦理(lǐ)讨论，探索建立金融领域科(kē)技伦理(lǐ)标准规则、行动指南和自律公约。

注：本文(wén)作者习辉，经济學(xué)博士、高级经济师、硕士导师，现任金融信息化研究所资深业務(wù)主管