AI+技术在智能财务应用中的潜在伦理风险分析与对策

宋迎春　马梦伟

基金项目：2022年度智能财务研究院科研课题（2022019）

作者简介：宋迎春，湖北工业大学经济与管理学院副教授；

马梦伟，湖北工业大学经济与管理学院硕士研究生。

摘　要：新技术与人工智能（AI）结合运用于财务领域能够显著提升财务工作质效，但同时也容易因技术应用引发隐私泄露、算法偏见和过度依赖等伦理风险。本文结合区块链智能结算平台、基于中台技术+AI的销售预算模型、差旅费用智能报销机器人三种智能财务工具的应用，对其中潜在的隐私泄露、算法偏见和过度依赖等伦理风险进行分析，并进一步从对隐私泄露风险进行伦理评估、算法偏见公平性管理和对过度依赖进行干预性管理三个方面提出对策建议。

关键词：AI+技术；智能财务；伦理风险；隐私泄露；算法偏见

中图分类号：F275　文献标志码：A　文章编号：1003-286X（2023）24-0058-05

近年来，区块链、中台、机器人流程自动化（RPA）等新技术与人工智能（AI）不断结合（即AI+）运用于财务领域，对改善会计信息质量、提高会计工作效率、降低会计工作成本、提高会计合规能力和价值创造能力，促进财务支持企业决策起到积极作用。但由于AI技术在应用中易产生技术误用、技术失控和应用失控等风险，容易引发隐私泄露、算法偏见和过度依赖等伦理风险。本文拟结合三种应用场景对上述三项技术与AI结合运用于智能财务中引发的潜在伦理风险进行分析并提出相关对策建议。

一、AI+在智能财务应用中产生的潜在伦理风险

（一）区块链+AI的应用及其潜在伦理风险

区块链技术是一种由多方共同维护，使用密码学保证传输和访问安全，实现数据一致存储、难篡改、防抵赖的分布式记账技术。区块链智能结算是区块链+AI技术在财务结算中的具体应用，主要解决传统模式下企业间业务结算中对账耗时长、成本高、易出错、信任缺失等问题。具体流程为：首先，购销双方将订单、收货单、发货单等传递至区块链智能结算平台，基于信任机制形成信任关系，并根据对账规则自动对账。然后，根据对账结果利用智能合约中的算法程序自动执行协议条款驱动销售方自动开具发票，并将发票信息自动传递至购买方进行自动检查和记账。最后，基于购销双方的记账信息以及智能合约中约定的账期，购货方到期自动对销售方进行支付。可见，区块链人工智能结算模式下购销双方交易数据全流程可视、可溯，但由于区块链智能结算平台上的区块链地址是用户匿名自行生成的，而结算平台中的交易记录属于重要的敏感数据，用户在使用区块链地址参与结算业务时交易记录有可能泄露，因此存在用户隐私泄露的安全伦理风险，进而给用户造成不利影响。

（二）中台技术+AI的应用及其潜在伦理风险

中台技术本质上是一种技术架构方式，是企业内可复用、可共享服务能力的集合，包括数据中台、业务中台和财务中台。基于中台技术+AI的销售预算模型（以下简称AI销售预算模型）是中台技术+AI在预算管理中的具体应用，主要解决传统销售预算管理周期长、假设多、不精细的问题。具体流程为：首先，企业从业务中台、财务中台实时自动采集数据，并从数据中台抓取外部市场研究报告、新闻等相关数据。然后，整合内外部数据，利用机器学习模型识别影响销售的驱动因素，并运用多方数据源发掘市场潜力，对销售进行预测。最后，基于预测模型推演出不同资源配置下的销售趋势，综合比较后提供预算方案。可见，中台技术+AI模式下的销售预算是系统基于机器的自我学习能力找到影响销售的因素和潜在市场，并通过构建销售模型动态调整不同渠道的资源配置，预测不同场景下的未来销售趋势。但实际上，全面预算强调的是全员参与、全方位、全过程，销售预测是全面预算的一部分，应由数据科学家搭建机器学习模型并嵌入智能系统中通过算法推演出来，一旦数据科学家不能理解全面预算的“三全”理念，未能将其融入算法中，就可能会因算法偏见引发算法伦理风险，影响财务人员决策和企业资源的合理配置。

（三）RPA+AI的应用及其潜在伦理风险

RPA是一种依据预先设定的操作规则，模拟用户与计算机系统交互过程以自动完成标准化程度高、重复性强的工作流程自动化软件技术。差旅费用智能报销机器人是RPA+AI的具体应用，主要解决传统差旅费用报销模式下员工差旅费用报销难和财务人员审核难的问题。传统差旅费用报销流程一般分为出差人员提单、分级审批、财务审核和财务支付，差旅费用智能报销机器人可通过智能填报、智能审批及自动支付的形式实现无人化审核操作，具体流程为：首先，员工在移动客户端填报单据，票据审核机器人利用光学字符识别（OCR）技术对各类发票和单据进行自动识别，并提取票据中的有用字段转化为结构化数据，填单机器人自动生成报销单并发起审批申请。之后，智能审单机器人利用票据规则、资金规则、差旅规则等规则引擎对单据进行合规性审查和财务审核，并自动生成审核意见。审核通过后将自动生成付款单并通过银企直联实时推送付款，最终完成差旅费用报销。可见，差旅费用智能报销机器人是通过OCR技术将识别出的信息发送给规则引擎组件进行处理并执行相应的操作以实现端到端流程的智能自动化。但在此过程中，当财务人员过度依赖智能财务机器人时容易出现两类错误：一是疏忽，即财务人员根据经验本应判断出业务有误，但由于应用智能财务机器人未能发现；二是过失，即财务人员根据经验本应判断出业务无误，但由于应用智能财务机器人却被提示有误。这是财务人员信息选择行为与算法推荐机制共同作用的结果。

二、相关对策建议

（一）对隐私泄露风险进行伦理评估

伦理风险评估是将幸福原则、公平原则和自主原则三个一般伦理原则引入用户数据隐私安全伦理分析，从技术开发者、企业管理者和财务人员三个利益相关者角度讨论如何采取应对措施来防止因区块链+AI技术的应用引发的用户隐私泄露风险。

1．利益相关者伦理分析。在对区块链智能结算平台隐私泄露风险进行伦理评估时，首先，需要从用户角度考虑三个问题：一是从幸福原则角度考虑用户是否重视自己的数据隐私权，确保个人信息未经授权不被滥用。二是从公平原则角度考虑用户交易隐私、账户地址隐私和用户身份信息是否得到充分保护。三是从自主原则角度考虑用户是否可以随时结算业务。其次，分析技术开发者、企业管理层和财务人员对数据隐私访问、使用、安全的价值判断（见表1）。

2．隐私泄露伦理风险评估。隐私泄露带来的系统风险分5个等级，由应用身份识别技术引发的隐私泄露事件发生的概率（第一维度）、估计的损失程度（第二维度）及因引入更复杂技术带来侵权的程度（第三维度）综合评估得出（见表2）。

其中，5种可能性包括：1表示非常可能发生，2表示很可能发生，3表示可能发生，4表示不太可能发生，5表示非常不可能发生。估计的5种损失程度包括：A表示可忽略，B表示轻微，C表示中，D表示严重，E表示灾难性。3种侵权程度包括：I表示无，II表示重大，III表示非常重大。5种系统风险等级包括：VL表示很低，L表示低，M表示中，H表示高，H+表示很高。

举例而言，假设区块链智能结算系统中由于使用身份识别技术导致用户身份信息泄露事件发生的可能性为“很可能发生”，事件发生时的估计损失程度为“中”，当侵权程度为“无”时，区块链智能结算系统的风险水平为“高”。此时，要降低结算系统的风险，可引入更复杂的身份识别认证技术。然而，更复杂的身份识别认证技术又会引发用户隐私泄露更高的安全伦理风险，因此需要对是否引入这项更复杂的技术进行决策。如果选择接受，意味着拟引入的改进技术将使区块链智能结算系统更安全，此时可采纳该项改进技术。如果选择不接受，意味着拟引入的更复杂的技术需要被禁止或者被其他方式替代。

3．隐私泄露风险应对措施。一旦企业决定采取更复杂的身份识别认证，则需要采取保障措施平衡风险。如果区块链智能结算系统引入更复杂的身份识别认证工具导致侵权风险非常显著，则可采取构建三重安全网络防御系统以避免对用户隐私权的侵犯。具体而言，第一重防御系统是企业网络安全管理者在了解智能财务结算平台区块链技术以及网络风险发生后自动化漏洞检测和响应速度的基础上，通过加强数据保护和系统访问安全机制阻止更高级的入侵和隐私泄露企图，以提高企业对客户隐私的保护能力。第二重防御系统是通过强化董事会及相关委员会网络风险管理责任，制定网络安全战略规划，推动管理层实施预防和检测措施，确保智能财务结算平台客户数据隐私安全，以防止企业进一步受到数据隐私泄露风险的侵害。第三重防御系统是内部审计师在了解智能结算平台关键IT风险的基础上，评估网络风险、企业管理中可能受到网络风险事件的影响、管理层和董事会是否制定了全面的网络安全战略并将网络风险纳入了年度审计计划，确定管理层是否使用了最有效的流程来优先考虑需要保护的客户数据等，检测程序如何实施以及响应程序如何生效，进而从独立性角度指导管理层采取应对措施。

表1　区块链智能结算平台隐私泄露风险的利益相关者伦理分析

表2　三维风险评估表

来源：基于Bruschi和Diomede（2023）的伦理风险矩阵

（二）对算法偏见进行公平性管理

公平性管理是用来减少偏见并证明系统具有公平性意识的方法。针对AI销售预算模型中出现的偏见，主要可采取数据公平性检测和算法公平性审计两种应对措施。

1．数据公平性检测。模型训练数据集的偏差是AI销售预算模型最常见的偏差来源之一。可按照数据收集、数据预处理、数据训练和数据后处理这一流程对数据公平性进行检测。

在数据收集阶段，由于销售预测的服务对象既包括企业高层管理者，又包括销售、生产、采购、研发、质控等各经营环节的业务执行人员，他们既是数据的使用者又是提供者，都以自身不同的关注点对系统提出需求。因此，需要对数据来源、使用时间、数据分布、数据标注等进行适当检查，使用经过验证的数据源，以防止因数据不完整、不准确、陈旧、不具有代表性等引起系统偏见。

在数据预处理阶段，可采用重新采样方法平衡输入的数据并生成公平数据集，或者选择更新的数据集，重新训练模型，确保AI销售预算模型接受了最新训练，不会学习已经存在的偏见。

在数据训练阶段，可采用无偏方式将输入数据集分成训练、测试和验证数据集，使每个数据集正确地代表目标受众。在迭代训练和测试模型时，选择适当的公平性指标对于确定模型公平性容差限制至关重要。模型训练完毕后，检查每个受保护属性的公平性，评估训练数据集和测试数据集的模型结果的公平性，进而为每个受保护的属性选择最合适的公平性度量。AI销售预算模型可选择统计均等差异、差别影响、机会均等等公平性指标，最大限度地提高每个部门的满意度，尽量减少部门之间资源分配的不公平。

在数据后处理阶段，为确保系统输出新数据的公平性，需要采用重新排序方法对推荐结果或搜索结果进行重新排名，提高系统的群体公平性。

2．算法公平性审计。为了减少算法偏见带来的不公平性，可将公平视为技术属性，从模型开发、模型特征、模型生产和模型输出四个方面进行审计，并提供不同功能的审计报告供技术开发人员及高管、部门监管机构等利益相关者使用。

具体来说，模型开发是指运用具体方法创建模型。AI销售预算模型采用机器学习、深度学习、自动化机器学习（AutoML）等各类建模方式，构建深度学习、大数据机器学习框架，部署关系数据库等基础环境。虽然目前很多企业都会使用第三方提供的人工智能即服务（AIaaS）平台为企业AI开发、管理、部署、监控、注册服务进行一站式管理，使企业借助平台能力快速实现建模进而对销售业务进行探索、预测、分析和决策，但在对模型开发进行审计时，仍需要获取创建初始模型时使用的方法及其产生的效果等证据。

模型特征也称模型的变量或字段。特征工程是从原始数据中提取有意义的变量或字段等信息，供机器学习算法使用并进行准确预测以增强模型性能的一种技术。AI销售预算模型中的特征包含“销售线索”“合同”“订单”“出库单”“签收单”“回收单”“对账单”“历史销售价”等。例如，“历史销售价”这个特征在产品销售增长预测中的应用为：假设某个产品售价从20元调整到30元，且单价还会持续上涨，机器学习算法会结合历史涨价幅度及其对客户的影响推测出客户获知涨价信息后可能会增加购买行为。因此，在对模型特征进行审计时需要充分调查从原始数据到模型特征之间发生的所有步骤，获取原始输入数据是如何被设计成模型特征以及有哪些替代特征工程技术方法的证据。

模型生产是指预测结果生成的具体过程。为检验模型生产预测过程的有效性，还需要采取压力测试，确保预测过程的可测、可控和可承受。在应用AI销售预算模型时，为确保滚动预算的预测结果有效性，可通过控制单价等变量，选择不同业务压力情境下调整销售渠道、特定节假日等影响因素的数量和预算配置额度，得出不同的销售参考结果。因此，在对模型预测过程进行审计时，应关注采取的压力测试是否促进预测过程精进化、是否消除了由于系统偏见带来的不公平。

模型输出是指模型最终输出的预测结果。即使上述模型的开发过程、特性工程和模型生产都没有问题，但最终输出预测结果仍有可能是不公平的，这源于开发模型时参考的有效性和公平性标准。因此，在对模型输出进行审计时，需要对模型的信度和效度进行评估，获取预测值的有效性和可靠性证据，证明模型结果是否具有一致性、稳定性和可靠性，模型预测结果与实际可能性之间是否进行了均等校准，结果是否准确。

（三）对过度依赖进行干预性管理

长期过度依赖算法建议会削弱财务人员的判断力和责任感，降低其对潜在偏差的认识。因此，需要从强化财务人员主体地位和校准机器人可信度两个方面对过度依赖进行干预性管理。

1．强化财务人员主体地位。一方面，应加强对AI系统的控制。尽管智能费用报销机器人可帮助财务人员识别差旅发票不合规、报销金额大于票面金额、缺少支持性附件等问题并进行智能审单，但无法处理异常和评估结果。同时，由于AI系统会通过输入的数据进行自主学习、进化并改变相关功能，容易导致在缺乏控制的情况下作出独立的决策和行动选择，因此，无论差旅费用报销机器人是按照现有程序执行重复性动作、例行任务还是人机共同决策，抑或是将决策委托给AI，财务人员都应有效控制AI系统，决定机器人在财务系统中执行任务的最佳定位。另一方面，应提高财务人员的专业能力。尽管智能差旅报销机器人的应用使财务人员能够比以往更有效、快速、可靠和全面地完成标准单据报销任务，但由于AI在处理数据时也会出现偏差、故障、漏洞等不确定性问题，财务人员应了解差旅费用智能报销机器人的工作原理、评估假设和输出的潜在伦理风险，并通过检查数据、算法输入和人工智能辅助决策的输出，发现可能导致伦理问题的无意识偏见。

2．校准机器人设计可信度。首先，AI具有拟人化、自然语言处理、有效计算和会话能力等特点，因此，对差旅费用智能报销机器人的信任包括功能信任和类人类信任。其中，功能信任是对RPA+AI技术能力的信任，涉及算法的社会和文化价值，以及支撑AI技术设计的价值观和伦理；类人类信任是对人工智能系统本身的信任，包括差旅费用智能报销机器人的可靠性和有用性，与AI技术的能力、专业知识和鲁棒性有关。以人为本的差旅费用智能报销机器人需要在技术可靠性与财务人员需求和价值观之间取得平衡。

其次，衡量和校准机器人设计的可信度是差旅费用智能报销机器人设计者的重要职责之一。设计过程中的可信度水平应反映机器人的实际能力和可靠性。衡量和校准机器人信任应是动态的，当机器人实际可靠性低于应达到的能力时，机器人设计者应及时调整机器人完成任务的可靠性，保证其最佳性能和安全性，降低出现故障和错误的频率，积极促进财务人员对机器人产生足够的信任。

最后，为减少过度信任带来的影响，一方面可加强对结果的可解释性管理，即对算法预测结果进行解释，以便用户理解和适当信任，进而促进产生更加便于理解的模型。另一方面，可通过预警性算法建议提示对错误进行更正或确认填写的信息是否正确，起到防错纠偏作用。比如，在智能填单过程中，当财务机器人自动稽核和退单过程中检测出错误时可发出提示通知财务人员，或者通过“红黄绿”灯警示异常情况，提示财务人员系统无法处理或尚无经验处理并提供解释，帮助财务人员识别AI推理是否正确，进而促进机器人运作更加透明。

责任编辑　李卓

主要参考文献

［1］刘勤．智能财务中的知识管理与人机协同[J]．财会月刊，2021，（24）：15-19．

［2］陈小平．人工智能伦理体系：基础架构与关键问题[J]．智能系统学报，2019，14（4）：605-610．

［3］宋迎春，江梓琪．会计师事务所区块链技术采纳行为的博弈分析[J]．湖北工业大学学报，2021，36（3）：30-35．

［4］宋迎春，陈蕾．RPA技术在审计函证程序中的应用探索[J]．商业会计，2021，（21）：38-41．

［5］Danilo Bruschi，Nicla Diomede. A Framework for Assessing AI Ethics with Applications to Cybersecurity [J]. AI and Ethics，2023，3（1）：65-72.

图片新闻

2023中国资金管理智库高峰论坛暨新文科财会教师专业发展论坛在青岛举行

近日，2023中国资金管理智库高峰论坛暨新文科财会教师专业发展论坛在青岛举行。本次论坛由中国会计学会、中国海洋大学主办，中国海洋大学管理学院、中国企业营运资金管理研究中心、中国资金管理智库协同创新中心、中国混合所有制与资本管理研究院等联合承办。200余位财会领域专家、学者汇聚一堂，围绕“财会数智化与智能资本配置”“财会数智化、科教产协同与会计博士专业学位教育”展开深入交流，共同探讨财会领域科研范式的新理念、新思路、新方法，就财会人才培养的前沿问题交流研讨、碰撞思维，旨在为推动我国财会数智化转型作出新贡献，为推进会计博士专业学位建设、培养高层次专业人才提供智慧和方案。

（本刊记者）