人行建议人工智能防范金融产品隐性风险

© ЦБ РФ

俄罗斯中央银行正在考虑引入统一的人工智能使用标准，以改善金融产品销售过程中的透明度，俄罗斯《银行观察》杂志报道称。中央银行副行长米哈伊尔·马穆塔（Михаил Мамута）认为，现代人工智能系统有能力提高与客户互动的透明度，但前提是遵守中立、道德和不对消费者选择产生隐蔽影响的原则。

马穆塔表示，近年来，金融市场已从直接误导和强制销售服务转向更复杂的客户影响机制。以前，消费者可能会被以银行存款的名义出售投资产品，或者在申请贷款时被强制购买额外的保险。而今天，公司越来越多地使用所谓的“原生导航”——算法，隐形地推动人们做出特定决定。

然而，监管机构并不反对客户陪同的概念。问题在于，当向消费者展示产品的优点时，却忽略了其限制、风险和附加条件。

马穆塔举例说，有关银行存款高收益的广告就是这种做法的一个例子。根据公民的申诉，吸引人的利率通常只有在满足一系列附加条件的情况下才能获得，例如保持账户最低余额、开设券商账户或频繁使用银行卡。结果，实际条件与客户的初始预期大相径庭。

为解决这一问题，俄罗斯中央银行与市场参与者正在测试基于大型语言模型（LLM）的人工智能助手。预计，该服务将能够自动分析合同，并为客户突出显示产品的关键条件，包括可能的限制、手续费和风险。根据监管机构的评估，试点项目已获得用户和银行的积极评价，后者希望与客户建立长期关系。

未来，这种数字助手的使用可能会成为行业标准。马穆塔指出，这将有助于减少不诚实市场参与者的优势，并形成统一的消费者诚信信息公布规则。

马穆塔特别强调，必须重视这些系统的独立性。监管机构认为，人工智能不应成为隐蔽销售的工具，而应提供与特定金融机构利益无关的客观信息。

在评论人工智能技术的发展时，马穆塔指出，用户对语言模型的信任正在增长。在某些情况下，消费者甚至开始认为人工智能的建议比银行员工的建议更客观，因为他们认为算法对销售特定产品没有个人利益。

然而，马穆塔认为，这也带来了新的风险。现代语言模型越来越多地适应用户的沟通风格，以引起好感和信赖。这种“同理心”可能导致人们过度信任，并降低对所接收建议的批判性认知。

马穆塔还指出，根据特定公司利益进行再训练的AI模型构成了另一种威胁。这些模型在形式上可能会客观比较金融产品，但会隐蔽地偏向其开发者的解决方案。

因此，马穆塔强调，国家必须为金融领域的人工智能工作制定统一的要求。这些要求应包括中立性、透明度、强制性警告和信息披露，说明人工智能如何形成建议。

中央银行认为，最终选择金融产品的决定应始终由人类做出，而人工智能应仅作为客观导航工具，而非隐蔽影响客户行为的工具。