华尔街银行警告投资者关于 AI 驱动的风险

华尔街银行（包括高盛、花旗银行和摩根大通）警告投资者，随着 AI 采用的增加，可能出现新的风险，例如软件“幻觉”、员工士气问题，以及 AI 的使用方式等。

华尔街银行对 AI 采用提出了担忧

过去几年，银行在年度报告中已提及人工智能相关风险。然而，随着金融行业越来越多地采用 AI，无论是通过自研软件还是第三方工具，新的风险也随之增加。

???? 摩根大通（JPMorgan） 在 2024 年的10-K 年度报告中指出，AI 可能导致员工被取代，从而影响士气和员工留存，并加剧对具有相关技术技能员工的竞争。

???? 花旗银行（Citigroup） 在 2024 年报告中提到，生成式 AI 在银行部分领域的应用可能导致风险，例如 AI 生成的分析结果可能存在错误、无效或不完整。数据本身可能不足或不准确，从而影响银行的声誉、客户、用户及业务运营结果。

???? 高盛（Goldman Sachs） 在报告中指出，尽管银行正在加大对人工智能和区块链技术的投资，但快速发展的竞争可能会影响客户吸引力和留存。高盛正加快 AI 发展，以提升工作效率、降低成本，并向客户提供更好的服务。此外，在 AI 迅速发展、且监管环境仍不确定的情况下，金融机构在维持数据隐私和合规性方面也面临风险。
2024 年，欧盟《人工智能法案》（EU Artificial Intelligence Act）生效，该法案在许多美国银行经营的地区建立了新的 AI 使用规则。

摩根大通的代表表示，AI 可能是银行目前面临的最大挑战，并指出 AI 有可能影响所有工作岗位。然而，各银行的代表均表示，不会对年度报告中的 AI 披露内容作出进一步评论。

AI 与网络安全

随着银行越来越多地采用 AI，网络犯罪分子也在利用 AI 发起更复杂的攻击。据埃森哲（Accenture）表示，在银行业最新的全球调查中，600 名网络安全高管表达了他们的担忧。他们的团队正在努力跟上银行 AI 采用速度。

???? 在受访者中，80% 认为生成式 AI 正在加速赋能网络犯罪分子，甚至快于银行的防御速度。

???? 摩根士丹利（Morgan Stanley） 在最新报告中提到，生成式 AI、远程工作以及第三方技术可能带来数据隐私风险。员工在家办公时使用 AI 可能带来新的安全漏洞，因此机构需要建立严格的规则，以防止潜在问题。

???? 总结： 随着 AI 在金融业的广泛应用，华尔街银行正在加紧评估其带来的新风险，包括：
✔ 员工士气和人员流动性问题
✔ AI 生成数据的准确性与完整性风险
✔ 增加行业竞争压力
✔ 数据隐私和监管合规挑战
✔ 生成式 AI 赋能的网络安全威胁

在 AI 技术日益渗透金融体系的背景下，银行需要采取更加严格的措施，以平衡创新与风险管理。