月光博客 » 业界动态 » 摩根大通限制员工使用ChatGPT

摩根大通限制员工使用ChatGPT

由于对敏感数据暴露越来越感到紧张,华尔街开始限制员工使用ChatGPT。据媒体最新报道,摩根大通已限制其员工使用ChatGPT聊天机器人。此前拥有70多万员工的科技咨询公司埃森哲也警告员工不要将客户信息暴露给ChatGPT等聊天工具。

近几个月来,ChatGPT成为了一种互联网现象级焦点,从莎士比亚风格的诗歌创作到创建股票投资组合,它的未来潜力引发了人们的热议。有分析认为,ChatGPT将对多个行业产生影响,华尔街似乎也不能例外,从财务规划到股票交易,ChatGPT将从多个方面影响华尔街。

一些公司已经开始尝试使用这类工具来提高工作效率。然而,数据安全和法律专家表示担心,与聊天机器人共享的信息可能会被用于微调它们的算法,或者可能被付费检查其答案的外包工人访问。

受到严格监管的银行和金融机构纷纷在员工使用这项新技术时设置了护栏。分析称,银行和金融机构对引进任何新技术的谨慎态度都是可以理解的。在2021年和2022年期间,美国监管机构向12家银行发放了总计超过20亿美元的罚单,原因是它们的员工未经授权使用私人短信服务。

还有人担心聊天机器人的准确性。虽然聊天机器人被设计成能写出类似人类的句子,但它们很难区分事实和错误信息。它们也可以被哄骗提供看似精神错乱的答案,比如威胁测试这项服务的人类,或者出现完全荒谬的回答。微软的搜索聊天机器人Bing就在其官方发布活动中被发现提供了完全不准确的答案,而微软团队却没有发现,例如在被要求总结财务收益新闻稿时编造数字。

据媒体报道,上个月,出于隐私考虑,亚马逊警告员工不要与聊天机器人分享机密信息。亚马逊的一名律师警告员工:“我们不希望它的输出包含类似我们的机密信息(我已经看到它的输出与现有材料非常相近的例子)。”安全专家敦促在向人工智能聊天机器人提供数据时要谨慎。

与大型银行和金融机构合作监控内部安全风险的技术公司Behavox的发言人表示:“在过去一个月里,客户对ChatGPT的使用提出的担忧呈上升趋势,特别是在涉及使用私人或专有数据时。”

律师事务所Mishcon de Reya的数据保护专家Jon Baines表示,还有人质疑,如果该软件大量提供不准确的信息,使用ChatGPT的公司是否有违反数据法的风险。

Baines表示:

“如果机器人的输出涉及个人数据处理,那么问题就来了,这种不可避免的不准确处理在多大程度上可能违反了《通用数据保护条例》(GDPR)要求准确处理个人数据的规定。”

稿源:华尔街见闻

摩根大通限制员工使用ChatGPT

顶一下 ▲()   踩一下 ▼()

相关文章

  1. 1
    haite   说道:
    人工智能真的会有取代人的一天吗?
    支持(1反对(0回复

发表留言