苹果客服录音AI“Live Notes” | AI记录Apple Store客户服务,引发员工监控担忧

通过将客户服务记录留给人工智能,店员可以专注于面前的客户。另一方面,记录用于评估和监测的可能性仍然存在。根据报道称苹果正在测​​试的系统,我们将考虑业务支持AI的便利性以及处理记录所需的规则。


据报道,苹果正在测​​试“Live Notes”,它使用人工智能来记录、转录和总结一些苹果商店的 Genius Bar 客户服务。使用需要获得员工和客户的同意,并且音频本身不会保存,员工可以在将录音保存到内部系统之前对其进行编辑。

另一方面,一些员工表示担心这些信息可能会被用于未来的指导和人事评估。目前,参与是自愿的,没有计划扩大符合条件的商店数量或强制实施。

从: 苹果正在测​​试“Live Notes”人工智能系统来记录 Genius Bar 会话:报告

【编辑部评论】

苹果的“Live Notes”显示,虽然将客户服务记录留给人工智能可以减轻员工的负担,但有人担心这些记录可能会被用于其他目的。据报道,只有在员工和客户都同意的情况下,对话才会被记录下来,人工智能才会创建转录和摘要。音频本身不会保存,也不会向经理提供转录,但员工可以在将内容保存到内部系统之前对其进行编辑。

如果你单独看这个系统,就会发现有多种措施:同意录音、不保存音频、限制管理者的访问以及相关人员的编辑。不过,目前的文章是基于彭博社的报道,而不是苹果的官方公告。原文章没有解释目标商店、保留期限或非管理人员的查看权限的详细信息。

员工更关心他们的记录将来如何处理,而不是当前的用途。最初的文章称,员工担心客户服务记录可能会被用于未来的指导或绩效评估。即使音频本身没有保存,只要转录或摘要保留,员工的语言、解释过程和客户互动就会被存储为记录。

换句话说,重要的不仅仅是入口处的同意询问是否可以录音。介绍时应澄清的问题包括“保存信息的目的是什么?”“谁可以查看它?”“什么时候删除?”以及“改变使用目的时是否应该给出新的说明?”允许员工在保存之前编辑文本的系统也可以有效纠正人工智能的误识别,但其含义会根据是否保留未编辑的记录以及谁可以检查编辑历史记录而变化。

根据咨询内容,客户也可能会接触到个人信息。 Apple 的隐私政策还适用于处理您在直接交互中(例如在访问 Apple Store 零售店期间)提供的个人数据。此外,客户有权访问、更正、限制处理和要求删除其个人数据,并可以在同意的情况下撤回对处理的同意。

在日本如果要利用记录进行员工监督和评估,不仅需要向客户提供解释,还需要建立对员工的监控规则。个人信息保护委员会表示,在对员工进行监控时,需要事先明确目的,在内部规定中予以明确,并向员工明确,确定负责人和权限,制定操作规则,并确认规则正在按照规则执行。决定重要事项时,应当通知工会等组织,并根据需要进行协商。

Live Notes 是否属于客户服务支持范围或是否接近员工管理系统之间的区别并不在于人工智能转录的准确性。理想的条件是确定记录的用途和查看权限,确保拒绝使用记录的员工不会处于不利地位,并在改变使用范围时提供进一步的解释。

目前,参与 Live Notes 是自愿的,据报道,尚未做出关于强制使用、扩大符合条件的商店数量或更改转录使用的决定。因此,本次测试并不是可以断定员工监控已经开始的情况。另一方面,这是一个需要考虑如何防止为辅助工作而积累的记录在实施前变成评估材料的问题。

[相关文章]

汉堡王的人工智能聊天机器人“Patty”将驻留在员工的耳机中并监控客户服务方式
帮助客户服务客户的人工智能也可以用来评估和管理员工行为,这不仅仅是苹果公司面临的问题。支持和监视之间的界限也可以从汉堡王推出的语音人工智能的例子来考虑。

大公司采用人工智能来分析员工消息
对人工智能记录用于人力资源和组织管理的担忧不仅蔓延到语音,还蔓延到内部聊天。查看公司分析员工对话的其他示例。

苹果宣布推出新的注重隐私的人工智能“Apple Intelligence”!
苹果在其人工智能战略中非常强调隐私保护。本文可以作为思考该政策如何应用于商店中录音对话的背景。

[编者后记]

如果人工智能记录客户服务详细信息,商店员工可以更加专注于面前的客户。
另一方面,剩余的记录和摘要有朝一日仍可能被用作评估材料。
重要措施包括不存储音频并征得双方同意。
然而,真正的问题是谁可以看到这些记录以及它们的用途的操作方面。
一个系统越方便,你在引入时就越需要考虑它的用途以及将来如何使用它。
我们不仅需要了解人工智能的准确性,还需要了解记录的处理方式。


【术语解释】

现场笔记
据报道,苹果正在其一些直营商店测试一个内部系统,该系统记录天才吧的客户服务,并使用人工智能对其进行转录和总结。彭博社和 9to5Mac 目前正在使用该名称进行报道。

天才吧
在Apple Store接受Apple产品的硬件维修和技术咨询的面对面支持服务。建议提前预约使用。

人工智能转录
使用语音识别技术将录制的语音转换为文本的过程。与生成式AI结合,可以实现对话点的自动化组织和总结,但识别结果可能存在错误。

员工监控
出于业务管理、安全管理等目的,记录并检查员工的工作状况。个人信息保护委员会提出了事先明确目的、在内部规定中明确说明、设定负责人及操作规则、向员工传达信息等注意事项。

[参考链接]

苹果官方网站(外部)
Apple 日本官方网站,提供有关 iPhone、Mac 和 iPad 等产品的信息,以及有关直营商店、支持和隐私的信息。

Genius Bar 预订和 Apple 支持选项(外部)
官方页面,提供有关 Apple Store 提供的硬件维修和技术支持以及如何预订 Genius Bar 的信息。

苹果隐私(外部)
官方页面介绍Apple产品和服务中的数据处理、隐私管理功能以及Apple Intelligence的隐私设计。

个人情报保护委员会(外部)
负责管理日本个人信息保护制度并公布个人信息保护法指南、企业常见问题解答、咨询窗口等的行政机关。

[参考文章]

苹果隐私政策 |苹果(外部)
解释 Apple 收集哪些个人数据、如何使用这些数据、如何存储、共享这些数据以及个人享有的权利(包括访问、更正和删除)的官方政策。

监控员工时应牢记的要点 |个人信息保护委员会(外部)
关于员工监控的官方常见问题解答,显示明确的目的、内部规则、负责人、操作规则以及与工会的通知和协商的概念等。

在何种程度上需要明确个人信息的使用目的? |个人信息保护委员会(外部)
官方常见问题解答解释说,需要在个人可以合理预测的范围内指定个人信息的使用目的。