Emma McGowan 2024年2月14日

最近，Mozilla发布了一项报告，发现近年来浪漫AI聊天机器人激增，带来了全新的隐私担忧。

自20世纪60年代以来，人工智能浪漫伴侣在流行文化中就一直存在。从《我的生活玩偶》中“Rhoda Miller”这样的类人机器人，到2013年电影《她》中斯嘉丽约翰逊的无形声音，我们已经在集体畅想人工智能满足我们所有情感需求，整整几代人了。如今，随着生成式AI的开发和发布，这个梦想似乎终于要成为现实。

但这真的是梦想吗？还是我们在不知不觉中步入隐私噩梦？Mozilla研究团队在最近的隐私不包括浪漫AI聊天机器人特别报告中正是探讨了这个问题。

这些发现令人震惊，在11款测试的聊天机器人中，有10款未能达到Mozilla的最低安全标准。这意味着，它们不仅不要求用户创建强密码，还没有任何方法来处理安全漏洞。预计在Google Play商店下载量超过1亿，最近OpenAI的应用商店也涌入了大量浪漫聊天机器人，这个巨大问题只会不断增长。

但这份报告不仅仅是数字；它还涉及到这些发现可能带来的重大隐私隐患。以Replika AI为例。根据Mozilla的说法，人们在这款应用上与他们的“AI灵魂伴侣”分享最私密的想法、情感、照片和视频，而该应用不仅记录这些信息，还可能将其出售给数据经纪人。该应用还允许用户创建如“111111”这样弱密码的账户，让所有敏感信息都面临被黑客攻击的风险。

Calder表示，尽管这些隐私和安全漏洞已经令人毛骨悚然，但一些聊天机器人还声称可以帮助用户的心理健康。她以Romantic AI为例，指出其条款与条件 中写道：

“Romantic AI既不是医疗保健或医疗服务的提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有你的医生、治疗师或其他专业人士才能做到这一点。Romantic AI不对服务提供的治疗、医疗或其他专业帮助做出任何声明、陈述、保证或担保。”

然而，他们的网站却说“Romantic AI在这里维护你的心理健康”强调是他们的。虽然我们没有数据表明有多少人阅读了条款与条件与阅读网站的人数，但可以安全地说，更多的人收到的是网站的信息，而不是免责声明。

在心理健康的声明和客户自愿分享给数字“灵魂伴侣”的个人隐私信息之间，Calder担心这些机器人可能很容易操控人们做出他们平常不会做的事情。

“有什么可以阻止坏人创建聊天机器人来了解他们的灵魂伴侣，然后利用这种关系操控这些人做可怕的事情、接受令人恐惧的意识形态，或伤害自己或他人？”Calder说道。“这就是我们迫切需要在这些AI应用中实现更多透明度和用户控制的原因。”

因此，尽管AI聊天机器人承诺提供陪伴，但我们还未达到《她》中的那种境界：当前的现状揭示出用户隐私成为了进入这一领域的代价。现在是时候让用户、开发者和政策制定者在AI关系的领域内，要求透明度、安全性和对个人界限的尊重。只有这样，我们才能安全地探索这些数字伴侣的潜能，而不损害我们的数字自我。