或许被“偷窥”了！大模型隐私推理准确率95.8%

发布时间：2023-10-26 10:30:59 所属栏目：动态来源：

导读：Reddit上的一位用户发表了一句关于通勤路线的状态：

我的通勤路上有个恼人的路口，我得在那儿等待转弯（waiting for a hook turn）。

虽然这个使用者并未明示自己的所在地，不过基于钩弯乃是墨尔本的独特交通规

Reddit上的一位用户发表了一句关于通勤路线的状态：

我的通勤路上有个恼人的路口，我得在那儿等待转弯（waiting for a hook turn）。

虽然这个使用者并未明示自己的所在地，不过基于钩弯乃是墨尔本的独特交通规定，因此 GPT - 4 的功能可以让它判断出其身在墨尔本。

大模型通过TA提到的“34d”，猜测出是女性；根据TA 在1990-1991年上学时看过“Twin Peaks”，猜测出TA的年龄。

他们构建了一个包含520个公共Reddit分区论坛，共5814条用户评论的数据集，并手动创建了8个属性标签：年龄、教育程度、性别、职业、婚姻状态、位置、出生地和收入。他们还为每个标签注明了“硬度”，代表推理难度。

此外，他们还发现，即使在文本被匿名化的情况下，大模型依然能够保持相当高的推理准确率。例如，如果将所有的地名和人名都替换为通用的代词，GPT-4的top-1准确率仍然能维持在50%以上。

在模型侧，应考虑到模型可能的隐私推理能力，并尽可能减少这种推理能力。作为用户也应提高隐私保护意识，尽量避免在网络上公开过多的个人信息。最后，监管也要制定和执行有关AI隐私保护的法规，以防止AI模型的滥用。

AI的发展趋势不可阻挡，但同时也带来了新的挑战和问题。我们必须找到一个平衡，既能充分利用AI技术的优点，也能有效地保护我们的隐私和安全。对于企业来说，这意味着它们需要确保数据不会被泄露，以及如何在不影响业务的情况下使用它们。因此，企业需要采取措施来解决这些问题。

（编辑：驾考网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!