大语言模型能否让“阴暗网”数据变得更好一些?

发布时间：2023-06-19 14:31:58 所属栏目：安全来源：

导读：在理想的社会中,我们希望各式各样的先进科技能够在“阳光”下使用,但是,真实的世界从来都不是幻想的模样。

最近,韩国科学技术院 ( KAIST)的团队,发布了一款可应用于网络安全领域的大语言模型工具DarkBE

在理想的社会中,我们希望各式各样的先进科技能够在“阳光”下使用,但是,真实的世界从来都不是幻想的模样。

最近,韩国科学技术院 ( KAIST)的团队,发布了一款可应用于网络安全领域的大语言模型工具DarkBERT,这是一个专门从暗网获取数据并进行训练的LLB。DarkBERT并非出于恶意目的而创建，研究人员的目标是创造一种超越现有安全方案的智能化暗网威胁监控工具，帮助威胁研究人员、执法机构和网络安全分析师打击网络威胁。

该研究团队表示，即使是从最不寻常的来源所收集的数据，也可以训练出有用的人工智能模型。尽管一些人可能会担心暗网数据会带有天然的“邪恶”属性，并可能对DarkBERT造成不好的影响，但我们认为，在AI技术迅速发展的今天，需要更加关注如何让这些数据能够在受控和透明的环境下运行，并确保它们产生对社会有利的价值。

监控暗网论坛潜在的有害线程
监控暗网论坛(通常用于交换非法信息)对于识别潜在的危险线程至关重要。由于人工检查非常耗时，因此自动化过程对安全专家来说不可或缺。评估结果显示，DarkBERT在准确率、召回率和漏报率方面的表现均不同程度优于其他两种工具。

检测包含机密信息的暗网站点
黑客和勒索软件组织会利用暗网创建泄密网站，供各种网络犯罪分子将窃取的敏感数据(如密码和财务信息)上传到暗网，并以此进行牟利。在研究中，研究人员收集了臭名昭著的勒索软件组织的数据，并分析了发布组织私人数据的勒索软件泄漏站点。结果显示，DarkBERT在识别和分类此类网站方面优于其他两种工具，原因在于它对暗网论坛中所使用的语言有更好的理解。

以上评估结果表明，DarkBERT模型对网络罪犯的语言有着非凡的理解能力，并善于发现特定的潜在威胁。它可以帮助安全人员更好地研究暗网，并成功识别和标记数据泄露及勒索软件等网络安全威胁，成为打击网络安全犯罪活动的有力工具。

DarkBERT目前并不向公众开放，只接受部分将其用于学术研究目的的应用请求。因为像其他LLM模型一样，DarkBERT还是一个尚在发展中的模型，有许多地方还需要通过不断的训练和调整去优化。创新模型的出现将会提高现有网络安全防护体系的能力和性能，但同时，也必须要关注其可能带来的新挑战和问题，例如数据隐私、自主决策等方面的问题，需要得到充分的重视和解决。因此，对于智能家居系统的安全性，我们不能仅仅停留在概念层面，而是要从技术层面进行全面的考虑。

（编辑：驾考网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!