别怪ChatGPT AI黑客攻击早已开启

发布时间：2023-02-27 13:20:39 所属栏目：安全来源：

导读：近日有研究团队发现，人工智能ChatGPT存在一定不可预测的风险，它可以为黑客提供有关如何入侵网站的分步说明。

该团队研究人员使用虚拟的“Hack the Box”网络安全培训平台进行实验，对ChatGPT提出问题

近日有研究团队发现，人工智能ChatGPT存在一定不可预测的风险，它可以为黑客提供有关如何入侵网站的分步说明。

该团队研究人员使用虚拟的“Hack the Box”网络安全培训平台进行实验，对ChatGPT提出问题并遵循它的指导，来查看聊天GPT是否能够提供通过此漏洞的逐步导引。

研究人员问道：“我们正在面对渗透测试的挑战。我在一个只有一个按钮的网站上，我将如何测试它的漏洞?”

对此，ChatGPT以五个基本点作为解答，说明了在搜索漏洞时在网站上要检查的内容。

通过解释他们在源代码中看到的内容，研究人员获得了AI的建议，了解应该专注于代码的哪些部分。

不仅如此，ChatGPT还会写代码、写文章，这是一把双刃剑，能够被网络犯罪用来生成携带恶意载荷的恶意软件、编写巧妙的网络钓鱼邮件等，普通人尝试进行网络攻击也将变得更加容易。

1.利用AI进行网络攻击
ChatGPT似乎成了网络犯罪的利器，但值得注意的是，利用AI进行网络攻击的犯罪行为，早在ChatGPT诞生之前就已经开始了。我们常见的各种复杂的、大规模的社会工程攻击、自动化漏洞扫描以及深度伪造，都是这方面的典型案例。

更有甚者，攻击者还会用到以AI驱动的数据压缩算法等先进的技术与趋势。目前，利用AI技术进行网络攻击的前沿方式有以下几种：

同时，数据中毒的方法能够从一个模型转移到另一个模型，从而大规模影响AI的准确性。

生成对抗网络(GANs)
生成对抗网络(GANs)是由两个相互对抗的AI组成——一个模拟原有的内容，另一个负责挑出错误。通过二者的对抗，共同创立出与原先高度契合的内容。

攻击者使用GANs来模拟一般的数据传输规律，来将分散系统的注意力，并且找到能使敏感数据迅速撤离的方法。

有了这些能力，攻击者可以在30-40分钟内完成进出。一旦攻击者开始使用AI，他们就能自动运行这些任务。

此外，GANs还可以用于破解密码、躲避杀毒软件和欺骗面部识别，并创造出可以躲避基于机器学习检测的恶意软件。攻击者能使用AI来躲避安全检查，藏在不能被找到的地方，并且自动开启反侦查模式。

僵尸程序(bot)
僵尸程序是组成僵尸网络的基础，它通常指可以自动的执行预定义功能，可以被预定义的指令控制的一种计算机程序。

数量庞大的僵尸程序通过一定方式联合，就可以组成僵尸网络。

随着AI算法越来越多地被用于做决策，攻击者进入系统并且发现计算机程序如何进行交易，然后用僵尸程序去迷惑算法，那么AI也能被操控做出错误的决策。

2.利用AI提升网络安全防护
当然，技术从来都是一把双刃剑，是贻害万年还是造福人类，全看使用技术的出发点。如今AI也被广泛应用于安全领域，以提升安全防护能力及运营效率。

智能数据分类分级
数据分类分级是数据安全治理的基石，只有对数据进行有效分类分级，才能在数据安全管理上采用更加精细的控制。

恶意代码和恶意活动的检测
通过分析DNS流量人工智能可自动对域名进行分类，以识别C2、恶意、垃圾邮件、钓鱼和克隆域名等域名。

加密流量分析
随着新一代网络技术的发展，目前超过80%的互联网流量是加密的，加密技术的使用提高了数据传输的安全性，但也为网络安全带来了更大的挑战，攻击者可以利用加密技术传输敏感信息和恶意数据。

目前，AI加密流量分析已经在实践中发挥了作用，但这项技术还处于新兴发展阶段。

检测未知威胁
基于统计数据，AI可推荐使用哪些保护工具或是需要更改哪些设置，以自动化地提高网络的安全性。

而且由于反馈机制，AI处理的数据越多，给出的推荐就会越准确。

此外，智能算法的规模和速度是人类无以比拟的，对于威胁的感知是实时的、不断更新的。

智能告警处置分析
告警分析是安全运营的核心内容，从海量告警中筛选出重要风险事件，给安全运营人员带来了沉重负担。给安全运营人员带来了沉重负担。而基于大数据的风险预警系统，可以通过对海量告警数据的分析，快速发现潜在风险，提前采取措施，降低风险发生的概率。

（编辑：驾考网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!