尽管人工智能有很多显著好处，但恶意行为者似乎正在利用AI技术提高网络攻击的复杂性。

毫无疑问，人工智能的发展为许多企业带来了巨大的利益。在过去十年中，人工智能和机器学习的广泛采用促使许多组织成功利用这些技术，并将其纳入业务实践中，简化流程并提高生产效率。

如今，几乎所有行业的企业都在寻求将人工智能应用于其运营中的机会。然而，与任何行业一样，人工智能的进步也带来了技术的阴暗面。

网络安全公司BlueVoyant称，过去几个月网络犯罪景观发生了一些重大变化。该公司报告称，攻击者正在继续使用越来越复杂的技术编写恶意代码和高度逼真的网络钓鱼邮件。

我们现在看到了什么趋势？

BlueVoyant中东欧地区经理Balázs Csendes利用该公司威胁情报团队的调查结果揭示了人工智能和网络犯罪领域出现的趋势。

AI工具的密码出售

ChatGPT的登录凭证变得非常有价值。它们在暗网上被出售，就像其他在线服务的密码一样。网络犯罪分子通常使用信息窃取软件从不受保护的设备中窃取登录凭证和敏感数据，因为这种软件很容易部署，尤其是如果用户使用的是旧操作系统或已禁用自动保护。许多用户使用公司邮箱地址注册OpenAI，这种访问数据与私人邮箱地址相关的数据相比，在暗网上的价格略高，因为它具有敏感性。

WormGPT和其他开源工具

尽管ChatGPT被设计为防止其用于非法活动，但当然还有一些不受此限制的人工智能工具。WormGPT就是一个例子，开发人员旨在帮助网络安全专业人员测试使用该工具生成的恶意软件，并提升他们对威胁的防御能力。

尽管该网站包含了开发人员的警告，表示该工具不可用于犯罪目的，但事实仍然是它可以被用于非法活动。BlueVoyant的威胁情报观察到，已开发出WormGPT的一个变种，可以用于恶意目的，并且可以通过暗网订阅。这个变种可以生成多种编程语言的代码，并从毫无戒心的用户设备中窃取cookie和其他有价值的数据。

此外，WormGPT还可以用作支持网络钓鱼活动的工具。攻击者可以以精巧的语言和措辞编写高度说服力的信息，使骗人的电子邮件更难以识别。此外，它还可以用于识别合法服务，然后将其用于非法目的，例如用于大规模网络钓鱼活动的SMS短信服务。

将来预计会出现的趋势

BlueVoyant的威胁情报表明，随着人工智能的不断发展，网络犯罪分子可能会利用这些新技术创建增强的人工智能恶意软件，使其能够自主窃取敏感数据并逃避反病毒软件的检测。

此外，人工智能预计将帮助网络犯罪分子进行文档伪造，这意味着文档验证变得越来越重要。先进的人工智能工具可以更容易地伪造文件，使其能够通过在线筛选，从而实现非法活动，如虚假银行账户创建和洗钱。

展望未来，人们普遍担心人工智能在各个行业的应用会使就业岗位变得过时。然而，在网络犯罪领域，BlueVoyant的专家们指出，这种担忧尚未成为现实。相反，IT技能短缺已经波及到了网络犯罪领域，这实际上导致对那些接受良好培训并了解生成式人工智能（GenAI）的人才的巨大需求，其中一些人不幸地将其专业知识应用于非法活动。

随着世界各地的组织继续将人工智能工具整合到日常业务实践中，“黑暗面”的人工智能活动也在迅速增加。安全团队需要为即将到来的人工智能驱动的网络威胁做好准备，然而与此同时，这些威胁也在同时增加对网络安全专业人员的需求，这最终将有益于长远的商业环境。