亚太地区正面临因“黑暗人工智能”（Dark AI）崛起而带来的更复杂、更隐蔽的网络攻击。这是全球网络安全与数字隐私公司卡巴斯基（Kaspersky）专家近期发布的最新研究结果之一。
卡巴斯基全球研究与分析团队（GReAT）META及亚太区负责人Sergey Lozhkin指出：“自从ChatGPT在2023年风靡全球以来，我们看到了AI在各领域的积极应用，从视频创作到威胁检测与分析。但与此同时，黑客也在利用AI提升攻击能力。我们正进入一个新时代：在网络安全与社会层面，AI是盾牌，而黑暗AI则是利剑。”“黑暗AI”指在本地或远程环境中部署、运行不受限制的大型语言模型（LLM），并将其构建为完整的框架或聊天系统，用于恶意、不道德或未经授权的用途。这类系统绕过了常规的安全、合规和治理机制，能够执行欺骗、操控、网络攻击和数据滥用等行为。
Lozhkin介绍，目前最常见的黑暗AI应用是“黑帽GPT”（Black Hat GPTs），自2023年中期便已出现。这类模型被刻意设计或修改，用于生成恶意代码、撰写具有欺骗性的网络钓鱼邮件（无论是群发还是定向攻击）、制造语音与视频深度伪造内容，甚至支持红队演练。
已知的黑帽GPT包括 WormGPT、DarkBard、FraudGPT 和 Xanthorox，均被用于网络犯罪、诈骗与恶意自动化操作。
比黑帽GPT更令人担忧的是，卡巴斯基专家已观测到国家级威胁组织（APT）开始在攻击行动中使用LLM。
Lozhkin强调：“OpenAI近期披露，他们已阻止超过20起试图滥用其AI工具的隐蔽网络与信息操纵行动。未来，攻击者会创造更隐秘、更巧妙的方式，将生成式AI武器化，并在公开与地下威胁生态中运作，我们必须做好准备。”
根据OpenAI的报告，这些恶意分子利用LLM创建逼真的虚假身份，实时与目标互动，并生成多语言欺骗性内容，以规避传统安全过滤。
Lozhkin提醒：“AI本身不懂善恶，它只会遵循指令。即便设有防护措施，APT依旧会不懈尝试。随着黑暗AI工具的普及与增强，亚太地区的组织与个人必须加强网络安全卫生，投资基于AI的威胁检测，并保持对AI滥用方式的警惕。”
