CACTER AI实验室通过使用清华ChatGLM大模型对百万级邮件数据进行实验分析，发现了AI大模型在钓鱼邮件检测中的三个亮点：

AI大模型在识别和捕获恶意邮件方面确实表现出了强大的能力，能够识别包括链接类型、社工类型、图片二维码类型以及附件文档类型在内的多种钓鱼邮件。然而，AI大模型在实际操作中可能会出现的误判的情况。

AI大模型展现出了强大的意图提取和分析能力，能够辅助鉴别邮件是否有诱导用户执行某些动作的意图，如打开附件或访问链接等。这个能力也可以帮助我们去鉴别这封邮件是否是钓鱼邮件的特征点去考虑。

CACTER AI实验室在进行实验时发现，即便训练样本中没有特定小语种的钓鱼样本，AI大模型仍能在测试集中识别出某些小语种的钓鱼邮件，显示出其跨语言的检测潜力。AI大模型的辅助能够帮助CACTER AI实验室识别和捕获企图利用小语种绕过检测引擎的钓鱼邮件。

APT（高级持续性威胁）攻击通常具有高度的隐蔽性和针对性，AI大模型在APT攻击检测上的应用展现了新的潜力：

相比于文本大模型，多模态大模型能够提供更加丰富的信息数据源，如文本、图像、音频数据等，以此来支撑钓鱼检测的进行。多模态大模型还可以对各种类型的信息进行综合运算，进行跨模态关联分析。

CACTER AI实验室会利用多模态大模型检测已知的钓鱼邮件。多模态大模型不仅基于文本理解能力，还能模拟视觉分析，处理图片和链接落地页等多媒体内容。通过分析邮件中的文本内容、图片以及链接指向的网页外观，模型能够做出初步判断，识别邮件的真实意图。

通过多模态大模型分析，不仅可以提升了对钓鱼邮件的识别率，还增强了产品对新型攻击手段的适应性和迭代能力。

AI给邮件安全领域带来的影响必定是双面的。通过模拟攻击者的角度，防守方能够更好地提升防御策略。攻击者也可以利用大模型以多种方式迭代其攻击手段，尝试绕过我们的防御系统。

攻击者可能会通过三个层次应用大模型：

• 初阶应用：利用历史攻击样本，批量生成新攻击邮件，减少人工操作。

• 中阶应用：发现防御产品的弱点，自动更新攻击邮件模板。

• 高阶应用：利用大模型的学习能力，深入了解防御手段，生成更难识别的攻击邮件，迭代绕过检测引擎。

作为防守方，我们可以利用AI大模型进行对抗训练和特征挖掘等策略进行防御。

• 对抗训练：利用大模型进行对抗性训练，提升反垃圾系统的性能。

• 特征挖掘：通过大模型分析新攻击样本，快速更新检测逻辑，以适应新型攻击。

AI大模型在邮件反钓鱼检测中的应用仍处于探索阶段，但其展现出的潜力令人鼓舞。随着技术的进一步发展和优化，AI大模型有望在邮件安全领域发挥更加重要的作用，成为邮件安全防护中不可或缺的一部分。

 

CACTER AI实验室将继续探索和应用AI大模型，更新迭代新型恶意邮件的检测能力，保持反垃圾品质稳步提升，保护用户的邮件安全。