AI慢写人写邮件,引起关注每天数以百万计的网络邮件由威胁行为方发送到世界范围以诱导用户泄露个人标识信息或其他关键信息,如信用卡证书或银行账户细节一组研究人员如何利用AI写网际邮箱,这些邮箱似乎比人写邮箱更现实

Spearphishing是一种社会工程技术,面向目标个人传播机密信息创建高度定向大规模搜网邮件需要花很多精力和时间最近由一组研究人员进行的测试发现,他们可用自然语言处理设计定向网钓邮件研究结束时,团队发现AI/ML可用于开发毁灭性打叉运动

AI能写出比人类更好的钓鱼邮件

最近在拉斯维加斯举行的黑帽安全大会上, 一组来自新加坡政府技术局的研究人员展示了他们的AI/ML生成网络邮箱测试结果事件展开方式如下:

• 团队表示,他们使用Genement预培训变换器3自回归语言模型并用AI-A-Service平台创建phishing邮件
• 测试方式是向200多位同事发送目标钓鱼邮件同时,他们还发送手写邮箱,而GPT-3没有帮助
• 与实际phishing邮件不同,这些邮件不包含恶意链接或附加物,而只是链路向团队发送全点通计数
• 团队惊讶地发现GPT-3生成邮件成功率远高于人工编译邮件

为何它引人关注

Eugene Lim表示,网络安全专家 运行测试, 需要大量时间和精力培训开发良好的AI模型, 并可能耗资巨资。但如果成功开发并使用它创建AI-as-service模型,可以省下大量时间和未来努力使用该服务发送网络邮箱

威胁行为方若掌握这一方法, 则可能产生灾难性后果, 因为他们能发送散装邮件 面向成千上万无疑个人

OpenAI如何在防止恶意使用AI

OpenAI是GPT-2、GPT-3和DALL-E的创建者,它表示,所有GPT3访问请求都与产品直播前生产用法一起监控

OpenAI还指出,他们正不断努力提高系统精度,以免它落入恶意行为方之手。开放AIAPI访问难度很大, 需要通过各种检验和计量方法, 市场中还有其他AI服务对象,

终句词

支持网钓实验团队使用AI-A-Service产品设施GPT3深学习模型学习同僚的特征和行为并同时生成大规模定向长矛邮件活动证明人工智能工具可证明双刃剑一方面,它们能帮助垃圾邮件检测工具识别并分解邮件和普通邮件,另一方面,如果误用,它们能帮助威胁行为方大规模启动phishing攻击