加拿大网络安全机构负责人表示,黑客和宣传人员正在使用人工智能(ai)创建恶意软件令人信服的网络钓鱼邮件,以及在网上传播虚假信息。这是早期证据,表明正在席卷硅谷的技术革命也被网络犯罪分子所利用。
在本周的一次采访中,加拿大网络安全中心负责人萨米·库利说,他的机构已经看到人工智能被用于“网络钓鱼邮件,或者以更集中的方式制作电子邮件,恶意代码(以及)错误信息和虚假信息。”
他指责网络犯罪分子已经在使用人工智能,这为一场混乱的合唱增加了一个紧急的音符乐特·一个拉关于流氓行为者利用新兴技术的担忧,但Khoury没有提供任何细节或证据来支持他的说法。
在过去的几个月里,几个网络监督组织发布了警告关于人工智能的假设风险,特别是被称为大型语言模型(llm)的快速发展的语言处理程序。这些节目利用大量的文本来制作听起来令人信服的对话元素,以及其他类型的内容。
今年3月,欧洲警察组织欧洲刑警组织(Europol)发布了一份报告,称OpenAl的ChatGPT等模型使“窃听”成为可能以一种高度现实的方式看待一个组织或个人,即使没有对英语只有基本的掌握。同月,英国的国家美国网络安全中心在一篇博客文章中表示,犯罪分子“可能会利用法学硕士来帮助进行超出他们目前能力的网络攻击”。
网络安全研究人员显示一系列潜在的有害的用例,和他们中的一些人现在说他们开始在野外发现信息,他们认为是由艾尔,上上个星期,曾当过黑客的人说,他发现了一个训练LLM恶意材料他要求这样写可能努力欺骗某人执行银行转账。
法学硕士回应最后是一封三段的电子邮件,要求对方帮忙开一张紧急发票。“我知道这可能是临时通知,”法学硕士表示,“但这笔付款非常合理。很重要,需要在24小时内完成。
Khoury表示,虽然使用人工智能起草恶意代码仍处于早期阶段——“仍有一段路要走,因为编写一个好的漏洞需要很多”人们担心的是,人工智能模型发展得如此之快,以至于在它们被释放到野外之前,很难掌握它们的恶意潜力。这是一个co。尽管使用人工智能来起草恶意代码仍处于早期阶段,但他仍然感到担忧。
谁知道接下来会发生什么,他说。
电话咨询