关于安全、有保障和值得信赖的ai开发和使用的行政命令就如何确保这项新兴技术的安全提供了指导——这是以前的订单所缺乏的，它还概述了与ai快速加速相关的挑战。虽然ceo寻求让国内使用ai安全、可靠，但也许最高的任务是竞相为好人利用ai的潜力，并防止将其用于坏人。这就提出了一个问题：在接下来的五年里，谁将受益更多——捍卫者还是攻击者？答案是：目前还不清楚。
有一点是肯定的，防御者和攻击者都希望获得生成性ai的优势。在这一点上，我们无法预测的是，是否会有一方占上风，这是一场需要双方投入时间、精力和费用的比赛，双方都将看到爆发式的成功。
它不一定要完全混乱。公司、安全从业者和政府机构现在可以采取措施，确保他们跟上攻击者的步伐，甚至可以通过更多的协作、持续的立法框架和安全的创新空间来发挥带头作用。
ai为威胁参与者和安全团队提供力量
对于攻击者来说，ai为社会攻击和模仿攻击增加了前所未有的速度和力量，特别是在规模上。如果没有ai，针对cfo电子邮件的网络钓鱼攻击对攻击者来说是耗时的，因为他们必须首先筛选旧电子邮件，以获得沟通风格的感觉，然后才能在钓鱼电子邮件中模仿它。genai模型已经证明了熟练的写作能力，它们很快就能做到这一点，从而实现了更多的威胁战役。在攻击者目前可以一次发起十次钓鱼或电子邮件泄露攻击的地方，ai将使他们能够在几秒钟内点击一个按钮执行一千次攻击。
这些类型的攻击之所以成功，是因为攻击者一次可以瞄准更多的潜在受害者，这无疑与ai的火力成倍增加。当被用于邪恶时，genai已被证明会加剧攻击强度和后果的严重性。
当然，攻击者的这些炮轰不会被忽视。该行业将用ai支持的技术进行反击，该技术可以检测并响应这些类型的攻击，但这些对策可能需要六个月的时间才能制定出来，在此期间会让许多公司变得脆弱不堪。
军备竞赛就是这样进行的，例如，有报道称，恶意ai聊天机器人的开发者正在开发更复杂的工具，其中一个工具使用整个黑暗网络作为其大型语言模型的知识库。
与此同时，网络安全行业也在响应这一号召，并利用ai进行积极的改进，一个明显的例子是修复现有的安全漏洞，这主要是一个手动的、耗时的过程，这一点，再加上紧张的资源，使传统产品变得脆弱不堪。随着自动攻击的持续增加，手动修复缺陷不再站得住脚。我们现在可以使用ai在软件开发过程中左移，并在一开始就消除漏洞，优先进行自动修复。
ai将在未来几年内在网络安全的每一个类别中实现这种创新，ai模型将作为安全运营中心(soc)团队的初级助理运行。人们希望，随着更少的漏洞进入开发过程，就越容易缓解和防御威胁。
同一战线：行业和政府应该在ai军备竞赛中结成伙伴
genai发展如此之快，以至于很难预测网络军备竞赛的结果。我们所知道的是，协作是关键。虽然《雇佣条例》中规定的监管是重要的一步，但它不会解决所有问题。
随着科技公司不断推出ai产品，它们在竞争中扮演着关键的凯发在线的合作伙伴角色。虽然他们绕过了赛道的角落，但他们从客户那里获得的反馈对于塑造未来的ai法规至关重要，这些法规将促进创新、保护数据并解决社会关切。公私凯发在线的合作伙伴关系在各个行业已经使用了几十年，对ai的需求也没有什么不同。政府和科技行业之间的合作是为ai创新和安全蓬勃发展创造一个安全空间的关键。
至关重要的是，行业和政府应不断评估为保护公众不受限制地使用ai而设置的护栏，无论是网络罪犯还是老牌公司。首席运营官承诺制定标准，确保ai系统是安全的，并针对一系列严格的资格进行测试，这些资格和标准将需要随着时间的推移而完善，才能真正标准化。
美国商务部还将制定水印和内容认证指南，以明确标记ai生成的内容，而alphabet、meta和openai等公司已经承诺实施此类措施，这种做法与美国特勤局(us secret service)在彩色复印机和打印机制造商变得足够先进、可以伪造货币后，让制造商在打印页面上添加数字水印的做法产生了共鸣，然而，它确实给不良演员带来了一系列独特的挑战，以供滥用。
为了确保负责任地开发和部署ai技术，我们的立法框架必须继续演变，以透明度、可见性和理解为基石，科技行业和政府可以共同努力，降低风险，对抗威胁。
采用积极主动的方法来实现genai
我们正在进入网络安全军备竞赛的新阶段，ai占据了主导地位。任何新技术都是一把双刃剑，genai的力量和潜力让它的锋芒格外锋利。
猫捉老鼠的游戏才刚刚开始。军备竞赛将如何发展还不确定，但至关重要的是，行业和政府的捍卫者都要积极主动。好消息是：ai以前所未有的速度推出了具有里程碑意义的法规。当我们拥抱这片未知领域时，改进我们的防御性ai战略必须是一项全力以赴的努力。
企业网d1net(www.d1net.com)：
国内主流的to b it门户，同时在运营国内最大的甲方cio专家库和智力输出及社交平台-信众智(www.cioall.com)。同时运营19个it行业公众号(微信搜索d1net即可关注)。
凯发在线的版权声明：本文为企业网d1net编译，转载需在文章开头注明出处为：企业网d1net，如果不注明出处，企业网d1net将保留追究其法律责任的权利。