随着 工具和大型语言模型的普及，个人现在拥有令人难以置信的能力，可以前所未有地扩大其工作的数量和水平。 生成式人工智能 然而，所有伟大的进步都有阴暗面。 世界也未能幸免于这场革命，因为恶意行为者现在可以利用人工智能工具来智取组织并大规模利用漏洞。 网络安全 为了领先于新兴的人工智能威胁，您的组织做好充分准备至关重要。本文概述了您可以采取的应对这些挑战的基本步骤。 加强组织的安全基础 即使在人工智能工具普及之前，大多数组织也没有为严重的网络安全攻击做好充分准备。造成这种情况的原因有很多，但从本质上讲，保持强大的安全态势就像在跑步机上跑步一样。 总是有新的漏洞被发现和利用。当组织进行管理层变动、补充团队成员、实施新政策或累积技术债务时，恶意行为者不会袖手旁观。 网络安全岗位需求与专家供给之间的差距 。现实情况是，许多组织与他们面临的威胁相比已经落后了。建立一支强大的网络安全团队并授权他们开发持久的安全系统从未如此重要。 有据可查 掌握正确的安全基础知识 虽然新的人工智能技术可以加速黑客的攻击，但组织仍然需要执行基本的安全最佳实践： 关键应用程序是否启用了 MFA？ 您使用强密码吗？ 您是否到处都安装了端点安全和设备管理工具？ 您有防火墙和强大的网络安全设置吗？ 您是否定期轮换访问密钥？ 您在分配权限时是否遵循最小权限原则？ 通过减少整个攻击面的薄弱环节和可变性，您可以确保可维护的基线安全态势。如果您没有解决基础问题，那么无论坏人使用什么技术，您都容易受到攻击。 扩大跨团队的安全教育 您的安全性取决于您最薄弱的环节。在许多攻击中，只需要一名不警惕的员工就可以打开漏洞之门。对所有员工进行一致的教育和培训是强大安全态势的核心组成部分。 尤其是网络钓鱼攻击变得异常令人信服。使用生成式人工智能工具来构建网页、编写有说服力的消息，甚至通过某人的写作样本模仿某人的语气，都很简单。 具有较高网络素养和安全意识文化的组织具有竞争优势，并且更能抵御攻击。考虑一下您的安全培训计划对于整个公司的员工来说是什么样的。 您的常规培训目前未涵盖哪些威胁？ 您多久提醒员工社会工程学攻击危险信号？ 如何让员工更容易知道哪些行为是有风险的？ 通过提供安全教育和培训，组织可以确保其员工能够更好地检测和报告威胁。安全第一的公司文化有助于更轻松、更快速地响应安全团队的严重威胁。 监控攻击面并管理警报 为您的组织配备适当的工具来监控恶意活动和恶意软件至关重要。现在是时候考虑每一个可能的攻击面了：公司和个人设备、电子邮件收件箱、网络、暴露的数字资源、API、SaaS 应用程序，甚至公司办公室。 您是否拥有监控组织在各个领域的状态并通知您任何可疑活动的工具或流程？ 许多组织都有一个专门的安全运营中心 (SOC)，用于接收来自各种安全工具的警报，确定哪些警报是严重威胁的优先级，并进行调查以确定它们是严重的、受控制的还是误报。 如果您所在的大型组织具有较大的攻击面，您每天可能会看到数千个警报。 其中一些警报是您使用的工具固有的。例如， 将通知您可疑的登录尝试，并且 如果设备上检测到恶意软件，将会通知您。如果您的团队使用云安全或安全自动化平台设置了自定义规则和策略，您将收到满足该条件的事件的警报。 奥克塔 群众罢工 大规模分类安全警报是一门学科，需要您的团队不断迭代。他们必须优先考虑哪些警报需要彻底调查，哪些警报应通过自动化工作流程解决，以及可以实施和执行哪些策略以最大程度地减少常见的低级别警报。 如果您没有有效的方法来处理警报，您的团队最终会出现警报疲劳，更快地精疲力尽，并且难以充分利用他们的时间。 大规模启动主动安全自动化 到目前为止，我们已经了解了投资安全团队、实施基本安全最佳实践、创建安全意识文化以及监控整个组织内的恶意活动的一些基础知识。如果您的团队已经处于这个阶段，那么您已经准备好应对……2015 年的安全威胁了吗？ 安全形势不断变化。向云计算、SaaS 应用程序和新一代监控工具的转变大大增加了安全和 IT 团队的管理复杂性。 简化整个组织的沟通工作流程 要在 2023 年保持强大的安全态势，需要多个团队之间的协调。大型组织拥有专门针对特定安全用例的团队： 安全运营中心 (SOC) 身份和访问管理 (IAM) 治理风险与合规性 (GRC)  IT/SaaS 安全 云安全 为了创建简化的沟通并扩大安全团队的影响，您需要自动化的工作流程来将您的工具以无缝的方式连接到您的人员。 例如，当 Okta 发出 ，您的团队是否需要手动阅读警报、起草电子邮件或消息、将其发送给员工以验证他们是尝试登录的人，并在警报为误报时解决警报？ 可疑登录警报 当您可以花时间主动改善安全状况时，手动处理此类任务会带来严重的机会成本。 通过大规模现代自动化实施安全最佳实践 虽然以复杂的方式处理警报很重要，但采取措施实施安全最佳实践作为强制策略可以减少警报的总量。 例如，一旦您设置自动策略来检查新的 AWS S3 存储桶是否可公开访问，您就可以预先捕获不良的安全配置，并通知启动该存储桶的 AWS 用户他们需要更改设置。 如果没有自动运行此检查，您只能通过定期查询您的 AWS 账户并手动跟踪用户和更新设置来避免公共可访问的存储桶。为此所需的上下文切换使其不切实际，特别是考虑到有多少不同的 AWS 资源可能没有足够的安全设置。 在此框架中，请考虑您的团队创建自动化工作流程有多么容易。是否需要编写脚本或向安全分析师提交请求？ 您的团队创建自动化工作流程的能力（无论是处理警报、执行策略还是简化沟通）是对您日常工作影响的指数杠杆。 安全自动化以前需要编写脚本，然后出现了低代码工具，使您能够将操作拖放到画布中，并比以往更快地跨工具构建自定义自动化。现在，又发生了一次巨大的转变。 将人工智能功能融入您的安全系统 “创建新的 S3 存储桶时，请检查它是否可公开访问。如果可以公开访问，请通知 AWS 用户他们需要更新设置以阻止公开访问。” 这是两句话的安全工作流程。几行字能有多大的力量？比你想象的要强大得多。 将生成式人工智能引入安全自动化方程式意味着现在您所需要的只是生成自动化工作流程的提示。换句话说，将安全最佳实践转化为组织的主动安全策略从未如此简单。 这 这是一个关键时刻，因为恶意行为者也在采用人工智能技术来制定新的攻击并造成更多损害。 下一代安全自动化 如果您的安全基础设施脆弱或遗留，您可能已经为我们近年来见过的攻击类型做好了准备，但您可能无法适应我们尚未见过的新型攻击。 从根本上说，安全团队需要采用人工智能驱动的工具来更快地收集信息，大规模实施新的安全策略，并与目标员工实时交互以验证他们的身份并获取更多背景信息。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This writer has a vested interest be it monetary, business, or otherwise, with 1 or more of the products or companies mentioned within.

保护您的组织免受人工智能黑客的攻击

About Author

註釋

標籤

这篇文章刊登在

Related Stories

扬帆起航：利用数据湖开发生产级 RAG 应用程序

看不见的层面：为什么用户访谈是不可替代的资产

成功云迁移的完整指南：策略和最佳实践

Telegram：加密岛通往大陆的桥梁

扬帆起航：利用数据湖开发生产级 RAG 应用程序

看不见的层面：为什么用户访谈是不可替代的资产

成功云迁移的完整指南：策略和最佳实践

Telegram：加密岛通往大陆的桥梁

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps