作者: Matthew Kayser 作者: Matthew Kayser 人工智能现在在现代企业核心基础设施内部运作,模型影响物流网络、金融系统、欺诈检测管道和自动化决策平台,随着人工智能工作负载在分布式环境中扩张,安全挑战正在转变。 网络安全研究员兼副教授 他的方法将人工智能治理视为一个工程学科,而不是一个合规练习,他认为人工智能系统作为动态实体行为,需要持续监控,验证和运营监督。 阿舒克·库马尔·卡纳加拉 阿舒克·库马尔·卡纳加拉 对于安全架构师和云工程师来说,影响很明显,您不仅仅是保护基础设施,您还保护数据管道、模型输出和日益推动企业运营的决策逻辑。 人工智能治理成为战略风险类别 人工智能在企业系统中的扩张使人工智能治理成为董事会层面的问题,算法系统影响金融市场,物流网络,医疗保健运营和其他关键基础设施。 因此,AI风险治理现在在企业监督讨论中与金融风险和运营风险并行。 许多组织仍然将传统的安全模型应用到人工智能环境中,而静态合规控制是专为确定性软件而设计的,而人工智能模型则作为演变行为的概率系统。 因此,有效的AI风险管理需要生命周期治理,安全性必须跨越数据摄入验证、培训管道控制、安全部署工作流程、运行时间监控和持续评估,在实践中,企业AI安全成为架构本身的一部分,而不是外部审查层。 AI系统不断扩大的攻击表面 人工智能引入了与传统网络安全漏洞不同的威胁,模型操纵可以通过受毒的数据集、受损的训练信号或扭曲预测的敌对输入来发生。 即时注射攻击是另一个日益增长的担忧,与外部系统互动的生成模型可以被重定向,产生意想不到的输出或触发自动操作。 机器学习安全策略越来越依赖于自主的AI安全测试环境和结构化AI红色团队演习,这些模拟使组织在部署前能够对模型进行对抗。 Kanagala强调,人工智能风险往往集中在推断完整性上,而不是基础设施妥协上。 确保AI的供应链 现代AI系统依赖复杂的依赖链,包括开源库,预先训练的模型,数据集和云服务。 没有验证机制,组织可能会部署模型,其起源和培训过程仍然不确定。 因此,研究人员正在探索围绕AI软件账单的材料构建的框架,通常被称为AI-SBOM。 模型起源和完整性跟踪增强了这种方法。起源记录允许组织验证模型起源地点,如何训练,以及组件是否在部署过程中发生了变化。 对机器身份的零信任 随着人工智能在分布式基础设施中扩展,身份管理成为安全架构的核心。 零信任架构必须超越人类用户,包括机器身份,自动代理,模型终端,管制服务和自动管道都需要持续的身份验证和授权。 在现代云安全架构中,这种方法确保了AI组件之间的每个交互进行验证,这些控制支持跨多云AI工作负载环境的企业AI安全,其中数据管道和模型在多个平台上运作。 治理作为基础设施 金融市场、医疗保健系统、物流网络和数字服务越来越依赖自动化决策系统。 Kanagala 认为,长期的韧性取决于将治理融入基础设施本身,组织必须将人工智能基础设施安全、云风险管理和负责任的人工智能实施直接整合到工程工作流程中。 那些将适应的组织将构建用于弹性的系统,那些将人工智能治理视为后期风险,将系统脆弱性引入到日益塑造现代经济的数字系统中。 
 
 这个故事是由Jon Stojan在HackerNoon的商业博客计划下发布的。 这个故事是由Jon Stojan在HackerNoon的商业博客计划下发布的。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

該音頻是用故事的原始語言製作的！

为什么人工智能安全必须演变为生命周期治理

About Author

註釋

標籤

这篇文章刊登在

Related Stories

数字游民请注意：您需要了解泰国新推出的 DTV 签证

想赢得 HackerNoon 写作比赛吗？以下是 #crypto-api 比赛获奖者的推荐

Telegram：加密岛通往大陆的桥梁

从论坛到信息流：社交媒体算法如何塑造数字互动

数字游民请注意：您需要了解泰国新推出的 DTV 签证

想赢得 HackerNoon 写作比赛吗？以下是 #crypto-api 比赛获奖者的推荐

Telegram：加密岛通往大陆的桥梁

从论坛到信息流：社交媒体算法如何塑造数字互动

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps