Si alguna vez has pegado código propietario en un asistente de IA a las 2 de la mañana, ya has vivido la tensión que la IA confidencial está diseñada para resolver. la IA se ha propagado a través de las organizaciones de la manera en que las hojas de cálculo lo hicieron: en silencio, en todas partes, y más rápido de lo que la gobernanza puede seguir. Esta conveniencia amplía el radio de explosión de una infracción.El coste medio global de la infracción a $4.88M en 2024, un aumento del 10% respecto al año anterior. Solo en el primer semestre de 2025, 1.732 violaciones Más de 165 millones de discos. Rosa Expuesto Rosa Expuesto La cosa es que la seguridad tradicional maneja bien dos estados: los datos en reposo y los datos en tránsito, pero no los datos en uso.En ese momento, los datos generalmente se vuelven visibles al sistema, al hipervisor y a las personas que lo operan. Este “tercer estado”: ayuda a cifrar la información en la memoria y procesarla sólo dentro de un entorno de ejecución confiable (TEE): un enclave aislado por el hardware al que ni siquiera los operadores pueden entrar. Viene después Viene después Si puede probar remotamente dónde ocurrió la computación y confirmar que nadie se ha manipulado con ella, la "confianza" se convierte en una propiedad inspectable de la pila. La brecha que las políticas no pueden cerrar Los desarrolladores están enviando más rápido que nunca, y la IA es el acelerador.Pero la salida rápida y asistida por IA puede ser difícil de auditar y fácil de desplegar con un riesgo invisible, especialmente cuando la procedencia y la responsabilidad son confusas. sus limitaciones de seguridad. no puede. No se internalizan completamente No se internalizan completamente La reciente investigación de Keysight sobre la divulgación de PII La facilidad con la que la información sensible (el tipo de información que las empresas menos desean aparecer en los registros o en los sistemas de terceros) puede ser filtrada a través de las solicitudes y las salidas de modelos. Ahora están tratando "lo que se levanta en prompts" como algo medible, atacable y cada vez más regulado. Las banderas Equipos de Seguridad Las banderas Equipos de Seguridad Mientras tanto, el robo de credenciales sigue siendo obstinadamente eficaz. En ataques de aplicaciones web básicas, alrededor del 88% de las violaciones involucran credenciales robadas. Si la violación moderna a menudo comienza con "alguien conectado", entonces empujando el trabajo más sensible a más herramientas no solo agrega riesgo, sino que lo multiplica. En las implementaciones estándar, los prompts y el contexto deben existir en el texto simple en algún lugar para ser procesados. Puedes editar. Puedes filtrar. Pero en algún lugar en la pila, los datos deben ser legibles, lo que significa que son vulnerables. La computación confidencial cambia esa línea de base al ejecutar cargas de trabajo dentro de entornos de hardware aislados que mantienen los datos y el código protegidos durante la ejecución. Esto reduce quién (o qué) puede observar el proceso, incluidas las capas de infraestructura privilegiadas. La apuesta de Qatar: la AI confidencial se hace física La forma más rápida de saber si una categoría es real es ver dónde van el dinero y los megawatts. Qatar un centro de datos de IA confidencial que representa una de las primeras manifestaciones físicas de este cambio.La instalación utilizará chips de computación confidenciales (incluido el hardware de Nvidia) para mantener los datos cifrados a través de cada etapa del procesamiento. en el proyecto, con una inversión inicial de $ 183M y ambiciones para escalar con el tiempo. Está construido Están asociados Está construido Están asociados El papel de OLLM es especialmente importante aquí porque hay una diferencia entre reclamar el soporte para la IA confidencial y realmente construir la infraestructura necesaria para apoyarla. Su punto de vista es menos sobre "un mejor modelo" y más sobre una forma más segura de acceder y ejecutar un catálogo creciente de modelos. Una API que agrega el acceso a múltiples proveedores y modelos de IA mientras ofrece garantías de privacidad verificables. AI gateway como gateway "AI confidencial" es una frase fácil de golpear en una página de destino. Así que la prueba de credibilidad es simple: ¿puedes probarlo? Uno de los diferenciadores que OLLM enfatiza es una postura confidencial-compute-only asociada con Zero Data Retention (ZDR): los modelos se desplegan en chips de computación confidenciales, y la plataforma está diseñada para no retener llamadas o salidas. El único dato que OLLM mantiene es operativamente necesario (y deliberadamente no-contenido), como el consumo de token más los registros de certificación TEE que no están vinculados con los usuarios o los datos de los usuarios, por lo que las certificaciones se pueden mostrar públicamente para la transparencia en el panel de control de OLLM. Esa es la transición filosófica: tratar el “acceso al modelo” como una infraestructura crítica, donde minimizar los datos retenidos y hacer que la ejecución sea verificable son requisitos de primera clase de producto, El Olmo con Phala es la historia más clara de “probarlo” hoy en día. Se expande su huella a través de la infraestructura de IA confidencial de Phala, donde las cargas de trabajo se ejecutan dentro de TEE (incluyendo Intel TDX, AMD SEV y computación confidencial de GPU de clase Nvidia H100/H200). Eso importa porque cada inferencia puede generar una certificación criptográfica que demuestra que se ejecutó en hardware TEE genuino, no en una VM estándar con una política de confianza. Asociación Asociación El NEAR AI también está construyendo una infraestructura de inferencia privada alimentada por TEEs. Esto significa que los desarrolladores pueden pensar en términos de inferencia confidencial como un primitivo compostable (Phala es una ruta; la inferencia privada de NEAR AI es otra). Bottom Line: Por qué los desarrolladores deben preocuparse Para los desarrolladores, la IA confidencial puede desbloquear flujos de trabajo que antes eran incómodos, arriesgados o atrapados en el limbo de la revisión de seguridad. Se extiende directamente a dónde se puede utilizar la IA en la práctica. Datos propietarios como libros de texto internos, diseños de productos, inteligencia competitiva pueden pasar a través de los sistemas de IA sin ser capturados en los registros de terceros. Para las industrias reguladas, ese cambio es aún más consecuente. En lugar de ser solicitados para "confiar" en cómo se manejan los datos, los bancos y los proveedores de atención médica pueden apuntar a la certificación criptográfica como evidencia, cambiando las discusiones de cumplimiento de la evitación de riesgos a la implementación controlada. La misma lógica se aplica fuera de entornos fuertemente regulados. Los equipos bajo presión para enviar rápidamente no se vuelven de repente menos expuestos cuando un prototipo se convierte en un producto. La ejecución confidencial permite mantener la velocidad de iteración al mismo tiempo que restringe lo que la inferencia puede revelar. Los agentes de IA comienzan a gestionar credenciales, desencadenar llamadas de API e interactuar con sistemas sensibles. Por lo tanto, la capacidad de ejecutarlos sin exponer sus instrucciones o datos, incluso a los operadores que ejecutan la infraestructura, se convierte en un requisito de base en lugar de una característica avanzada. A medida que la IA se incorpora a los flujos de trabajo reales, el punto más débil de la pila ya no es el almacenamiento o el transporte, sino la ejecución.Datos en uso es donde la información sensible es más expuesta y menos controlada.La computación confidencial no resuelve todos los problemas de seguridad, pero cierra una brecha que las políticas, los contratos y los controles de acceso no pueden.Para que la IA pueda pasar de la experimentación a la infraestructura, esa brecha debe ser abordada.

This story contains new, firsthand information uncovered by the writer.

This writer has a vested interest be it monetary, business, or otherwise, with 1 or more of the products or companies mentioned within.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Este audio es producido en el idioma original de la historia!

La capa que falta en la seguridad de la IA: por qué "los datos en uso" son el próximo campo de batalla

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps