Un hilo común está surgiendo a medida que las empresas compiten para construir y implementar sistemas de IA. Trabajan lo suficiente para que la gente comience a usarlos. Luego, alguien en la jurisprudencia pregunta: “Continúa, ¿podemos realmente explicar cómo esto condujo a esa decisión?”O una carta viene de un regulador.O un cliente hace una queja.Y de repente, el equipo tiene que apresurarse a añadir controles de transparencia, pistas de auditoría y marcos de gobernanza a algo que no estaba diseñado para acomodarlos en un primer lugar. El problema es que la adopción de la IA ha ocurrido más rápido de lo que la mayoría de las empresas pueden manejar de forma responsable.Hemos hecho el avión mientras lo volábamos.Y ahora sabemos que añadir cumplimiento a los sistemas de IA que ya están en uso es costoso, arriesgado y a menudo escondido con errores.En lugar de ser una fundación, la gobernanza se convierte en una reflexión posterior. AtScale, que ayuda a las empresas a establecer análisis gobernado, apoya la tendencia de construir la gobernanza directamente en las arquitecturas de IA en lugar de agregar controles más tarde.Es una idea simple pero radical: ¿Qué pasa si la confianza, la apertura y la responsabilidad no eran sólo cosas que se deben comprobar, sino que se incorporan al diseño? Los límites de la gobernanza retrofita La mayoría de las organizaciones tratan como ellos protegerían (construir primero y proteger después).Este enfoque puede crear problemas que se vuelven cada vez más difíciles de gestionar con el tiempo. La gobernanza La gobernanza La implementación retroactiva de controles de gobernanza puede crear contratiempos cuando cada equipo construye modelos basados en sus propias definiciones de términos como "ingresos" o "clientes", etc. Cuando dos o más equipos intentan gobernar esos modelos, por lo general descubren inconsistencias en cómo definen los mismos términos. El post-despliegue implementado por la gobernanza puede no seguir necesariamente cómo funcionan realmente los sistemas de IA. En el momento en que el equipo de cumplimiento revisa un modelo, ya se han tomado miles de decisiones. Además, estas herramientas suelen estar separadas de la infraestructura de datos que apoya el sistema de IA, por lo que agregar esta capa puede haber resuelto el problema original, pero también tiende a crear más complejidad. En la práctica, estas limitaciones se vuelven más visibles a medida que las organizaciones intentan moverse. , exponiendo modelos de gobernanza que fueron diseñados para entornos BI estáticos en lugar de sistemas autónomos, probabilísticos. AI initiatives from pilot to production Iniciativas de IA desde el piloto a la producción Qué significa "confianza por diseño" en la práctica Confianza por diseño se trata de integrar sistemas en los que la gobernanza está construida desde el principio, no agregada después del hecho.Cuando se implementa, no tiene que preguntarse: "¿Cómo vamos a auditar esta IA después de que se haya lanzado?" El cambio a la confianza por diseño ocurre en el nivel arquitectónico, antes de que se haga cualquier predicción única. Esto significa estructurar los datos de una manera que los haga transparentes, rastreables y responsables. El timing es el factor más importante que define la confianza por diseño. La gobernanza tradicional intenta comprobar y arreglar las cosas después de que se hayan puesto en uso. La confianza por diseño hace que la gobernanza sea fácil. Si su lógica empresarial está integrada en la capa de datos, cada herramienta y modelo que trabaja con esos datos incorpora las mismas reglas, definiciones y límites. El papel de los modelos semánticos en la transparencia de IA Los modelos semánticos son una valiosa manera de poner la confianza en la práctica a través del diseño, asegurándose de que todos los sistemas que lo necesitan comparten el mismo contexto, estandaricen las definiciones de negocios y muestren cómo se relacionan las métricas entre sí. a garantiza que un modelo de IA siempre devuelva la misma respuesta cuando se le pide "valor de vida del cliente", independientemente de si la solicitud proviene de un dashboard, un script de Python o una herramienta de IA generativa.Sólo tiene que definir la lógica una vez, y puede usarla en cualquier lugar.Esta coherencia hace posible ser abierto y honesto, porque puede encontrar la fuente de verdad para cualquier salida. El modelo semántico El modelo semántico Los modelos semánticos aclaran lo que significan las métricas y cómo se utilizan. aclaran el conocimiento ambiguo. Por ejemplo, AtScale utiliza la modelización semántica como base para el análisis preparado para la gobernanza. Según Dave Mariani, CTO y cofundador de AtScale, “se asegura que ‘clientes activos’, ‘leads cualificados’ o ‘ingresos netos’ signifiquen lo mismo, independientemente de si usted está pidiendo la pregunta en un agente de IA en Slack, consultando a través del lenguaje natural o tirando un dashboard”. Gobernanza construida en arquitectura: linealidad, responsabilidad, explicabilidad Cuando la gobernanza vive en la arquitectura misma, obtienes resultados específicos, mensurables y significativos al mismo tiempo que gestionas la IA de manera responsable. 
 
 
 
 Visibilidad en el linaje de datos: Los modelos con semántica pueden proporcionar visibilidad adicional en el linaje de datos (es decir, dónde surgieron los datos, cómo se transformaron y qué sistemas lo consumieron), así como rastrear cada cálculo y su fuente para alguien cuestionando una salida de IA. Lógica de decisión responsable: Incorporar la lógica de negocio en una capa central permite la responsabilidad al proporcionar claridad sobre quién creó cada regla, cuándo la creó y por qué. Salidas explicables: Cuando los sistemas de IA aprovechan modelos semánticos gobernados, la lógica se vuelve más comprensible (y por lo tanto explicable). Además de explicar lo que el modelo predijo, también puede explicar por qué los datos subyacentes estaban estructurados de una manera particular. Por qué esto importa para la ética, la regulación y el riesgo La discusión en torno a la IA ha pasado de “¿Podemos construir esto?” a “¿Deberíamos construir esto?” y “¿Cómo creamos la prueba de que la hemos construido de forma responsable?” Las organizaciones deben anticipar muchas preguntas difíciles de los reguladores, clientes y empleados sobre la responsabilidad, la equidad y la audibilidad. La confianza por diseño proporciona una oportunidad para abordar estas preocupaciones antes de que escalen a una crisis.Una estructura de gobernanza transparente y audible permite la visibilidad y el seguimiento de los procesos de toma de decisiones.Además, la transparencia dentro de una estructura de gobernanza permite la auditoría de posibles vicios y demuestra a las partes interesadas que los sistemas de IA utilizan una lógica consistente y documentada. AtScale cree que los desafíos asociados con la gobernanza están cada vez más vinculados a definir y compartir el significado de los datos en múltiples sistemas.Si su capa semántica define bias o definiciones inexplicables, cada modelo de IA entrenado en esa capa heredará tales problemas. sin embargo, si la capa es transparente, gobernada y audible, entonces se puede utilizar como parte de su estrategia defensiva contra la posible no conformidad. Diseñar confianza a medida que la IA se vuelve más autónoma Los sistemas de IA están tomando más decisiones con menos supervisión humana.Esta trayectoria es poco probable que se inverte. Las organizaciones pueden encontrar que la confianza no es algo que puedan agregar más adelante, sino que debe ser diseñado en la arquitectura desde el principio.Los modelos semánticos son una parte de ese conjunto de herramientas.Pero el principio más amplio se mantiene: si desea que la IA pueda defenderse, auditarse y confiar, necesita construir esas capacidades en la base, no en la fachada. La cuestión no es si gobernar AI. Es si usted ha construido la arquitectura para hacer posible la gobernanza en primer lugar. 
 
 Esta historia fue distribuida como un lanzamiento por Jon Stojan bajo HackerNoon's Business Blogging Program. Esta historia fue distribuida como un lanzamiento por Jon Stojan bajo HackerNoon's Business Blogging Program.

This story contains new, firsthand information uncovered by the writer.

Este audio es producido en el idioma original de la historia!

Confianza por diseño: incorporar la gobernanza directamente a la arquitectura de IA

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps