Durante la última década o más, el ritmo de desarrollo de la IA ha garantizado sin duda el bienestar de millones de personas, y, con un pequeño esfuerzo para mantenerse en tal trayectoria, la tecnología seguramente permanecerá así durante décadas más. En mi opinión, sin embargo, las acciones recientes emprendidas por muchas empresas de IA, así como los gobiernos de muchos de los principales desarrolladores de IA, en conjunto constituyen un desvío del camino hacia el beneficio de la humanidad. Inspirado por las implicaciones de la función Grok Companions, este artículo discute la necesidad de regulación gubernamental, refuta los equívocos comunes utilizados para defender la distribución comercial de varios chatbots de IA, y propone cómo la futura legislación podría controlar o prohibir las brechas de seguridad dentro de los modelos actuales de chatbots. Los problemas de Groucho Grok siempre ha mantenido un lugar como uno de los modelos comerciales de IA más controvertidos desde su creación, convirtiéndose periódicamente en un foco simbólico para la cuestión del control corporativo sobre los modelos de IA en los intentos hilariamente fallidos de Elon Musk de usarlo como una herramienta para avanzar una agenda pró-derecha en X. Sin embargo, recientemente, Grok empujó su nueva característica Companions, que atrajo aún más controversia. En la superficie, la característica Companions es una serie de chatbots en recuerdo de los servicios de chatbot anteriores como los ofrecidos por Meta AI y Los dos primeros compañeros incluyen a Rudi, una panda roja jurando, y Ani, una chica de anime rubia, ambos compuestos por una versión ajustada de Grok, así como un avatar acompañante. Características.es Características.es Una variedad de informes en línea corroboran las características inherentemente románticas del chatbot, con varios revisores tomando nota particular de los “niveles de amor” que un usuario puede asegurar para desbloquear cada vez más conversaciones sexuales, junto con los cambios que acompañan al avatar. Dado que no tengo la voluntad de comprar la suscripción SuperGrok de 30 dólares al mes para acceder a la función Companions, no pude verificar de forma independiente algunas de las alegaciones sobre el chatbot; por otro lado, Internet parecía estar de acuerdo en una cosa: este chatbot particular era excesivamente audaz. Rudi, por lo cuestionable que parezca, atrajo mucho menos controversia. El dibujo animado Red Panda tiende a insultar insultos y chistes oscuros que muchos hallaron divertidos y ridículos. Muchos revisores tienden a dejar de lado este personaje, en lugar de rechazarlo como menos importante, principalmente atendido hacia los niños de Gen-Z. En cambio, lo que me interesó fue el proceso distinto y la recepción de este chatbot romántico.En primer lugar, Companions es, entre los productos lanzados por los “líderes de la industria” de la IA (por ejemplo, OpenAI, DeepMind, Anthropic, Meta), el primer chatbot diseñado específicamente para participar en el juego de rol romántico, a pesar de las preocupaciones éticas comunes de alegar efectos psicológicos a largo plazo a la explotación de la demografía vulnerable. La distintiva poca regulación que rodea a chatbots como estos me salió de inmediato, además de que, además de responder a unas pocas voces disidentes, xAI fue capaz de liberar el producto con impunidad. ¿Debería la nueva tecnología ser vigilada de cerca para proteger a los usuarios, o darle libertad para crecer y ser desarrollada? Responsabilidad e innovación Como con todas las tecnologías incipiente, los efectos psicológicos del uso del chatbot de IA en los seres humanos no son ni científicamente probados ni empíricamente aparentes. una correlación negativa entre el bienestar y el uso de chatbots. encontrado encontrado A pesar de esto, estas tecnologías relativamente desconocidas todavía están bien en el proceso de invadir los medios de comunicación principales. Al considerar si estas tecnologías son realmente dañinas o no, los comentaristas de tecnología y los formuladores de políticas ignoran el punto crucial de que tal consideración debería, idealmente, nunca ser una preocupación necesaria en primer lugar dentro de las tecnologías comerciales. Experiencia de un fracaso catastrófico. Puede Del mismo modo, los participantes en los ensayos clínicos no estarían bien al saber que numerosos animales no los habían precedido en el proceso de ensayo. Uno de los principios más clave de la ingeniería es que, sin importar lo que suceda, la seguridad siempre viene primero. Para obtener una idea de los peligros potenciales de estos chatbots, en cualquier caso, solo necesitamos mirar los ejemplos de dos adolescentes cuyos suicidios han sido vinculados a la IA siendo cómplices en su idea suicida. Muchos defensores de la doctrina actual “desarrollar ahora, arreglar más tarde” apuntan a lo obvio: estamos encerrados en una carrera de innovación con China. De hecho, encerrado en una “carrera de armas” de IA, y los productos de nuestro tiempo probablemente se adaptarán dentro de los arsenales de la ciberguerra, entre muchas otras cosas.Pese a esto, afirmo que la necesidad de innovación no es un caso para descuidar la seguridad – nunca podemos asumir que el rápido progreso tecnológico es mutuamente exclusivo con la seguridad del consumidor. que son, 
 
 “La seguridad y la mejora de los productos ocurren como resultado de las deficiencias y fallas encontradas dentro de la implementación generalizada”. “La seguridad y la mejora de los productos ocurren como resultado de las deficiencias y fallas encontradas dentro de la implementación generalizada”. Aunque estas pruebas se han llevado a cabo sin duda (notablemente, OpenAI lanza nuevos modelos a los usuarios Pro antes que otros tipos de usuarios), no es una exageración decir que la implementación masiva de muchos chatbots comercialmente disponibles se lleva a cabo de tal manera que descuida la seguridad del usuario, con muchos modelos de ChatGPT. Incluso si la implementación comercial fuera necesaria para encontrar muchos de estos problemas, sería mucho más razonable si se tomaran medidas de seguridad adecuadas para garantizar la seguridad de los grupos de usuarios vulnerables, lo que actualmente no es el caso. Fracaso Fracaso 
 
 “La implantación consistente y generalizada de nuevos modelos resulta en transcripciones de chat que aceleran enormemente el entrenamiento de nuevos modelos, a diferencia de los productos tradicionales no de IA, ninguno de los cuales se beneficia proporcionalmente de una mayor base de comentarios de los usuarios”. “La implantación consistente y generalizada de nuevos modelos resulta en transcripciones de chat que aceleran enormemente el entrenamiento de nuevos modelos, a diferencia de los productos tradicionales no de IA, ninguno de los cuales se beneficia proporcionalmente de una mayor base de comentarios de los usuarios”. Las transcripciones de chat generalmente no se procesan verbalmente como parte de los procesos de RLHF utilizados por empresas como OpenAI y Google. Aunque en realidad pueden informar el modelo de seguridad y compromiso de los chatbots correspondientes, los tubos de datos separados, principalmente de alta calidad, datos técnicos creados o verificados por humanos, influyen en los aspectos de la capacitación de IA más pertinentes para desarrollar el rendimiento del razonamiento y otros tipos de conocimiento especializado (por ejemplo, codificación, solución matemática, etc.). Esperemos que haya demostrado que la necesidad de innovación no es la causa raíz de estas brechas de seguridad, sino la falta concertada de esfuerzo en los protocolos de seguridad y las pruebas. El papel de la regulación La solución obvia a la falta de estándares de seguridad mencionada anteriormente es simplemente aumentar la regulación gubernamental de la práctica de entrenamiento y distribución de chatbots. Lo que no es obvio, sin embargo, es cómo esta propuesta altamente ambigua se haría en la práctica. A principios del siglo XX, los Estados Unidos aprendieron a través de la Prohibición la importante lección de que las prohibiciones duras y generalizadas sobre un producto dañino no funcionan. En cambio, prohibir el alcohol sin quitar la sustancia de su deseabilidad simplemente llevó a una fiebre del mercado negro, aumentando en lugar de disminuir el consumo total de alcohol. A finales del siglo XX, para combatir el consumo masivo de cigarrillos, el gobierno estadounidense tomó un enfoque diferente: en lugar de prohibir abiertamente el uso de cigarrillos, redujeron la deseabilidad social de los productos del tabaco mediante la publicación de informes ampliamente circulados que detallaban cómo podrían causar cáncer de piel, obligando a las compañías de cigarrillos a colocar disclaimers visibles en cada producto, y limitando la pervasividad de la publicidad del tabaco. El consumo de cigarrillos se sitúa desde un pico histórico de casi 4.000 a aproximadamente 800 cigarrillos por habitante por año. decadencia decadencia Para alejarse de la historia, el control del gobierno sobre los chatbots inseguros debería ir más allá de las barreras legales del consumo y el desarrollo. También deberían buscar disminuir la percibida tolerancia social del consumo de estos productos, ya sea a través de campañas o de investigación pública. A pesar de esto, todavía no está claro en qué medida el gobierno puede realmente influir en cambios sociales más amplios, con la opinión pública actual dirigida hacia las tendencias de las redes sociales virales en mayor medida que hacia los cambios político-económicos. Escrito por Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Este audio es producido en el idioma original de la historia!

Desmentir la doctrina de la "innovación contra la seguridad" en la regulación de la IA

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Telegram: el puente de Crypto Island hacia el continente

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Telegram: el puente de Crypto Island hacia el continente

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps