El ritmo de desarrollo de   ha alcanzado un crescendo natural. Herramientas como   ,   ,   , etc., y sus creadores afirman que pronto podrán cambiar todas las facetas de la sociedad, desde la atención médica y la educación hasta las finanzas y el entretenimiento. Esta rápida evolución plantea preguntas cada vez más críticas sobre la trayectoria de la IA: los beneficios de la tecnología, sí, pero también (¡   ) los riesgos potenciales que plantea para todos nosotros. la Inteligencia Artificial GPT-4 Gemini Claude principalmente!  En estas circunstancias, escuchar, comprender y prestar atención a las perspectivas de los expertos se vuelve crucial. Una encuesta reciente titulada “   representa el esfuerzo más amplio para evaluar las opiniones de dichos especialistas sobre el potencial de la IA. Realizado por   y su equipo en   , en colaboración con investigadores de la Universidad de Bonn y la Universidad de Oxford, el estudio encuestó a 2.778 investigadores, buscando sus predicciones sobre el progreso de la IA y sus impactos sociales. Todos los contactados habían escrito previamente artículos revisados ​​por pares en lugares de IA de primer nivel.  ” Miles de autores de IA sobre el futuro de la IA Katja Grace AI Impacts  Conclusiones clave del futuro del estudio de la IA  En resumen, la encuesta destaca la enorme complejidad y amplitud de las expectativas y preocupaciones entre los investigadores de IA con respecto al futuro de la tecnología... y sus impactos sociales.  Los expertos predicen que la IA alcanzará hitos importantes ya en 2028: “   ”. como codificar un sitio completo de procesamiento de pagos desde cero y escribir nuevas canciones indistinguibles de las reales de artistas de éxito como Taylor Swift  Una mayoría significativa de los participantes también cree que los mejores sistemas de IA probablemente alcanzarán capacidades muy notables en las próximas dos décadas. Esto incluye encontrar “   ” (82,3%), hablar “   ” (81,4%) y comportarse con frecuencia “   ” (69,1%). formas inesperadas de lograr objetivos como un experto humano en la mayoría de los temas de maneras sorprendentes para los humanos  Además, el consenso sugiere un 50% de posibilidades de que la IA “   ” a los humanos en   las tareas para 2047,   . supere todas una proyección que ha avanzado 13 años en comparación con  las previsiones realizadas un año antes  Actualmente se prevé que la probabilidad de que todas las ocupaciones humanas se vuelvan “   ” alcance el 10% para 2037 y el 50% para 2116 (en comparación con 2164 en   ).  completamente automatizables la encuesta de 2022  La encuesta indica escepticismo sobre la interpretabilidad de las decisiones de IA, y solo el 20% de los encuestados consideran probable que los usuarios puedan "   " para 2028. La IA es (infamemente)   , y esta preocupación refleja desafíos reales y actuales en materia de transparencia de la IA. Esto es particularmente relevante en aplicaciones críticas (finanzas, atención médica...) donde comprender la toma de decisiones de la IA es crucial para la confianza y la responsabilidad. comprender las verdaderas razones detrás de las elecciones de los sistemas de IA una caja negra  El estudio también destaca preocupaciones "   " con respecto a los posibles impactos negativos de la IA. La difusión de información falsa, la manipulación de la opinión pública y los usos autoritarios de la IA crean, como era de esperar, una preocupación sustancial. Los llamados a medidas proactivas para mitigar estos peligros son muy pocos hoy en día,   .  importantes y eso es un problema  Existe una amplia gama de opiniones sobre los impactos a largo plazo de la inteligencia artificial de alto nivel, y una parte notable de los encuestados atribuye probabilidades distintas de cero a resultados extremadamente buenos y extremadamente malos, incluida la extinción humana. Eso es científico para "   ". Pero...   , lo que parece algo a lo que deberíamos estar atentos. no sabemos qué va a pasar después entre el 38% y el 51% de los encuestados dieron al menos un 10% de posibilidades de que la IA avanzada condujera a resultados tan malos como la extinción humana  Por último, existe desacuerdo sobre si un progreso más rápido o más lento en la IA sería mejor para el futuro de la humanidad. Sin embargo, la mayoría de los encuestados abogan por priorizar la investigación de seguridad de la IA más de lo que lo hacen actualmente, lo que refleja un consenso cada vez mayor sobre la importancia de abordar los riesgos existenciales de la IA y garantizar su desarrollo y despliegue seguros.  ¿Qué hacemos con esa información?  El camino a seguir es bastante claro: los gobiernos de todo el mundo necesitan aumentar la financiación para la investigación de la seguridad de la IA y desarrollar mecanismos sólidos para garantizar que los sistemas de IA se alineen con los valores e intereses humanos actuales y futuros.  El gobierno del Reino Unido   , incluidos £30 millones para la creación de un nuevo ecosistema de IA responsable. La idea es crear herramientas y programas que garanticen aplicaciones responsables y confiables de las capacidades de IA. anunció recientemente una financiación de más de £50 millones para una variedad de proyectos relacionados con la inteligencia artificial  Mientras tanto, la Administración Biden-Harris anunció a principios de 2024 la formación del   (AISIC), que reúne a más de 200 partes interesadas en la IA, incluidos líderes de la industria, el mundo académico y la sociedad civil. Este consorcio tiene como objetivo apoyar el desarrollo y la implementación de una IA segura y confiable mediante el desarrollo de pautas para la formación de equipos rojos, evaluaciones de capacidades, gestión de riesgos y otras medidas de seguridad críticas. Consorcio del Instituto de Seguridad de la IA de EE. UU.  Éstos son un comienzo, pero demasiado nacionales.  Hoy en día, los gobiernos no pueden limitarse a mirar su propio patio trasero. También necesitamos implementar regulaciones   para guiar el desarrollo ético y la implementación de tecnologías de IA, garantizando la transparencia y la rendición de cuentas. Esto incluye fomentar colaboraciones interdisciplinarias e   entre investigadores, especialistas en ética y formuladores de políticas de IA. Me sentiré más seguro en el mundo cuando vea que se implementa lo siguiente para fortalecer y mejorar los marcos de derechos humanos existentes: INTERNACIONALES INTERNACIONALES  Marcos globales de seguridad de la IA  Cumbres internacionales sobre seguridad de la IA  Fondos globales de investigación sobre ética y seguridad de la IA.  Demasiado pronto para sacar conclusiones  Quizás sea un poco pronto para caer presa del doomismo. Si bien la encuesta proporciona información valiosa, tiene limitaciones, incluidos posibles sesgos de la autoselección entre los participantes y el (¡   ) desafío de pronosticar con precisión los avances tecnológicos. Las investigaciones futuras deberían tener como objetivo ampliar la diversidad de perspectivas y explorar las implicaciones del desarrollo de la IA en sectores específicos. obvio!  Al final, y con independencia de la exactitud de las predicciones realizadas, necesitamos más que palabras. La IA es una fuente de oportunidades sin precedentes y de desafíos importantes. A través del diálogo abierto entre investigadores, formuladores de políticas y el público,   crear reglas que nos protejan del peligro de la IA y nos guíen hacia un futuro mejor   . debemos para todos  El mundo es muy grande y nosotros somos muy pequeños. Buena suerte ahí fuera.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story will praise and/or roast a product, company, service, game, or anything else people like to review on the Internet.

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - AUTOMATION.

Más de 2000 investigadores predicen el futuro de la IA

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps