PR Newswire
MONTREAL, 25 de noviembre de 2025
MONTREAL, 25 de noviembre de 2025 /PRNewswire/ — Se ha publicado la segunda Actualización clave del Informe Internacional sobre Seguridad de la IA, que ofrece información actualizada sobre gestión de riesgos y medidas técnicas de mitigación para IA de uso general.
El informático Yoshua Bengio, ganador del Premio Turing, presidió el Informe que cuenta con la participación de más de 100 expertos internacionales y el respaldo de más de 30 países y organizaciones internacionales, entre ellas la UE, la OCDE y la ONU.
Al reconocer que el ámbito está evolucionando demasiado rápido para un solo Informe anual, se introdujeron actualizaciones clave para ofrecer informes más breves y específicos sobre avances fundamentales. Esta actualización sigue a la primera actualización clave, publicada el 15 de octubre de 2025. Estas actualizaciones garantizan que los responsables políticos dispongan de una síntesis actualizada de la bibliografía para fundamentar la formulación de políticas basadas en datos empíricos.
La segunda actualización clave ofrece una visión general de los métodos técnicos para mejorar la confiabilidad y prevenir el uso indebido, así como los nuevos enfoques institucionales para la gestión de riesgos. Entre sus aspectos más destacados se incluyen:
- Avances en el entrenamiento de modelos para resistir ataques maliciosos que se están realizando, no obstante aún existen deficiencias. Aunque los modelos y sistemas de IA han mejorado su resistencia a los ataques, los hackers más sofisticados siguen siendo capaces de burlar las medidas de seguridad en aproximadamente el 50 % de los casos con solo 10 intentos, y comprometer los modelos al infectar sus datos de entrenamiento con tan solo 250 documentos maliciosos.
- La brecha del código abierto se está cerrando. Los modelos de peso abierto ahora están a menos de un año de distancia de los líderes del sector, lo que democratiza el acceso, pero complica los esfuerzos para prevenir fallas de funcionamiento y usos indebidos.
- Los compromisos de seguridad del sector han aumentado, pero se desconoce su eficacia. Aunque el número de empresas de IA que adoptaron marcos de gestión de riesgos se duplicó con creces en 2025, su eficacia en la práctica sigue siendo incierta.
El presidente del Informe, Yoshua Bengio, catedrático de la Universidad de Montreal, director científico de LawZero y asesor científico de Mila – Quebec AI Institute, afirmó:
«A medida que seguimos las novedades sobre las capacidades y los riesgos de la IA, es esencial proporcionar también vías claras de gestión de riesgos y medidas técnicas de mitigación adecuadas y eficaces. Esta actualización clave ofrece una visión general de los avances que se están realizando en estas áreas, así como de las lagunas y oportunidades que aún persisten. Nuestro objetivo es ofrecer a los responsables de la toma de decisiones de todo el mundo información actualizada sobre los avances de la IA de forma continua, antes de la publicación del segundo Informe Internacional sobre Seguridad de la IA, prevista para principios de 2026, antes de la Cumbre sobre el Impacto de la IA que se celebrará en la India».
Acerca de
El Informe Internacional sobre Seguridad de la IA es una síntesis de las pruebas sobre las capacidades y riesgos de los sistemas avanzados de IA. Este informe está diseñado para apoyar la formulación de políticas informadas a nivel mundial, al ofrecer una base empírica para los responsables de la toma de decisiones. El informe, elaborado por un grupo diverso de más de 100 expertos independientes, cuenta con el respaldo de un panel asesor de expertos compuesto por representantes designados de más de 30 países y organizaciones internacionales, entre ellas la UE, la OCDE y la ONU. Aunque reconoce los enormes beneficios potenciales de la IA, el Informe se centra en identificar los riesgos y evaluar estrategias de mitigación para garantizar que la IA se desarrolle y utilice de forma segura en beneficio de todos. El Informe fue encargado por el Gobierno del Reino Unido y la Secretaría tiene su sede en el Instituto de Seguridad de la IA del Reino Unido.
Contacto: Mila Medias ([email protected]); Consultas para los medios de DSIT ([email protected])
Esta traducción es proporcionada por PRNewswire.
View original content:https://www.prnewswire.com/mx/comunicados-de-prensa/se-publica-la-segunda-actualizacion-clave-del-informe-internacional-sobre-seguridad-de-la-ia-302626072.html
FUENTE Office of the Chair of the International AI Safety Report
Comparto con muchos la visión de que la universidad, salgo contadas excepciones va muy por detrás del mundo real, con una actitud muy reactiva.
Hace años que salà de ella, aunque continúo ligado, intentando terminar otros estudios que hace tiempo comence (soy un ferviente entusiasta de estar continuamente formándome… aunque solamente sea como intención, y el estar matriculado en alguna asignatura de una 2ª carrera me ayuda en ocasiones a autoexigirme un plus adicional).
Lo penoso es que solamente mantengo relación, muy de vez en cuando, con 2 profesores. Los únicos de los que guardo un buen recuerdo. Y casualidad esta que no son profesionales de la docencia, sino profesionales de la industria privada que están en la docencia por convicción e ilusión personal. Cuánto tiene que aprender la universidad de muchas escuelas de negocios…