ENISA publica 4 informes sobre los retos más trascendentales de la inteligencia artificial

Los desarrollos recientes en los sistemas de Inteligencia Artificial (IA) han llamado la atención del mundo sobre los aspectos más importantes de la ciberseguridad asociados con ellos. La ENISA AI Cybersecurity Conference tuvo como objetivo proporcionar una plataforma para que la comunidad en general comparta sus experiencias y discuta los desafíos y oportunidades. Promovió la cooperación dentro de la comunidad de ciberseguridad de la IA para reflexionar sobre la propuesta de un reglamento de la UE sobre IA. La propuesta podría permitir que la UE se convierta en pionera en la regulación de la IA.

 

Los 4 paneles de la conferencia celebrada ayer, abordaron los desafíos técnicos de ciberseguridad de los chatbots de IA, las necesidades de investigación e innovación y las consideraciones de seguridad para la certificación de ciberseguridad de los sistemas de IA. Apoyar a los responsables políticos, incluidas las autoridades nacionales, con orientación sobre las mejores prácticas y los casos de los usuarios, al mismo tiempo que promueve las normas en toda la UE, le brinda a la UE la oportunidad de liderar a nivel mundial en la creación de una IA segura y confiable. Los discursos de oradores de alto nivel se centraron en la IA generativa, en la perspectiva legal y política de la próxima Ley de IA y en las medidas ya tomadas por la Agencia Alemana de Ciberseguridad, BSI.

 

Acerca de los nuevos informes de IA y seguridad

 

1. Establecer buenas prácticas de ciberseguridad para la IA: El informe se erige como un marco escalable para guiar a las autoridades nacionales de ciberseguridad (NCA) y la comunidad de IA para asegurar los sistemas, operaciones y procesos de IA. El marco consta de tres capas (bases de ciberseguridad, ciberseguridad específica de IA y ciberseguridad específica del sector para IA) y tiene como objetivo proporcionar un enfoque paso a paso sobre el seguimiento de buenas prácticas de ciberseguridad para garantizar la confiabilidad de los sistemas de IA.

 

2. Ciberseguridad y privacidad en IA: dos casos de uso: previsión de demandas en redes eléctricas y diagnóstico por imagen médica Ambos informes describen las amenazas a la ciberseguridad y la privacidad, así como las vulnerabilidades que pueden explotarse en cada caso de uso. El análisis se centró en las amenazas y vulnerabilidades relacionadas con el aprendizaje automático, teniendo en cuenta consideraciones más amplias de IA. Sin embargo, el enfoque del trabajo está en los temas de privacidad, ya que estos se han convertido en uno de los desafíos más importantes que enfrenta la sociedad actual. La seguridad y la privacidad están íntimamente relacionadas, y ambas son igualmente importantes, se debe encontrar un equilibrio para cumplir con los requisitos relacionados. El informe revela, sin embargo, que los esfuerzos para optimizar la seguridad y la privacidad a menudo pueden realizarse a expensas del rendimiento del sistema.

 

3. Investigación en IA y ciberseguridad: El informe identifica 5 necesidades de investigación clave para seguir investigando sobre IA para la ciberseguridad y sobre cómo asegurar la IA para futuros desarrollos de políticas e iniciativas de financiación de la UE. Dichas necesidades incluyen el desarrollo de herramientas de pruebas de penetración para identificar vulnerabilidades de seguridad o el desarrollo de marcos estandarizados para evaluar la privacidad y la confidencialidad, entre otros.

 

4. Informe sobre el Público objetivo: Entidades públicas o privadas, incluida la comunidad de ciberseguridad y privacidad: para respaldar el análisis de riesgos, la identificación de amenazas a la ciberseguridad y la privacidad y la selección de los controles de seguridad y privacidad más adecuados; Comunidad técnica de IA, expertos en ciberseguridad y privacidad de IA y expertos en IA interesados en desarrollar soluciones seguras y agregar seguridad y privacidad por diseño a sus soluciones.