Seguritecnia 511

A vista de Seguridad y regulación José Ramón Monleón , experto en IA y representante de ISMS Forum, abordó el asunto desde el punto de vista de la seguridad de la información y el cum- plimiento normativo. Recordó que la IA no es una tecnología nueva, sino que su gran revolución actual radica en su capacidad para replicar el lenguaje hu- mano. Uno de los principales retos, según Monleón, es la proliferación sin control de herramientas de IA en entornos cor- porativos. En ese sentido, mencionó que el fenómeno llamado BYOAI ( Bring Your Own AI ) hace que muchos empleados utilicen estas aplicaciones de manera personal y luego trasladen su uso al ámbito profesional, generando riesgos de fuga de información y problemas de cumplimiento normativo. Para mitigar dichos riesgos, propuso medidas como el empleo de proxys y soluciones DLP ( Data Loss Prevention ) para monitorear el uso de IA en empre- sas. También resaltó la importancia de la fiabilidad en los modelos de IA, ha- ciendo un paralelismo con la normativa en Estados Unidos, donde se exige que, por ejemplo, los sistemas de diagnós- tico de salud mediante esta tecnología especifiquen su porcentaje de fiabilidad. Marco normativo Para finalizar, José Luis Bezares , subdi- rector general de Ciberseguridad de la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), explicó el marco normativo vigente para la regu- lación en la materia en Europa. El Re- glamento de IA de la UE establece una pirámide de casos de uso, donde se pro- híben aquellos considerados de “riesgo inaceptable”, como las aplicaciones que vulneran derechos fundamentales o atentan contra la seguridad. Asimismo, existen sistemas de “alto riesgo”, como los utilizados en justicia o seguridad, que están permitidos, pero sujetos a estrictos requisitos regulato- rios. Para facilitar la adaptación a estas normativas, la SEDIA está impulsando un “sandbox regulatorio” que permitirá a las empresas experimentar con la IA bajo el marco legal vigente y generar guías de aplicación específicas para pymes. Además, Bezares mencionó la Directi- va NIS2 (sobre seguridad de las redes y sistemas de información), que amplía el número de sectores económicos obliga- dos a cumplir con estrictas normativas de ciberseguridad, incluyendo los ser- vicios basados en IA. También destacó la próxima publicación de la Cyberresi- lience Act , que fortalecerá la seguridad digital en el ámbito empresarial. Hacia una IA responsable La tertulia de la Fundación Borredá dejó claro que la IA es un catalizador del cambio en el sector de la seguridad, pero su adopción conlleva importantes desafíos. Desde la necesidad de forma- ción y talento especializado hasta la re- gulación para minimizar riesgos, el de- bate evidenció que la IA no es solo una tecnología emergente, sino un elemen- to estratégico clave en la construcción de entornos más seguros y eficientes. La colaboración entre empresas, regulado- res y expertos será fundamental para garantizar una transición ética y efectiva hacia esta nueva era de la seguridad digital. Uno de los principales retos, según Monleón, es la proliferación sin control de herramientas de IA en entornos corporativos César Álvarez (Fundación Borredá), José A. Vila (Adif), Ana Borredá (Fundación Borredá), José R. Monleón (ISMS Forum), Alejandra Miguélez (Prosegur) y José Luis Bezares (SEDIA). / Enero-Febrero 2025 67