Se encuentra usted aquí

La Fundación ESYS debate sobre la Seguridad en la Inteligencia Artificial

  • La Inteligencia Artificial (IA) es clave en el desarrollo empresarial y social. Está ya presente, pero su crecimiento va a ser exponencial y España y sus empresas necesitan posicionarse al respecto de forma decidida
  • La Seguridad es una pieza indispensable en la implantación de la IA y debe abordarse desde su diseño
  • La IA debe contar con marco regulatorio y unos códigos de conducta éticos
  • Existe un aumento en la utilización de IA para la realización de Ciberdelitos con un nivel de sofisticación cada vez más elevado
  • Necesidad de aumentar la Inversión en IA a nivel europeo y falta de profesionales especializados para abordar los retos futuros

 

La Fundación ESYS organizó el pasado 24 de septiembre un seminario virtual para reflexionar sobre los retos que aborda la Inteligencia Artificial (IA), relacionados con la seguridad, y los objetivos que se deberían plantear a la hora de abordar la Estrategia Nacional en esta materia.

El desarrollo exponencial de la Inteligencia Artificial en todos los ámbitos de la sociedad y el compromiso de los países de la Unión Europea para presentar a lo largo de este año 2020 sus Estrategias Nacionales, hacen necesaria una reflexión sobre las oportunidades y los riesgos que presenta, la forma de abordar la relación entre seguridad e IA y el papel que jugará España en este nuevo escenario.

El seminario contó con la participación de ponentes y expertos que abordaron la Inteligencia Artificial desde diferentes perspectivas, entre ellos, Gonzalo León, Catedrático en Ingeniería Telemática de la Universidad Politécnica de Madrid; Juan A. Moliner, General del Ejército del Aire (retirado); Ana Ayerbe, Directora del Área de Ciberseguridad, Safety y Blockchain de Tecnalia o Alejandro Romero, CEO y fundador de Alto Analytics.

En este contexto, se presentó la Inteligencia Artificial como un elemento disruptivo que puede tener un importante impacto a nivel geoestratégico y social, transformar la cadena de valor y que debe contar por tanto con marco regulatorio y unos códigos de conducta basados en principios éticos, teniendo en cuenta que en el año 2025 estará presente en la mayoría de los dispositivos.

Otro de los aspectos que se destacaron en el seminario son los problemas éticos que plantea a la utilización de sistemas militares regidos por la Inteligencia Artificial. Se planteó la necesidad, además de los aspectos legales y de control, de crear un Comité Nacional de Ética en Inteligencia Artificial.

Se profundizó, además, en la actual relación entre Inteligencia Artificial y Ciberseguridad, las vulnerabilidades que presenta y el uso que se está haciendo de la misma para la comisión de ciberdelitos, con un nivel de sofisticación cada vez más elevado. En este sentido, la IA supone una nueva fuente de vulnerabilidades que estará integrada en todo tipo de sistemas y debe abordarse desde esta perspectiva, al igual que sucede con otros riegos, y teniendo en cuenta la seguridad desde su diseño.

Asimismo, se puso de manifiesto la importancia de la confianza en la Inteligencia Artificial como un factor a tener en cuenta en su implantación, lo que pone de relieve el papel de la Seguridad.

Otro de los planteamientos principales fue el impacto transversal que la IA tiene en la Sociedad, los desafíos que supone para gobiernos, ciudadanos y empresas. Se trata de un desafío de enorme complejidad que va a requerir que se proporcionen herramientas adecuadas a los responsables de seguridad para ayudarles a abordarlo con eficacia.

Un punto adicional pero de gran importancia es la necesidad de poner en marcha estrategias de retención y atracción de talento para cubrir las necesidades de profesionales especializados en esta área.

Entre las principales ideas que se expusieron en el debate, en el que participaron profesionales y expertos del ámbito empresarial, Académico y la Administración, cabe destacar además el nivel de riesgo que estamos dispuestos a asumir como sociedad en el empleo de esta tecnología y el papel que jugará el ser humano en el manejo de la IA; la falta de certificaciones de seguridad o la necesidad de aumentar las inversiones y la cooperación a nivel europeo.

 

Viernes, 25 Septiembre, 2020