“Ética es una palabra de enorme significado, hay que aterrizarla de manera práctica en el uso concreto de la tecnología para casos de uso específicos. En este sentido, necesitamos dotarnos de un marco de referencia que nos ayude a superar esa todavía enorme distancia entre el desarrollo tecnológico y el desarrollo normativo, que dificulta y compromete la velocidad de adopción y madurez en la transformación de la economía y la sociedad sobre estas tecnologías. Hay que establecer de manera clara los escenarios en los que son irrenunciables aspectos como la trazabilidad y explicabilidad de los algoritmos. Y, más que nunca, hay que huir de la tecnolujuria en la adopción de la Inteligencia Artificial. El camino correcto, como siempre, es enfocar la tecnología a un propósito. Necesitamos marcos normativos claros donde siempre nos sentiremos cómodos quienes tenemos la conciencia y la responsabilidad de trabajar de modo correcto”.

Son algunas de las claves expuestas por el director de la empresa OGA, Juan Carlos Rubio Sánchez, en la jornada ‘La Ética de la Inteligencia Artificial’, celebrada en la sede institucional de Málaga Tech Park y organizada con la Asociación para el Progreso de la Dirección (APD).

La jornada reunió a personas de referencia en este tema crucial para el presente y el futuro de nuestra sociedad, tanto desde el ámbito de las políticas públicas como de la prestación pública de servicios, la investigación académica, o el desarrollo de proyectos y de creación de innovación desde empresas privadas. El fomento de la ética es uno de los valores corporativos esenciales de OGA para ser, desde Andalucía, una compañía de referencia europea en el ámbito de la inteligencia del negocio basada en datos, creando soluciones que transformen positivamente los procesos críticos de todo tipo de organizaciones.

El director de OGA presentó a la principal ponente de la jornada, Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial del Gobierno de España, que protagonizó la sesión inaugural hablando sobre ‘Desarrollo saludable y sostenible de la Inteligencia Artificial’. Artigas destacó la creciente capacidad de Andalucía como polo de atracción de talento, para la inversión y para la innovación.

Claves expuestas por Carme Artigas para el desarrollo saludable y sostenible de la IA Estas son las principales claves expuestas por la secretaria de Estado al frente de la Estrategia Nacional de Inteligencia Artificial (ENIA):

– O la inteligencia artificial es ética, o no estará aportando valor al conjunto de la sociedad.

– Los dos grandes desafíos que no podemos posponer para endosárselo a las siguientes generaciones son el cambio climático y el marco ético del desarrollo tecnológico. O lo hacemos ahora, o no habrá segunda oportunidad, porque en el futuro no podría revertirse el efecto negativo asentado.

– La aceleración de la transformación digital de la economía española ha propiciado que en un solo año, 2021, la economía digital haya crecido del 19% al 22% en su contribución al PIB de España. Si fuera un vertical, ya solo está por detrás del sector Construcción y ha superado al sector Turismo. El objetivo es que en el año 2030 el 40% del PIB español sea economía digital, en línea con la estrategia económica de la Unión Europea, y con la Estrategia Digital España 2020-2025 para cambiar el modelo productivo y potenciar la transformación social.

– Ya no existen empresas solo de producto o solo de servicio, sino empresas cuyo negocio y cuya actividad se basan en datos y en inteligencia aplicada. Tenemos que ayudar a las pymes a integrar tecnologías exponenciales como la inteligencia artificial en la cadena de valor y en su modelo de funcionamiento. Pueden tener ganancias competitivas entre el 20 y el 40% si incorporan la IA. Estamos agradablemente sorprendidos por la gran cantidad de pymes que han concurrido a la convocatoria Misiones de I+D en Inteligencia Artificial. De 1.700 empresas presentadas, el 70% son pymes.

– Se están afrontando los 4 principales retos identificados para el desarrollo saludable y sostenible de la inteligencia artificial:

El reto tecnológico
El reto tecnológico, para que la IA sea robusta, segura, auditable y explicable.

El reto ético, en sintonía con lo que defiende Europa de acuerdo a sus principios y valores, en el debate sobre de quién son los datos. Lo tenemos claro: los datos son de las personas. A diferencia del modelo norteamericano (los datos son propiedad de las grandes plataformas que se convierten en monopolios) y a diferencia del modelo chino (el gobierno lo controla todo).

El reto normativo: conseguir que haya un marco legal que ampare la actividad con IA en una sociedad de derechos y libertades, teniendo en cuenta la Carta de Derechos Digitales, el Reglamento Europeo de Protección de Datos, el Digital Market Act, el Digital Service Act.

El reto social, por el impacto que tiene la gobernanza de los algoritmos.

– Al igual que en épocas pasadas se liberalizaron otros monopolios, y se normalizó que hubiera más de un operador dando servicio con la misma infraestructura ferroviaria, y más de un operador de telefonía y telecomunicaciones a través de la misma infraestructura de cable, hemos de conseguir que se liberalice el monopolio en la captación y gestión de los datos, que ahora está concentrado en muy pocas plataformas.

– Los planes del Gobierno incluyen que España sea el primer país en implementar las bases del Reglamento Europeo de la Inteligencia Artificial, que no entrará en vigor hasta dentro de dos años. Para ello, se contará con la colaboración técnica de empresas, y se creará la Agencia Estatal de Supervisión de la Inteligencia Artificial.

– El único Proyecto Estratégico para la Recuperación y Transformación Económica (Perte) de carácter horizontal y transversal, de los 18 Perte que ya ha puesto en marcha el Gobierno, es ‘Nueva Economía de la Lengua’. Con 1.110 millones de euros de inversión, para conseguir que la IA piense en español. Queremos que España lidera la industria de la IA en español. Hay un campo enorme de oportunidades con la lengua y el habla. Por ejemplo, en la teleasistencia.

– La sostenibilidad también tiene que ser una dimensión inherente al desarrollo tecnológico. Por eso articulamos el Programa Nacional de Algoritmos Verdes. Tanto en la colaboración público-privada en el diseño del software mediante buenas prácticas, como en la mitigación del impacto medioambiental de la actividad tecnológica, que no puede basarse en un descomunal consumo de energía eléctrica.

La necesidad de potenciar las oportunidades y minimizar los riesgos
Felipe Romera, director general de Málaga Tech Park, dejó claro en la inauguración de la jornada que “en los últimos cinco años ha sido enorme el cambio en la actividad de la mayoría de las empresas tecnológicas para incorporar tanto la inteligencia artificial como los nuevos desarrollos de las telecomunicaciones”.

Por su parte, Felipe Medina, Director de la APD en el Sur de España, subrayó que “la sociedad está a la vez deslumbrada y temerosa por el impacto de la inteligencia artificial. Atisba grandes oportunidades y grandes riesgos. La tentación de un control que imponga uniformidad o la capacidad de sacar de cada persona sus mejores potencialidades. Por eso no podemos dejar que se utilice a la población de todo el planeta como banco de pruebas sin que se marquen estándares globales mediante un tratado universal”. Felipe Medina agradeció a OGA su implicación para acompañar a empresas e instituciones en ese camino de innovación basada en conciencia ética.

El papel de las organizaciones públicas y de las empresas privadas
El director de OGA, Juan Carlos Rubio Sánchez, también moderó la sesión dedicada a ‘El papel de las organizaciones en este camino digital’. Estas son las principales claves expuestas por los tres ponentes:

A juicio de Pablo Tapia, fundador y Director Tecnológico de la empresa Tupl, “es muy importante que la inteligencia artificial no esté solo configurada por los ingenieros que están detrás de sus negocios. Hay que ponerla en manos de expertos que la verifiquen desde sus respectivos sectores. Por ejemplo, los médicos o los arquitectos. Para lograr ese objetivo, es básico que desde el comienzo se identifique claramente, en función del caso de uso, qué tipología de algoritmos vamos a implementar, para asegurar en cada caso el cumplimiento de los requerimientos de explicabilidad o trazabilidad que podremos cumplir”. También comentó el peligro contrario: “No nos carguemos la innovación impidiendo que los datos lleguen a las empresas, porque en ese caso no podrán avanzar. No tengamos miedo, estamos al inicio del camino, queda mucho por hacer”.

Juan Ramiro, director de Innovación en el Diseño y Optimización de Redes de Ericsson España, explicó que “la evolución en el uso de inteligencia artificial llevó desde la automatización basada en reglas explicables con machine learning, a modelos de deep learning que funcionan como caja negra y eso genera problemas si no se entiende bien. Por eso estamos desarrollando herramientas de tecnología confiable, siguiendo los criterios de la Comisión Europea para seguridad, justicia, responsabilidad y privacidad, con el fin de intentar conseguir la trazabilidad”. También considera “importante tener en cuenta la gestión del ciclo de vida de estas soluciones basadas en datos porque son parte de una realidad siempre cambiante”.

Para Juan Carlos Rubio Pineda, Jefe del Servicio Informático del Servicio Andaluz de Salud, de la Junta de Andalucía, un área muy bien valorada y galardonada dentro y fuera de España por su capacidad de innovación aplicada a la gestión sanitaria de más de ocho millones de personas, “podríamos avanzar mucho más en la calidad de los análisis predictivos para prevenir la afección de enfermedades conocidas, y tomar medidas de anticipación, si estuviera regulado el uso anonimizado de los datos de millones de pacientes para investigaciones y sin incurrir en problemas éticos. El gran reto para nosotros es el normativo. Hoy en día, no podemos plantear licitaciones en las que se utilicen herramientas tecnológicas de empresas cuyos países no tienen el mismo criterio de protección de datos que la Comisión Europea. Por ejemplo, China. La falta de normativa clara complica la elaboración de las licitaciones. Si la normativa se adecuara a lo que hacemos y necesitamos, la industria de la inteligencia artificial podría hacer muchas más cosas con nosotros”.

En la jornada también intervinieron como ponentes Gemma G. Clavell, fundadora y CEO de Éticas; Antonio de la Prieta, director del Centro Tecnológico Avanzado de Accenture, y Patrici Calvo, profesor de Ética en la Universitat Jaume I de Castellón.

Sobre OGA
La creciente demanda de modelos predictivos, de optimización y automatización, para mejorar la gestión de los procesos productivos en los sectores industriales y comerciales, es el principal reto al que está aportando soluciones OGA, empresa española de inteligencia artificial y big data, comprometida con la ética en la inteligencia artificial, que construye valor de negocio para sus clientes desde los datos en forma de ahorro, eficiencia y rentabilidad operativa y soporte a la toma de decisiones estratégicas. Está dando recíprocamente sus frutos trabajando para grandes compañías privadas como Coca-Cola, Iberdrola, Roche, Acerinox, Bidafarma, Indra, Heineken, Navantia, Mercadona, Inerco, Scalpers, AGQ Labs o Iturri, y para organismos públicos como el Ministerio de Defensa, la Junta de Andalucía y el Ayuntamiento de Sevilla.