¿Cómo podría ser el reglamento de la UE sobre IA? – Mobile World Live

¿Cómo podría ser el reglamento de la UE sobre IA?

06 FEB 2020

Los consejeros delegados de Google y Microsoft han expresado desde Bruselas y Davos, respectivamente, su apoyo a la regulación de la inteligencia artificial (IA). Durante los últimos meses hemos asistido a una aceleración en el desarrollo de la regulación de la IA por parte de la Unión Europea (UE). La Comisión Europea (CE) se ha comprometido a presentar un marco legislativo para la IA durante su mandato de cinco años que concluye en 2024.

Aún no se dispone de información detallada sobre la posibilidad de que dicha normativa comporte una modificación de los marcos ya existentes, en especial del Reglamento General de Protección de Datos (más conocido por las siglas inglesas GDPR) de la UE, que se usa como estándar de privacidad de datos en todo el mundo, ni si supondrá la aplicación de un conjunto más amplio de medidas adicionales. Con todo, los documentos filtrados indican qué dirección podría seguir la UE en la regulación de la IA y destacan tres tendencias, así como las implicaciones asociadas a ellas.

  1. Diferentes niveles de riesgo para las distintas aplicaciones de la IA

Un posible marco regulador podría exigir a las empresas que evalúen por sí mismas los riesgos atribuibles a sus servicios basados en IA. Sus valoraciones se encuadrarían en una categorización basada en el sector y la aplicación de que se trate en cada caso. Así, por ejemplo, la atención médica se consideraría un sector de alto riesgo al combinarse con la IA, y el coche autónomo una aplicación de alto riesgo, porque un fallo en la IA podría causar muertes.

En tal caso, las empresas deberían poner en marcha nuevos procedimientos para comprender y justificar los niveles de riesgo implícitos en sus servicios basados en IA. Probablemente, las evaluaciones incluirían el posible impacto en el consumidor y tratarían de cuantificar los riesgos derivados del sesgo algorítmico y la obtención de datos por parte de los desarrolladores externos que contribuyen a los servicios de la firma. Los organismos reguladores deberían elaborar cuidadosamente una legislación que no imponga una carga operativa adicional ni costes de reingeniería indebidos, sobre todo porque el GDPR ya está en vigor. Con dicho telón de fondo, y dado que la IA es un campo que evoluciona con rapidez, podría ser más factible e instructivo adoptar en una primera fase un enfoque gradual que priorice las áreas de riesgo elevado.

  1. Innovaciones tecnológicas, riesgos de privacidad y empoderamiento de los individuos

Otra opción que la Comisión parece estar estudiando consiste en ampliar el derecho de portabilidad de los datos personales de los individuos. En el reciente estudio Consumer Insights (Percepciones de los Consumidores) efectuado por GSMA Intelligence, vemos que una proporción relativamente grande de los encuestados (un 22%, segundo en el orden de preferencia entre firmas tecnológicas, operadoras, organismos reguladores y las autoridades estatales) creía que ellos mismos debían ser responsables de la seguridad de sus propios datos. En consonancia con ello, la reglamentación debería alentar a los proveedores de servicios de inteligencia artificial a crear instrumentos que ayuden a los usuarios a gestionar sus riesgos en materia de privacidad. Dichos instrumentos podrían referirse a los siguientes puntos, o por lo menos a algunos de ellos:

– La IA explicable, una rama emergente de los sistemas de IA que aspira a explicar y razonar las decisiones adoptadas de una manera fácilmente comprensible para los seres humanos afectados por dicha tecnología o relacionados con ella.

– Identidad digital soberana, basada en el blockchain, que permite a los usuarios individuales poseer y controlar plenamente su historia digital, así como los datos que hayan compartido.

– Pruebas de conocimiento cero, métodos criptográficos mediante los cuales un usuario puede demostrar a otro usuario, por ejemplo a un proveedor de servicios de inteligencia artificial, que sabe que algo es cierto sin necesidad de comunicar ninguna información adicional.

  1. Datos y centros de datos: el papel del sector público y de los datos industriales

La UE ha anunciado que gastará 1.000 millones de euros en la creación de “espacios de datos europeos comunes”, lo que implicará ampliar su actual centro de datos para el sector público, a fin de incluir repertorios de datos industriales. La estrategia de la CE consiste en ayudar a las empresas europeas a capitalizar los datos que ellas mismas generan y, en último término, ponerse al día en la carrera de la IA frente a Estados Unidos y China. Los datos pueden ser un instrumento primordial de innovación y beneficiar a pequeñas empresas y particulares al facilitarles un acceso a los datos más abierto, barato, diverso y de mayor calidad. Todo ello tiene una especial importancia para acelerar la innovación en IA. Sin embargo, aún falta mucho para la interoperabilidad entre los centros de datos. Por otra parte, la implantación de dicha interoperabilidad en toda la Unión Europea suscitaría un intenso debate sobre su gobernanza.

En resumen, no será fácil implantar regulaciones que sean a la vez flexibles e inteligentes, porque habrá que buscar el equilibrio en una serie de cuestiones, como por ejemplo implantar normas más estrictas y al mismo tiempo dejar espacio abierto para que las empresas innoven. Seguramente, la dirección más prudente que pueden seguir los responsables políticos y organismos reguladores consiste en das más peso a las políticas que ofrecen medios a individuos y empresas para que gestionen por sí mismos los riesgos relacionados con la IA. Pero por otra parte, es conveniente que las firmas productoras de tecnología contribuyan mediante sus propias herramientas tecnológicas. Para terminar, no cabe ninguna duda de que la UE percibe la IA como un elemento clave en su estrategia de soberanía digital. Con todo, las intenciones de la CE para con los espacios comunes de datos europeos siguen siendo poco claras y podrían frenar su avance. ¿Qué son exactamente los datos “europeos”? ¿Cómo puede ser posible que tan solo las empresas europeas se beneficien de ellos? Según Politico, Thierry Breton, comisario de Mercado Interior, planteó dicha cuestión en un congreso tecnológico celebrado en diciembre de 2019, al esbozar el objetivo de que las firmas europeas puedan acceder a datos nacionales a fin de “crear valor” en todo el bloque económico.

¿Qué diferencia supondría respecto al requisito actual de que los centros de datos se hallen en los países donde operan? ¿Y en qué sentido se promueve con ello la innovación en IA?

La UE está poniendo el listón muy alto. Tiene que dar respuestas rápidas y audaces antes de que empiecen las críticas.

– Christina Patsioura – analista sénior, Tecnologías Emergentes, GSMA Intelligence

Las opiniones editoriales expresadas en este artículo son exclusivas del autor y no reflejan necesariamente los puntos de vista de la GSMA, sus Miembros o Miembros Asociados.

Author

Albert Cuesta

Albert es el editor de Mobile World Live en español. Desde Barcelona, Albert lleva más de 30 años cubriendo informativamente los sectores de electrónica de consumo, TI y telecomunicaciones. Colabora en medios impresos, digitales y audiovisuales, cuya relación se puede...

Read more