Uno de los fenómenos que, gracias a su potencial disruptivo y a su espectacular desarrollo, más expectación ha generado recientemente es el de la Inteligencia Artificial (IA). Su enorme impacto -actual y potencial- en la realidad demanda una regulación que garantice seguridad jurídica y protección de los derechos de las personas. En general, la realidad y, en concreto, la ciencia avanza más rápido que el derecho. El acelerado progreso tecnológico, el desconocimiento actual de su alcance potencial o su carácter transnacional complican sobremanera la labor regulatoria de una tecnología de formidable eficacia transformadora. Este es uno de los principales desafíos del siglo XXI, el cual ha sido abordado principalmente desde el plano ético, como demuestra el elevado número de declaraciones de principios emanadas de la propia industria y de organismos gubernamentales e internacionales, en la aspiración de establecer y garantizar unos criterios éticos que inspiren el diseño, desarrollo, implementación y funcionamiento de los sistemas de IA. Quizá debido a la creencia -equivocada- de que el derecho podía actuar como freno de su crecimiento, no ha sido hasta hace poco que se han puesto en marcha iniciativas normativas relevantes sobre este novedoso objeto de regulación caracterizado por una extraordinaria singularidad que desafía las instituciones y estructuras jurídicas tradicionales, planteando su revisión, su modificación e incluso la creación de nuevas figuras. Algunos de estos retos se derivan del potencial carácter autónomo de la IA y de las consecuencias de su actuación. Por un lado, tales consecuencias pueden representar riesgos de seguridad para los usuarios de productos y servicios que integren IA, lo que obliga a analizar la suficiencia y adecuación del actual régimen de responsabilidad y de protección de consumidores y usuarios así como la viabilidad del encuadre de la IA en la dicotomía de las categorías tradicionales (personas -jurídicas- y cosas) e incluso la pertinencia de crear un tertium genus, la «persona electrónica» (e-personality) para aquellos supuestos de IA fuerte o robusta en que robots tomen decisiones de manera independiente y se relacionen autónomamente con terceros. Por otro lado, la IA puede dar lugar a resultados originales creativos, culturales, literarios y artísticos («outputs») siendo necesario examinar su encaje en los tradicionales conceptos de obra, autor, inventor e invención y en los actuales regímenes de protección de la propiedad intelectual y de patentes a través de los vigentes conceptos de obra colectiva, compuesta, en colaboración o cotitularidad, lo que dependerá en gran medida del grado, intensidad y nivel de participación humana. Por el momento, la Oficina Europea de Patentes ya ha tenido oportunidad de pronunciarse en el conocido «caso DABUS» (Decisiones de 27 de enero de 2020) rechazando la condición de inventor a un software en tanto que los sistemas de IA no pueden ser titulares de derechos al carecer de personalidad jurídica. También la incorporación de la IA por el Sector Público para mejorar la eficacia administrativa, como uno de los objetivos estratégicos del Libro Blanco sobre la IA (COM -2020-) y de la Estrategia Nacional de Inteligencia Artificial (ENIA), conlleva importantes retos como la complejidad en la adaptación al vertiginoso progreso tecnológico, la protección de datos personales, el reforzamiento de la ciberseguridad ante las crecientes amenazas cibernéticas, la eliminación de la brecha digital mediante el trazado de mecanismos inclusivos y el enfoque de los diseños y de la gestión hacia el administrado con especial atención hacia los más vulnerables, o la necesidad de formación en competencias digitales en atención al nivel de tecnificación de los empleados públicos en el marco de una estrategia pública de recursos humanos para afrontar con garantías un proceso de redefinición de ocupaciones, funciones, competencias y perfiles profesionales, así como de orientación a nuevas necesidades. Aspectos como los controles de legalidad de las actuaciones automatizadas (no necesariamente IA), con acento en los procesos de programación y diseño previos, y la adecuación de la aplicación de la IA en actuaciones discrecionales merecen también singular atención. Otros desafíos conllevan afrontar riesgos destacables como el grado de imprevisibilidad y de autonomía de ciertos sistemas de IA, la eventual manipulación subliminal del comportamiento humano y el efecto de los «nudging-robots» a través de la explotación de datos masivos, respecto de los cuales, el Comité de Ministros del Consejo de Europa (Declaración de 13 de febrero de 2019), puso de relieve la necesidad de marcos de protección adicionales y de debates sobre la compleja distinción entre la personalización y las formas de persuasión permisibles y la manipulación inaceptable. El ámbito mercantil no se libra de riesgos derivados del empleo de la IA en parcelas como el comercio electrónico y las implicaciones sobre la competencia, los derechos de los consumidores o la publicidad personalizada, predictiva y comportamental («marketing predictivo») que puede dar lugar a prácticas que no se anticipen a los intereses de los consumidores, sino que lleguen verdaderamente a generar dichos intereses sin su conocimiento. El desafío conlleva afrontar riesgos destacables como el grado de autonomía y de imprevisibilidad de la IA Mención especial merecen los sesgos («inclinaciones que favorecen o perjudican a una persona, objeto o posición», de acuerdo con las Directrices éticas para una IA fiable), tanto exógenos (procedentes de los caracteres de los datos fuente o del entrenamiento y aprendizaje) como endógenos (propios del diseño), y la discriminación algorítmica que no solo se limite a reproducir patrones humanos, sino que los exacerbe, llegando incluso a estigmatizar a determinados segmentos poblacionales por razones de sexo, raza o estatus socioeconómico. La identificación de sesgos pasa por asegurar la transparencia, trazabilidad, auditabilidad e inteligibilidad de los sistemas de IA permitiendo su comprensión y descifrado a través de controles externos, garantizando así en último término el denominado «human-in-command». Se trata de acabar con la opacidad («efecto caja negra») para que los afectados puedan conocer cómo se toman decisiones con ayuda de la IA. Finalmente, es fundamental el aseguramiento de la plena protección de los derechos individuales y colectivos (frente y a la IA) y, en particular, de los relativos a la protección de datos de carácter personal mediante el establecimiento de un marco ético y normativo suficiente para el desarrollo de la IA, siendo este uno de los ejes estratégicos de la ENIA. Ello exige preguntarse si es preciso el reconocimiento de derechos inéditos integrantes de una nueva generación, si basta con una nueva interpretación de los ya reconocidos o con una redefinición del contenido esencial del elenco actual de derechos. Lo que parece seguro es que la respuesta a estos interrogantes ha de partir, desde una perspectiva antropocéntrica, del respeto a una serie de principios generales, algunos ya contemplados en el ámbito de la biomedicina y la bioética, como el de primacía del interés y del bienestar del ser humano sobre el interés de la sociedad o de la ciencia o la prohibición de instrumentalización humana. En el seno de este proceso dinámico de interpretación y reconocimiento se han producido avances e iniciativas destacadas como la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales o la Carta de Derechos Digitales que trata de perfilar en el entorno digital, sin carácter normativo, algunos de los derechos reconocidos, con vocación de convertirse en un marco de referencia para la acción de los poderes públicos. A nivel europeo se está desarrollando una ingente labor en este ámbito colocando al ser humano en el centro en relación con cuestiones como la ética, la responsabilidad civil o los derechos de propiedad intelectual, destacando la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) que aspira a clasificar los sistemas en atención al riesgo y a regular, entre otros aspectos, los requisitos técnicos y de gestión de riesgos de los sistemas de IA, incluyendo una fase de validación y prueba durante su diseño y desarrollo. En Europa se está desarrollando una ingente labor colocando al ser humano en el centro Uno de los padres de la IA, Marvin Minsky, advertía de la imposibilidad de la humanidad de recuperar el control una vez que los ordenadores se hubieran hecho con él. Más allá de planteamientos fantasiosos más propios de la ciencia ficción, parece que el estado de la ciencia y su evolución a corto plazo están lejos de hacer realidad dicha advertencia, pero la necesidad actual se concreta en tratar de sortear la paradoja de Collingridge y conseguir el conocimiento necesario para adoptar decisiones reguladoras racionales antes de que el desarrollo de la tecnología imposibilite su control. Los riesgos no son desdeñables y obligan a extremar la atención y la cautela, pero ¿cuál sería el riesgo de no desarrollar y aprovechar la IA? El aseguramiento de una reglamentación adecuada que garantice seguridad jurídica y protección de los derechos de las personas exige una labor previa de estudio multidisciplinar realista y de aprendizaje pragmático dirigida a identificar los sectores y campos a regular para afrontar con garantías los retos que una IA fiable plantea. Los sectores público y privado han de llevar a cabo un esfuerzo conjunto para que el empleo de las nuevas tecnologías deje de ser una posibilidad y se convierta en práctica habitual y segura, adaptándose a una nueva realidad que, gracias a la denominada revolución 4.0, ha llegado para quedarse, garantizando al mismo tiempo los derechos y libertades de los individuos. Como proclama la Comunicación de la Comisión sobre Inteligencia Artificial para Europa {swd (2018) 137 final} «entre todos, podemos conseguir poner al servicio del progreso humano el potencial de la IA».