La rápida evolución de la inteligencia artificial (IA) ha transformado diversas facetas de nuestra vida cotidiana, desde la manera en que trabajamos hasta cómo tomamos decisiones. Sin embargo, este crecimiento desenfrenado ha suscitado preocupaciones sobre la regulación y el control de estas tecnologías. Brad Smith, presidente de Microsoft, ha sido claro en advertir que los actuales estándares de seguridad para sistemas avanzados de IA son insuficientes comparados con los que se aplican a productos de consumo, como electrodomésticos y alimentos.
Urgencia en la regulación de la IA
Smith, en una reciente entrevista con la BBC, enfatizó que las empresas tecnológicas no deberían ser las únicas responsables de la supervisión de sus sistemas. Propuso que se implementen mecanismos de control parecidos a los existentes en otras industrias, sugiriendo evaluaciones independientes y la obligación de reportar incidentes de seguridad.
Una de las comparaciones más impactantes realizadas por Smith fue entre las lavadoras y los sistemas de IA. Mientras que una lavadora debe pasar por rigurosos controles técnicos antes de ser comercializada, los sistemas de inteligencia artificial carecen de esa misma rigurosidad. Esta discrepancia en el enfoque de regulación ha llevado a Smith a abogar por controles estrictos, especialmente cuando las decisiones de la IA pueden impactar a individuos y sectores críticos.
Entre sus recomendaciones destaca la incorporación de “kill switches” o frenos de emergencia, que permitirían detener un sistema si se detecta un comportamiento inadecuado o peligroso. Este aspecto es particularmente relevante en el contexto del desarrollo de agentes de IA, que pueden llevar a cabo acciones autónomas sin instrucciones humanas constantes.
Además, Smith sugiere que las empresas deben estar obligadas a informar sobre incidentes relacionados con sus sistemas de IA. Esto no solo ayudaría a documentar errores y fallos, sino que permitiría a otras compañías aprender de estos problemas y mejorar sus propias aplicaciones. También es fundamental informar a las partes afectadas en caso de que un sistema de IA cause una vulneración de seguridad.
Marco regulatorio en Europa y España
Aunque Brad Smith pide una regulación global más robusta, Europa ha dado pasos significativos con la implementación del Reglamento Europeo de Inteligencia Artificial, conocido como AI Act, que comenzará a regir en agosto de 2024. Esta normativa establece diferentes obligaciones según el nivel de riesgo del sistema de IA, categorizando aplicaciones desde riesgos mínimos hasta aquellos considerados inaceptables.
La regulación es crucial en áreas sensibles, como la selección de candidatos para empleo, donde los sistemas de IA pueden tener un impacto significativo en el acceso a oportunidades laborales. En España, el Gobierno ha aprobado un proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, con el objetivo de adaptar y complementar el marco europeo. Esta ley contempla mecanismos de supervisión, coordinación entre organismos y un régimen sancionador para infracciones específicas relacionadas con la IA.
La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) jugará un papel fundamental en esta supervisión, garantizando que se cumplan las normas establecidas y se protejan los derechos fundamentales de los usuarios. Con el creciente uso de la inteligencia artificial, es crucial que las regulaciones sigan el ritmo de innovación para asegurar un desarrollo ético y seguro en este campo.