Londres.- Poco después de la ratificación de la Constitución de Estados Unidos, la Carta de Derechos agregó garantías específicas sobre la libertad de expresión y de reunión, y derechos a juicios justos, con el objetivo de establecer límites a los poderes del gobierno que acababan de crearse. Este es el precedente que los asesores científicos de la Casa Blanca de Biden invocan al proponer una nueva carta que pretende proteger a los ciudadanos ante la tecnología de transformación de la inteligencia artificial. Es una iniciativa admirable, pero debe extenderse a escala global, no solo a los estadunidenses.
Si la noción de una nueva Carta de Derechos parece pomposa, consideremos el contexto.
Las protecciones internacionales y nacionales de los derechos fundamentales y contra los abusos y la discriminación por parte de gobiernos y empresas han logrado grandes avances desde la Segunda Guerra Mundial. Pero estas se dirigen a actores humanos.
Por primera vez, las decisiones cruciales para el bienestar de los seres humanos las toman máquinas de forma parcial o totalmente en todo tipo de cosas, desde solicitudes de empleo a solvencia, procedimientos médicos o sentencias de prisión. Y la toma de decisiones mediante algoritmos resulta propensa a errores o sesgos. La tecnología de reconocimiento facial puede batallar con los tonos de piel más oscuros. Lo que las máquinas aprenden está influenciado por los prejuicios de quienes las programan y los conjuntos parciales de datos que reciben.
Cuando las cosas salen mal, puede resultar difícil encontrar seres humanos que asuman la responsabilidad. En Reino Unido, este mes un ex conductor de Uber de raza negra cuya cuenta fue desactivada después de que el software de escaneo facial automatizado no lo reconoció en repetidas ocasiones presentó una demanda en un tribunal laboral.
Entonces, la primera tarea de una Declaración de Derechos de Inteligencia Artificial es fortalecer las protecciones existentes para un mundo de inteligencia artificial. Debe aplicarse a la toma de decisiones algorítmicas en áreas legales o que cambian la vida. Y debe extenderse a los datos y la privacidad, consagrando los derechos de las personas a saber qué datos se almacenan sobre ellos, cómo se utiliza la información y cómo se transfiere entre proveedores.
Las decisiones de la inteligencia artificial no deben surgir de una caja negra insondable, sino que deben ser “explicables”. Un proyecto de ley debe garantizar el derecho de un individuo a saber cuándo un algoritmo está tomando decisiones sobre él, cómo funciona y qué datos se están utilizando. Debe garantizarse el derecho a impugnar decisiones y obtener reparación. Es necesario mantener cierta responsabilidad humana o corporativa, y los directores deben rendir cuentas de los errores o decisiones erróneas de los sistemas que supervisan, al igual que las que toma el personal humano.
Pero la inteligencia artificial brinda a los gobiernos sin escrúpulos capacidades para espiar, controlar y potencialmente coaccionar a sus ciudadanos. Un proyecto de ley debe establecer qué tecnologías están permitidas o no, y las reglas básicas para su uso.
La iniciativa de la Carta de Derechos va a la zaga de lo que hace Europa. El Reglamento General de Protección de Datos de la Unión Europea ya contiene el derecho de los ciudadanos a no estar sujetos sin su consentimiento a decisiones “basadas en el procesamiento automatizado”, aunque esto no se aplica de forma generalizada. Una propuesta de ley describe una jerarquía de riesgos para las tecnologías sujetas a diferentes salvaguardias.
La administración Biden debe aceptar la invitación de la Unión Europea para trabajar juntos en cuestiones de inteligencia artificial. Pero al igual que la Declaración Universal de Derechos Humanos de la Organización de las Naciones Unidas (ONU) de 1948 estableció que los derechos humanos fundamentales deben ser protegidos de manera universal, también se merece una carta global de inteligencia artificial. Algunos países optarán por ir más lejos; otros, como China, pueden negarse a adherirse. Pero al igual que en la Guerra Fría, la protección superior de los derechos humanos, ahora contra la inteligencia artificial intrusiva, puede convertirse en un punto de diferenciación moral y de influencia para las democracias.
