El rápido desarrollo de la inteligencia artificial está poniendo en aprietos a las empresas, gobiernos y a la población en general, ya que cada vez es más difícil determinar si una imagen, video, audio o hasta un documento es real o fue generado con esta tecnología.
No es un problema nuevo, porque hace varios años comenzó a utilizarse esta tecnología para realizar Deepfake, es decir, un video, imagen o audio generado con inteligencia artificial cuyo objetivo es imitar la apariencia y/o sonido de una persona.
Por ejemplo, el Channel 4 de Reino Unido usó esta tecnología para hacer un video falso de la Reina Isabel II dando su clásico mensaje de Navidad y hablando de los problemas que hubo en el 2020.
En un inicio, los deepfake se hacían sobre personas famosas como forma de diversión, pero pronto comenzaron a usarse en videos pornográficos e incluso los cibercriminales utilizaron esta técnica para realizar ataques.
Ahora es más difícil diferenciar estas imágenes, videos y hasta documentos con el desarrollo de la inteligencia artificial generativa, la cual se enfoca en la generación de contenido original a partir de datos existentes.
Ya existen varios ejemplos de cómo esa tecnología puede “engañar a las personas” y que se han hecho virales en internet.
Destaca que una encuesta realizada por iProov el año pasado encontró que 71% de las personas en el mundo no sabe que son los deepfake y no podrían distinguirlos.
Imágenes creadas con Midjourney que recreaban el arresto del expresidente Donald Trump.
*Trump. Las imágenes creadas con Midjourney que recreaban el arresto del expresidente Donald Trump.
NO TE DEJES ENGAÑAR POR LA IA
Muchas personas se mostraron sorprendidas y otras se regocijaron cuando vieron unas fotografías del expresidente de Estados Unidos, Donald Trump, resistiendo un arresto, pero eran falsas.
Fue el periodista y fundador del colectivo de investigación Bellingcat, Eliot Higgins, quien creó esas fotos con Midjourney, la cual es una plataforma que utiliza inteligencia artificial generativa para crear imágenes partiendo de un breve texto.
Haciendo fotos de Trump siendo arrestado mientras espero el arresto de Trump”, fue el mensaje con el que compartió las imágenes que no tardaron en volverse virales.
Midjourney también fue la plataforma utilizada para generar fotografías del Papa Francisco vistiendo un atuendo muy moderno, a tal punto que parecía que el Sumo Pontífice se preparaba para la Semana de la Moda.
Dichas imágenes se compartieron en Reddit y a partir de ahí llegaron a otras redes sociales haciendo que las personas pensaran que eran reales.
Otra celebridad que recientemente fue víctima de esta tecnología es la princesa Leonor de España porque se viralizó un video en TikTok en el que aparece bailando y muchos creyeron que el video era verdad porque no sería raro que un adolescente se uniera a las tendencias de las redes sociales.
La cuenta detrás de esto es @Leonor.rol y, si bien, avisa que se trata de videos falsos de la princesa, esto no evitó las confusiones.
Foto hecha con IA, ganadora en el Sony World Photography, de Boris Eldagsen.
*Ganó premio. Foto hecha con IA, ganadora en el Sony World Photography, de Boris Eldagsen. Rechazó el premio.
El más reciente escándalo se dio en el famoso concurso Sony World Photography Awards, ya que el artista alemán Boris Eldagsen ganó la categoría abierta y rechazó el reconocimiento al revelar que la fotografía fue hecha con inteligencia artificial.
El fotógrafo comentó que uso esa imagen para comprobar si los concursos de fotografías estaban preparados para la inteligencia artificial y no lo están.
¿QUÉ PASARÁ?
Actualmente varias personas están usando esta inteligencia artificial, no sólo para generar contenido falso, sino también para crear piezas como cómics, imágenes o hasta novelas, lo que plantea un reto en materia de derechos de autor.
Ana Rumualdo, directora del Área de Tecnologías Digitales en Hogan Lovells México, consideró que la mayoría de los países no cuentan con regulaciones que hagan frente a esta nueva tendencia y apenas se están generando algunos precedentes.
Por ejemplo, la Oficina de Derechos de Autor de Estados Unidos decidió no otorgar la protección de copyright al contenido generado en Midjourney. Esto ocurrió en el caso de la novela gráfica Zarya of the Dawn de Kristina Kashtanova, quien escribió el texto, pero uso dicha plataforma para generar la portada e imágenes.
La experta resaltó que también se está hablando sobre regulación ética de la inteligencia artificial, aunque esto se refiere más a términos y condiciones o cómo se protege la información que se usa para alimentar los algoritmos, entre otros.
Con IA se realizó un video de la Reina Isabel.
En México, el legislador Ignacio Loyola Vera del Partido Acción Nacional sometió a consideración del pleno de la Cámara de Diputados una iniciativa con proyecto de decreto para expedir una ley para la regulación ética de esta tecnología, aunque no propone algo de fondo y puede que no se apruebe pronto.
Creo que primero vendría la regulación sobre ciberseguridad y años después probablemente venga la de IA, mejor que tarde y que se vean las experiencias de otras regulaciones, antes de hacer algo apresurado”, consideró Rumualdo al platicar con Excélsior.
HACE FALTA EDUCACIÓN CON RESPECTO A LA INTELIGENCIA ARTIFICIAL
Para la experta, la mejor forma de reducir el impacto del uso de la inteligencia artificial en la creación de imágenes o videos es la educación.
Lo que se necesita es saber cómo ocupar las herramientas, esto más que ética es educación de los usuarios”, recomendó.
Ante esto, empresas como Strike recomiendan crear campañas de concientización sobre los Deepfake y cómo es que la inteligencia artificial puede ser utilizada con el objetivo de engañar.
También se le puede enseñar a las personas a cómo detectar cuando una imagen o video pueden ser falsos, por ejemplo, imágenes mal enfocadas alrededor del rostro; parpadeo inusual o falta de éste; reflejo de la luz en los ojos; inconsistencias en detalles como el movimiento del cabello o errores en desenfoque del fondo.
