En un mundo cada vez más digitalizado, la tecnología ha avanzado a pasos agigantados, brindándonos herramientas poderosas y creativas. Nos encontramos en un proceso sin precedentes en el que constantemente nuestra realidad se ve confrontada por nuevos desarrollos y avances que nos llevan a considerar que, tal vez, el futuro no solo nos alcanzó, sino que nos rebasó por completo. La ecuación de riesgo e incertidumbre se vuelve todavía más compleja si incluimos a la inteligencia artificial: un arma de dos filos que pone a prueba los límites de la autenticidad, la privacidad y la ética a un ritmo alarmante.
Si bien la Inteligencia Artificial puede ser un invaluable aliado en distintos sectores, como lo es en el educativo, es un arma de dos filos que ya está siendo utilizada en el ciberdelito, exacerbando los retos para la ciberseguridad en un mundo en el que ya no podemos confiar en nuestros propios ojos.
Uno de los desarrollos más intrigantes, y a veces alarmantes, de los últimos años es la creación de los “deepfakes“. Estas fascinantes pero controvertidas representaciones digitales han ganado la atención mundial, al tiempo que plantean preguntas cruciales sobre el rumbo a seguir como humanidad, pues tanto pueden ser utilizados para crear contenido de entretenimiento o educativo, se pueden utilizar para desinformar, destruir reputaciones e incluso cometer delitos.
LEE MÁS: Usan Inteligencia Artificial para crear contenido sexual sin consentimiento
Los deepfakes son videos o audios manipulados digitalmente para que parezca que alguien está diciendo o haciendo algo que en realidad nunca dijo o hizo.
Esta tecnología se ha vuelto cada vez más sofisticada en los últimos años, y ahora es posible crear deepfakes que son casi indistinguibles de los videos y audios reales, algo realmente alarmante si consideramos además que los videos son parte de nuestro nuevo lenguaje digital en el que cada vez consumimos más de este contenido. Tenemos a la mano muchas herramientas para modificarlos y la realidad es que cada vez nos cuesta más discernir entre las ediciones y la realidad.
El término “deepfake” proviene de la combinación de “deep learning” (aprendizaje profundo) y “fake” (falso), y se refiere a la manipulación de contenido multimedia utilizando algoritmos de aprendizaje profundo, como las redes neuronales. Aunque los deepfakes han ganado notoriedad recientemente, las bases de esta tecnología se establecieron hace décadas. Las redes neuronales convolucionales y los avances en el procesamiento de imágenes impulsaron el desarrollo de algoritmos capaces de mapear características faciales y de voz con una precisión sin precedentes. Estas redes son, de una manera muy simplificada, un tipo de arquitectura de redes neuronales profundas diseñadas específicamente para el procesamiento de datos como imágenes y videos, resultando extremadamente efectivas en el análisis de imágenes y reconocimiento visual.
La popularización de los deepfakes comenzó en 2017, cuando una serie de aplicaciones y plataformas en línea permitieron a los usuarios intercambiar caras en videos. Sin embargo, estos inicios inofensivos pronto evolucionaron hacia aplicaciones más complejas y preocupantes.
A pesar de sus connotaciones negativas, los deepfakes también tienen aplicaciones positivas y prometedoras. En la industria del entretenimiento, los artistas pueden ser “revividos” digitalmente para aparecer en nuevas películas o videos musicales, lo que podría abrir una nueva era de colaboraciones intergeneracionales. Además, los deepfakes también han sido utilizados en la medicina para generar imágenes médicas realistas que podrían ayudar en la formación de profesionales de la salud, ya que permiten la simulación de escenarios reales. Adicionalmente, los deepfakes se pueden utilizar para mejorar la comunicación entre personas que hablan idiomas diferentes.
LEE MÁS: ¿Necesita la inteligencia artificial un organismo regulador de la ONU?
Sin embargo, como usualmente sucede, los beneficios de los deepfakes están acompañados de riesgos significativos. Uno de los mayores peligros radica en la proliferación de información falsa y la erosión de la confianza en los medios. La capacidad de crear videos convincentes de figuras públicas diciendo o haciendo cosas que nunca hicieron plantea una amenaza para la percepción de la verdad y la realidad. Un estudio realizado por la Universidad de California en Riverside reveló que, de los deepfakes analizados en su investigación, el 96% eran pornográficos y el 99% de ellos representaban a mujeres. Esto destaca la preocupante dimensión de la explotación y el acoso que puede surgir a través de esta tecnología. Imagina despertar un día y encontrarte con que contenido de esa índole se hizo viral sin tu consentimiento. No eres tú, no es tu cuerpo, sin embargo, es tu rostro el que está siendo utilizado.
La lucha contra los deepfakes se ha convertido en un desafío técnico y ético. A medida que los algoritmos se vuelven más sofisticados, es cada vez más difícil detectar deepfakes mediante métodos convencionales. Afortunadamente, también se están desarrollando herramientas basadas en inteligencia artificial para identificar estos contenidos falsificados, además de promover técnicas para identificarlos tales como buscar cambios particulares en la posición de la cabeza, en la iluminación o en comportamientos incongruentes de la persona en el video.
Desde una perspectiva ética, el uso de deepfakes plantea preguntas fundamentales sobre la privacidad y el consentimiento. ¿Es moralmente aceptable crear videos falsos de personas sin su permiso? ¿Cómo podemos garantizar que no se abuse de esta tecnología para difamar o acosar a individuos? ¿Hasta qué punto somos dueños de nuestra imagen y nuestros rostros?
LEER MÁS: “Esta cuenta no es mía” | Crece violencia digital contra mujeres en Sinaloa
Los deepfakes representan un cruce fascinante entre la tecnología, la creatividad y la ética. A medida que la tecnología continúa avanzando, es crucial abordar los desafíos que plantean de manera equitativa y responsable. Esto implica el desarrollo de regulaciones que guíen el uso de deepfakes y la promoción de la alfabetización digital para que el público en general pueda discernir entre contenido auténtico y manipulado. En última instancia, los deepfakes nos recuerdan la importancia de mantener un equilibrio entre la innovación y la responsabilidad. En un mundo donde la línea entre la realidad y la ficción se vuelve cada vez más borrosa, es esencial que adoptemos un enfoque crítico y reflexivo hacia la tecnología que creamos y consumimos, cuestionándonos constantemente ¿a dónde queremos llegar?
Comentarios
Antes de dejar un comentario pregúntate si beneficia a alguien y debes estar consciente en que al hacer uso de esta función te adíeles a nuestros términos y condiciones de uso.