La tecnología de los deepfakes permite sintetizar video y voz. Surgió gracias a los avances de la inteligencia artificial (IA) y el aprendizaje automático, y produce resultados tan elaborados que resulta difícil distinguirlos de la realidad. Esta tecnología tiene el potencial de impulsar cambios innovadores en diversos ámbitos de aplicación, aunque también plantea problemas éticos y entraña riesgos sociales.
Este artículo analiza en profundidad la evolución histórica de la tecnología de los deepfakes y sus principales etapas, sus ámbitos de aplicación en la sociedad actual, los riesgos potenciales y los problemas éticos que plantea, así como la regulación y las medidas de respuesta a escala internacional.
Historia de la tecnología de los deepfakes y principales etapas de su desarrollo
La historia de la tecnología de los deepfakes comenzó con el avance de la inteligencia artificial (IA) y el aprendizaje automático. En sus inicios consistía en técnicas sencillas de sustitución de rostros. Hoy abarca campos tan diversos como la síntesis de voz, la restauración de imágenes y la generación de video. En el camino hubo etapas de desarrollo y puntos de inflexión importantes, y los avances técnicos aumentaron considerablemente el grado de sofisticación de los deepfakes.
El nacimiento de las GAN y los inicios de la tecnología de los deepfakes
El punto de partida de la tecnología de los deepfakes fueron las GAN (Generative Adversarial Network), presentadas en 2014. En una GAN, dos redes neuronales, el generador (Generator) y el discriminador (Discriminator), compiten entre sí durante el aprendizaje, lo que permitió mejorar drásticamente la calidad de los datos generados. Esta técnica, propuesta por Ian Goodfellow, sentó las bases de los deepfakes e hizo posible un salto cualitativo en la generación de los primeros videos de este tipo. Las GAN se utilizaron especialmente para sustituir rostros de personas en contenidos de video, un uso que marcó la primera etapa de los deepfakes.
Variantes y mejoras de las GAN
A medida que avanzó la tecnología de las GAN, surgieron diversos modelos derivados que aumentaron considerablemente la sofisticación y el realismo de los deepfakes. En particular, técnicas como StyleGAN y ProGAN permitieron reproducir con precisión hasta los detalles más sutiles de un rostro y generar videos sintéticos de aspecto más natural. Estas mejoras técnicas elevaron la calidad de los videos deepfake y permitieron producir resultados más realistas. Las variantes de las GAN también se aplicaron a la generación y modificación de diversos contenidos de imagen y video, ampliando su uso más allá de la síntesis facial.
Incorporación de la síntesis de voz
Con la evolución de los deepfakes, la síntesis de voz también se convirtió en un componente importante. WaveNet, un modelo de aprendizaje profundo, aprendió a partir de datos de voz y llegó a imitar la voz humana de manera casi perfecta, lo que permitió combinar video y voz en los deepfakes. La incorporación de la síntesis de voz permitió crear contenidos sintéticos más completos al combinar el video con la voz. La posibilidad de alterar ambos simultáneamente amplió el abanico de usos de los deepfakes.
Desarrollo de los deepfakes en tiempo real
La tecnología de los deepfakes ha avanzado hasta permitir la modificación de rostros y voces en tiempo real. Tecnologías como la del proyecto Maxine de NVIDIA abrieron la posibilidad de utilizar deepfakes incluso durante transmisiones en directo. Los deepfakes en tiempo real pueden utilizarse en ámbitos como la radiodifusión, los videojuegos y las videoconferencias, lo que sienta las bases para aplicar esta tecnología en más sectores.
Desarrollo de las tecnologías de detección de deepfakes
A la par de la tecnología de los deepfakes, también han evolucionado las tecnologías para detectarlos y protegerse frente a ellos. A medida que los deepfakes se han vuelto más sofisticados, se han desarrollado diversas técnicas de aprendizaje automático para detectarlos. Estas tecnologías de detección son indispensables para prevenir el uso indebido de los deepfakes y siguen siendo objeto de diversas iniciativas de investigación y desarrollo. Avanzar en su detección es un paso importante para reducir los riesgos sociales que pueden entrañar los deepfakes y favorecer sus usos beneficiosos.
Ámbitos de aplicación de la tecnología de los deepfakes
La tecnología de los deepfakes muestra potencial para impulsar cambios innovadores en diversos sectores. Su uso se extiende desde el entretenimiento hasta ámbitos como los medios de comunicación, la industria del entretenimiento, la educación, la atención sanitaria, la seguridad y la publicidad.
Medios de comunicación y entretenimiento
La tecnología de los deepfakes está impulsando cambios innovadores en los medios de comunicación y el entretenimiento. Puede aplicarse de diversas maneras, como sustituir el rostro de un actor o recrear a un personaje histórico, lo que contribuye a reducir los costos de producción cinematográfica y a ofrecer nuevas formas de contenido. Por ejemplo, en la saga «Star Wars» se recreó con éxito a Carrie Fisher en su juventud mediante esta tecnología. Estas técnicas aumentan la inmersión visual y ayudan a superar las limitaciones de producción que pueden surgir por el envejecimiento o el fallecimiento de un actor.
Educación
La tecnología de los deepfakes también puede resultar muy útil en la educación. Recrear los discursos de personajes históricos o figuras conocidas ofrece al alumnado una experiencia de aprendizaje más vívida y mejora la calidad de la enseñanza. Puede resultar especialmente eficaz en la enseñanza de la historia o en el aprendizaje de idiomas. Por ejemplo, al mostrar al alumnado una recreación de un discurso del presidente Lincoln mediante un deepfake, se le permite experimentar con mayor viveza la situación de aquella época. Esta tecnología también puede aplicarse a la creación de contenidos didácticos que incorporen docentes virtuales o se combinen con la realidad virtual.
Atención sanitaria
En el ámbito sanitario, la tecnología de los deepfakes puede ser útil para el diagnóstico y el tratamiento en salud mental mediante el análisis de las expresiones faciales de los pacientes y el reconocimiento de sus emociones. Puede servir como herramienta para facilitar la comunicación entre el personal sanitario y los pacientes que necesitan comunicarse de forma no verbal. Por ejemplo, permite analizar cambios sutiles en las expresiones faciales de pacientes con trastorno del espectro autista y, a partir de ello, proponer tratamientos adecuados. También puede ayudar a identificar con precisión las emociones de los pacientes y elaborar planes de tratamiento personalizados.
Seguridad
La tecnología de los deepfakes también puede desempeñar un papel importante en la seguridad. Puede mejorar el reconocimiento facial para su uso en la prevención e investigación de delitos. Por ejemplo, se podrían crear sistemas capaces de analizar en tiempo real imágenes de cámaras de circuito cerrado (CCTV), detectar comportamientos sospechosos y, de ser necesario, alertar a la policía. Esto podría contribuir de manera importante a prevenir delitos, aunque la posibilidad de que se haga un uso indebido del reconocimiento facial exige actuar con cautela. Los deepfakes también pueden emplearse en investigaciones para reconstruir el rostro de un delincuente o recrear el aspecto de una persona desaparecida.
Publicidad
En el ámbito publicitario, la tecnología de los deepfakes puede utilizarse para crear anuncios personalizados y realizar campañas de marketing segmentadas. Es posible reconocer el rostro del consumidor para mostrarle anuncios adaptados a su perfil o sintetizar el rostro de una figura conocida para maximizar el impacto publicitario. Esto ayuda a personalizar la publicidad, aumentar su eficacia y generar mayores ingresos publicitarios. Por ejemplo, se puede ofrecer al consumidor una experiencia que le haga sentir que participa directamente en el anuncio y, con ello, aumentar su cercanía con la marca. Al mismo tiempo, deben tenerse en cuenta los problemas éticos relacionados con la protección de los datos personales.
Redes sociales
La tecnología de los deepfakes también se utiliza de diversas maneras en las plataformas de redes sociales. Ayuda a los usuarios a crear contenidos propios y originales, lo que fomenta una participación más activa en las redes. Por ejemplo, se han popularizado los contenidos en los que los usuarios insertan su rostro en una escena de una película conocida o de un video musical y luego la comparten. Sin embargo, estas aplicaciones requieren cautela porque pueden generar problemas éticos y dar lugar a usos indebidos. Existe el riesgo de que el contenido creado con deepfakes se confunda con información errónea o dañe la reputación de una persona.
La tecnología de los deepfakes tiene el potencial de generar cambios innovadores en diversos ámbitos. Para aprovechar ese potencial de forma beneficiosa se requieren avances técnicos, consenso social y regulación jurídica.
Riesgos potenciales y problemas éticos de la tecnología de los deepfakes
El avance de la tecnología de los deepfakes puede generar diversos cambios positivos, aunque también entraña graves riesgos potenciales y problemas éticos. Estos pueden manifestarse de distintas maneras, entre ellas la vulneración de la privacidad, el uso malintencionado, la inestabilidad política, las controversias éticas, el abuso de la tecnología y el deterioro de la confianza social.
Vulneración de la privacidad
La tecnología de los deepfakes permite que cualquiera pueda reproducir fácilmente mediante síntesis el rostro o la voz de otra persona. Esto crea un riesgo de vulneración grave de la vida privada. En particular, cuando se usa indebidamente esta tecnología para producir material pornográfico o información falsa, las víctimas pueden sufrir un profundo daño psicológico. Estas vulneraciones de la privacidad atentan contra la dignidad de las personas y se están convirtiendo en un grave problema social por la dificultad de reparar el daño.
Uso malintencionado
Por sus características, la tecnología de los deepfakes es especialmente susceptible de utilizarse con fines malintencionados. Puede emplearse en diversas formas de delincuencia, como manipular las declaraciones de figuras políticas o personas famosas para difundir información falsa o alterar voces para cometer fraudes financieros. Estos usos malintencionados pueden causar una gran confusión en toda la sociedad, menoscabar la confianza de las víctimas y generar inquietud social.
Generación de inestabilidad política
Es muy probable que el público dé por ciertas las noticias falsas creadas mediante deepfakes. Esto puede generar inestabilidad política y agravar la desconfianza social. El riesgo es especialmente grave porque puede convertirse en una amenaza para la democracia. De hecho, la propaganda política que utiliza deepfakes ya constituye un problema en varios países, donde son frecuentes los intentos de manipular la opinión pública mediante esta tecnología.
Controversias éticas
El uso de la tecnología de los deepfakes también suscita controversias éticas. Dado que los avances tecnológicos pueden utilizarse con fines perjudiciales, hace falta un consenso social sobre cómo regular y gestionar esta tecnología. En particular, sintetizar el rostro o la voz de una persona sin su consentimiento plantea graves problemas éticos. Estas prácticas vulneran los derechos de la personalidad y hacen necesario crear conciencia sobre el uso abusivo de la tecnología.
Riesgo de abuso de la tecnología
A medida que los deepfakes se vuelven más sofisticados, resulta más difícil detectarlos y distinguirlos del material auténtico. Esto puede dificultar aún más la respuesta jurídica o la regulación. La tecnología avanza tan deprisa que es muy probable que aumenten los casos de uso indebido, por lo que es necesario prepararse. Por ello, urge desarrollar tecnologías de detección y autenticación que permitan prevenir el abuso de los deepfakes.
Deterioro de la confianza social
El avance de la tecnología de los deepfakes supone una amenaza potencial para la confianza social. A medida que a las personas les resulta más difícil distinguir lo verdadero de lo falso, puede crecer la desconfianza hacia los medios de comunicación y la información. Esto puede provocar inestabilidad social e incluso socavar los cimientos de la democracia y del Estado de derecho. Para prevenir estos problemas se necesitan respuestas técnicas, jurídicas y sociales, así como esfuerzos en varios frentes.
Regulación y medidas de respuesta ante los deepfakes a partir de casos internacionales
Para responder a los problemas éticos y los riesgos potenciales de la tecnología de los deepfakes, países de todo el mundo y organismos internacionales están elaborando distintas normas y medidas de respuesta. Analizar estos casos permite buscar formas eficaces de regulación y respuesta y extraer lecciones importantes para prevenir el uso indebido de los deepfakes.
La respuesta de Estados Unidos
Estados Unidos está introduciendo diversas normas jurídicas para prevenir el uso indebido de la tecnología de los deepfakes. En particular, el estado de California aprobó una ley que prohíbe difundir información falsa mediante deepfakes durante los períodos electorales. La ley busca impedir que se manipule la imagen de figuras políticas para confundir a los votantes en esos períodos y preservar la equidad de las elecciones. En el ámbito federal también se debaten proyectos de ley para prevenir el uso indebido de esta tecnología y se estudian medidas para minimizar el impacto de los deepfakes, en especial en cuestiones de ciberseguridad.
La respuesta de la Unión Europea (UE)
La Unión Europea (UE) está reforzando la protección de los datos personales mediante el GDPR (General Data Protection Regulation) y está elaborando normas adicionales para prevenir el uso indebido de los deepfakes. En particular, para aumentar la transparencia de los contenidos generados con esta tecnología, la UE está introduciendo normas que obligan a identificarlos expresamente como deepfakes. Estas medidas se están consolidando en toda Europa como un medio importante para proteger la privacidad de las personas y prevenir los daños causados por los deepfakes. La UE también está reforzando las directrices éticas para el conjunto de las tecnologías de inteligencia artificial (IA) con el fin de prevenir el abuso de los deepfakes.
La respuesta de China
China está introduciendo normas estrictas ante el aumento de los casos de uso indebido a medida que avanza la tecnología de los deepfakes. En 2020 aprobó una ley que prohíbe producir y distribuir noticias falsas y material pornográfico mediante deepfakes. Con esta ley, el Gobierno chino busca impedir el abuso de esta tecnología y mantener la estabilidad social. China también está desarrollando tecnologías para identificar y bloquear contenidos deepfake y ha introducido sistemas de monitoreo en tiempo real basados en inteligencia artificial para detectar con rapidez contenidos ilícitos relacionados con los deepfakes.
La respuesta de Corea del Sur
Corea del Sur reconoce los riesgos potenciales de la tecnología de los deepfakes y está estableciendo mecanismos jurídicos para regularla. En particular, la Ley de Redes de Información y Comunicaciones prohíbe producir y difundir material pornográfico creado mediante deepfakes e impone sanciones severas a quienes infringen esa prohibición. Con estas normas, Corea del Sur previene el uso indebido de los deepfakes y refuerza la protección de las víctimas. También se está investigando activamente cómo desarrollar tecnologías de detección de deepfakes, y el Gobierno y las empresas privadas colaboran en la creación de distintas soluciones de detección. Estas medidas técnicas desempeñan un papel importante en la prevención de los daños causados por los deepfakes.
Cooperación internacional
La cooperación internacional es indispensable porque los riesgos potenciales de los deepfakes pueden traspasar fronteras. Organismos internacionales como las Naciones Unidas (ONU) están elaborando un marco regulatorio global para prevenir el uso indebido de esta tecnología y fomentan la cooperación entre países. La ONU propone a sus Estados miembros normas internacionales para promover el uso ético de los deepfakes y prevenir su uso indebido. Mediante el intercambio de información y la asistencia técnica, la cooperación internacional también ayuda a los países a responder de manera eficaz a los problemas que plantean los deepfakes.
Desarrollo de tecnologías de detección y defensa frente a los deepfakes
Para prevenir el uso indebido de los deepfakes es indispensable desarrollar tecnologías de detección y defensa. Diversos países, empresas e instituciones académicas colaboran en el desarrollo de tecnologías para detectar los deepfakes y protegerse frente a ellos, con el objetivo de evitar su uso indebido. Por ejemplo, Facebook y Microsoft organizan un concurso de detección de deepfakes para identificar técnicas innovadoras. En él participan investigadores de todo el mundo que desarrollan y validan distintos algoritmos de detección. Estas iniciativas técnicas aumentan la precisión de la detección y cumplen una función importante en la prevención del uso indebido de los deepfakes.
La respuesta y la cooperación internacionales frente a los deepfakes deberán seguir reforzándose para contribuir a minimizar sus efectos negativos en la sociedad y explorar formas de utilizarlos de manera beneficiosa.
El avance de la tecnología de los deepfakes puede impulsar cambios innovadores en diversos ámbitos y, al mismo tiempo, plantea problemas éticos y riesgos sociales. Para abordar estos problemas son indispensables tanto los avances técnicos como la regulación jurídica y el consenso social.
Mediante la cooperación internacional y distintas medidas de respuesta, es necesario prevenir el uso indebido de los deepfakes y explorar maneras de utilizarlos con fines beneficiosos. Estos esfuerzos deben mantenerse para que la tecnología de los deepfakes tenga un efecto positivo en la sociedad.
