Los deepfakes que triunfan en China no son de famosos. Son de los seres queridos que murieron
Sun Kai habla una vez por semana por videoconferencia con su madre. Le cuenta cómo le va en el trabajo y con su mujer. Su madre dice algo de vez en cuando, pero sobre todo escucha. Pero hay algo más: la mujer que sale en las videoconferencias no es en realidad su madre, porque ella murió hace cinco años.
Para Kai, no obstante, poder seguir hablando con ella, aunque fuera mediante una representación virtual, era muy importante. Así que en 2019 se puso en contacto con una empresa china de IA llamada Silicon Intelligence y les proporcionó una imagen de ella y varios clips de audio de conversaciones mantenidas en WeChat.
Aquello fue suficiente para «resucitar por IA» a su madre. Aunque inicialmente esa recreación virtual de su madre era limitada, con el tiempo el avatar fue más convincente y le ha servido a Kai para lidiar con la terrible pérdida de su madre.
Inmortalidad digital
Lo cuentan en MIT Technology Review, donde revelan que este tipo de «resurrecciones por IA» se han convertido en una tendencia que cada vez va ganando más fuerza en China. Allí hay ya varias empresas que trabajan en este tipo de sistemas.
Fuente: Netflix.
La idea de la «inmortalidad digital» no es nueva ni allí ni en Occidente. Microsoft lanzó a principios de 2021 un chatbot que permitía hablar con personas muertas usando contenido como imágenes, grabaciones de voz o publicaciones en redes sociales. La compañía registró una patente al respecto, pero no llegó a desarrollar ningún producto o servicio alrededor de la propuesta.
Es también una idea popular en el mundo del cine. El primer episodio de la segunda temporada de Black Mirror, titulado ‘Be Right Back‘, precisamente exponía esa idea de forma notable e inquietante.
La opción de poder comunicarse con un avatar virtual de una persona fallecida parece estar ganando fuerza en China. Las empresas de IA que normalmente se centraban en la creación de deepfakes para generar influencers virtuales —Aitana es un buen ejemplo del fenómeno— han comenzado a ofrecer también esos servicios de generación avatares que corresponden a personas que han fallecido.
Como explicaba el CEO de Silicon Intelligence, Sima Huapeng, «incluso si solo el 1% de la población china acepta [el clonado por IA de personas muertas], ese es un mercado enorme». En los tres últimos años los avances en este tipo de tecnología han sido notables, y han pasado de vídeos renderizados de unos minutos a avatares «vivos» que pueden interactuar con los usuarios.
El coste también se ha reducido y como explica Sima, «el año pasado costaba entre 2.000 y 3.000 dólares, pero ahora solo cuesta unos pocos cientos de dólares«. La competencia entre las startups que ofrecen este servicio es feroz y ayuda tanto a abaratar precios como a lograr resultados cada vez más convincentes para los clientes.
Zhang Zewei, fundador de una empresa llamada Super Brain con sede en Shangai, también plantea una solución así. Él habla de cómo están intentando ir más allá de esas fotos que la gente tiene de sus familiares fallecidos e casa. Su idea pasa por crear marcos digitales con imágenes de esas personas pero que gracias a la IA pueden ser activados en cualquier momento para interactuar con esos dispositivos y, por tanto, con esos avatares virtuales.
Zhang afirma haber creado esas réplicas digitales de personas fallecidas para unos 1.000 clientes desde marzo de 2023. El precio oscila entre los 700 y los 1.400 dólares dependiendo del servicio ofrecido, y pronto ofrecerán una app para poder recrear esos avatares directamente desde el teléfono y plantear un coste que rondará los 140 dólares para esa alternativa.
Ese tipo de servicios de creación de avatares virtuales también comienzan a abundar fuera de China. Ya hemos hablado en el pasado de Replika, la empresa que genera chatbots conversacionales destinados a acompañar —e incluso enamorar— a los usuarios, y otras empresas como StoryFile o, sobre todo, HereAfter, permiten precisamente generar avatares virtuales a partir de clips de audio y vídeo de nuestros seres queridos para poder seguir interactuando con ellos después de haber muerto.
El peligro de la resurrección digital
Sigue habiendo muchas dudas sobre si este tipo de opción es adecuada para sobrellevar el duelo cuando muere un ser querido. Shen Yang, un profesor de la Universidad de Tsinghua, explica que «la controversia radica en que si replicamos a nuestros familiares porque los echamos de menos, es posible que permanezcamos constantemente en estado de duelo y no podamos retirarnos de él para aceptar que realmente han fallecido».
Ese riesgo existe, pero los expertos advierten de otros peligros. La Dr Katarzyna Nowaczyk-Basińska, del LCFI de la Universidad de Cambridge, explicaba que «este ámbito de la IA es un campo de minas ético. Es importante dar prioridad a la dignidad de los difuntos y asegurarse de que no se vea invadida por motivos económicos, por ejemplo, por los servicios digitales para después de la muerte».
La polémica planteada por este tipo de servicios hace que algunos expertos recomienden una serie de buenas prácticas que incluso podrían acabar convirtiéndose en regulación.
En El País citaban las palabras de José González, psicólogo especializado de procesos de duelo, que advertía de cómo estos avatares hacen que «en un primer momento, hay alivio. Pero después surge una adicción, una dependencia. Si la IA reproduce literalmente cómo era uno, hay un peligro grande de cronificación, sobre todo en los vínculos muy intensos. Es fácil entrar en esa fantasía de que no ha muerto. Puede provocar esa congelación en la fase de negación»
Imagen | Genbeta con Copilot Designer
