La capacidad de la IA para crear deepfakes: ¿Cuáles son los potenciales impactos positivos?
La tecnología Deepfake se desarrolló originalmente a partir del trabajo del científico informático Ian Goodfellow en redes generativas adversas (GAN). Las GAN generan imágenes convincentes mediante un algoritmo en el que dos GAN intentan «engañarse» entre sí para que piensen que una imagen es «real». Hoy en día, las GAN pueden recrear de manera convincente a una persona utilizando solo un videoclip suyo.
Existe una extendida preocupación por el incremento exponencial de las expresiones de deepfake, realizadas con programas de inteligencia artificial cada vez más accesibles y fáciles de usar, al alcance de cualquiera que quiera producirlos con fines de entretenimiento, acoso, chantaje, propagandísticos, para construir una política o para generar fake news.
Las principales preocupaciones provienen del ámbito de los medios de información, medios y plataformas digitales, redes sociales, los ámbitos del poder político, la legislación, la ética y la tecnología. Los deepfakes, entendidos como documentos falsos o falsificados que se hacen pasar por auténticos, pueden tener un amplio e irreversible alcance mediático. Estas preocupaciones se fundan en el hecho de que los deepfakes minan la credibilidad de los documentos audiovisuales, principalmente vídeos, como medios de información o certificación de hechos, que ponen en entredicho su veracidad o generan riesgos de desinformación, difamación o chantaje social.
Si bien los efectos negativos de los deepfakes son fáciles de imaginar y atemorizantes, también existen algunas ventajas en el uso de esta tecnología con fines productivos. Veamos cuáles son los pros:
- Arte: Es probable que los fanáticos de Star Wars estén al tanto del uso de deepfake para traer al actor Peter Cushing de vuelta a la «vida» para la película «Rogue One: A Star Wars Story» de 2016 , pero la tecnología también podría permitir una serie de otras aplicaciones artísticas útiles. Estas incluyen poder retroceder y cambiar el diálogo en un vídeo o película sin la necesidad de volver a grabar y crear vídeos completos simplemente seleccionando de un menú de presentadores e ingresando el guion.
- Entrenamiento profesional: La tecnología Deepfake se puede utilizar para crear avatares de IA para su uso en videos de entrenamiento. Las empresas emergentes como Synthesia, con sede en Londres, han recibido más atención del mundo empresarial durante la pandemia de COVID, ya que los bloqueos y los problemas de salud han hecho que las grabaciones de videos que involucren a personas reales sean mucho más difíciles de realizar.
- Investigación: Fuera de los campos del entretenimiento y la formación, la tecnología deepfake también se puede utilizar para crear avatares personales. Luego, estos se pueden usar en aplicaciones que permiten a las personas probarse ropa o nuevos peinados en casa, o en aplicaciones de capacitación en varias profesiones. Una de ellas es la medicina, donde la tecnología generativa ya se está utilizando para crear escáneres cerebrales «falsos» basados en datos reales de pacientes. Estos escaneos falsos se utilizan para entrenar algoritmos para detectar tumores en imágenes reales.
- Protección de identidad: Quizás lo más importante es que los avatares generados por IA se han utilizado para proteger la identidad de los entrevistados en informes noticiosos sobre la persecución de personas LGBTQ en Rusia.
- Ahorro financiero: Otros señalan que la tecnología generativa podría democratizar una serie de industrias. Al permitir la creación barata de todo, desde vídeos hasta publicidad y juegos, la tecnología generativa podría permitir que individuos y empresas ingresen a estos campos con menos inversión.
Puede ser que la tecnología sea menos peligrosa que el uso potencial que se le dé. Si las empresas y las personas que utilizan tecnología deepfake pueden cumplir con altos estándares éticos y si los usos dañinos de la tecnología se pueden prevenir con éxito, esta tecnología podría ser muy prometedora.
Guidance
Es imprescindible conocer los efectos negativos de las deepfakes y sus aplicaciones más perversas para saber de qué se trata y evaluar una noticia.
Pese a que sólo se habla mal de los deepfakes, se está descubriendo que tienen impactos muy positivos y en áreas que jamás pensaríamos que afectaría, como pueden ser: el arte, el ahorro personal, las investigaciones, la protección personal y el entrenamiento personal.
¿Quieres saber más?
Artículo: Casos de uso positivo de deepfakes
