Vio el anuncio por primera vez en Facebook. Y luego nuevamente en TikTok. Después de ver lo que parecía ser Elon Musk ofreciendo una oportunidad de inversión una y otra vez, Heidi Swan pensó que tenía que ser cierto.
«Se parecía a Elon Musk, sonaba igual que Elon Musk y pensé que era él», dijo Swan.
Se puso en contacto con la empresa detrás del lanzamiento y abrió una cuenta por más de 10.000 dólares. La trabajadora sanitaria de 62 años pensó que estaba haciendo una inversión inteligente en criptomonedas por parte de un empresario e inversor por valor de miles de millones de dólares.
Pero Swan pronto se enteraría de que había sido estafada por una nueva ola de ladrones de alta tecnología que utilizaban inteligencia artificial para crear deepfakes.
Incluso mirando los videos ahora, sabiendo que son falsos, Swan todavía piensa que parecen convincentes.
«Todavía se parecen a Elon Musk», dijo. «Todavía suenan como Elon Musk.»
Heidi Swan / Crédito: CBS News Texas
Las estafas deepfake aumentan en EE. UU.
A medida que la tecnología de inteligencia artificial evoluciona y se vuelve más accesible, este tipo de estafas se vuelven más comunes.
De acuerdo a Deloitteun grupo líder de investigación financiera, el contenido generado por IA contribuyó a más de 12 mil millones de dólares en pérdidas por fraude el año pasado, y podría alcanzar los 40 mil millones de dólares en los EE. UU. para 2027.
Tanto el Comisión Federal de Comercio y el Oficina de Mejores Negocios han emitido advertencias de que las estafas deepfake están aumentando.
A estudiar de la firma de inteligencia artificial Sensity descubrió que Elon Musk es la celebridad más común utilizada en estafas deepfake. Una razón probable es su riqueza y su espíritu empresarial. Otra razón es por la cantidad de entrevistas que ha realizado; Cuanto más contenido haya de alguien en línea, más fácil será crear deepfakes convincentes.
Anatomía de un deepfake
En la Universidad del Norte de Texas en Denton, el profesor Christopher Meerdo también utiliza inteligencia artificial. Pero lo está usando para crear arte.
«No va a sustituir a las artes creativas», afirmó Meerdo. «Simplemente los aumentará y cambiará la forma en que entendemos las cosas que podemos hacer en la esfera de la creatividad».
Aunque Meerdo ve la inteligencia artificial como una forma de ser innovador, ve sus peligros.
Meerdo mostró al CBS News Texas I-Team cómo los estafadores pueden tomar un video real y usar herramientas de inteligencia artificial para reemplazar la voz y los movimientos de la boca de una persona, haciendo que parezca que dice algo completamente diferente.
Los avances tecnológicos están facilitando la creación de vídeos deepfake. Todo lo que una persona familiarizada con la IA necesita para crear uno es una única imagen fija y una grabación de vídeo.
Para demostrar esto, Meerdo tomó un video del periodista de investigación Brian New para crear un deepfake de Elon Musk.
Estos vídeos generados por IA no son perfectos, pero sólo necesitan ser lo suficientemente convincentes como para engañar a una víctima desprevenida.
«Si realmente estás tratando de estafar a la gente, creo que puedes hacer cosas realmente malas con esto», dijo Meerdo.
¿Cómo puedes detectar un deepfake?
Algunos deepfakes son más fáciles de detectar que otros; puede haber signos como movimientos antinaturales de los labios o lenguaje corporal extraño. Pero a medida que la tecnología mejore, será más difícil saberlo con solo mirar.
Hay un número creciente de sitios web que afirman que pueden detectar deepfakes. Utilizando tres videos deepfake conocidos y tres auténticos, el I-Team de CBS News Texas sometió a cinco de estos sitios web a una prueba no científica: software profundo, Atestivo, Medidor DeepFake-O, sensibilidad y Detector de falsificaciones.
En total, estas cinco herramientas en línea identificaron correctamente los vídeos probados casi el 75% de las veces. El I-Team se acercó a las empresas con los resultados; sus respuestas están a continuación.
software profundo
Deepware, un sitio web de uso gratuito, inicialmente no detectó dos de los videos falsos que probó el I-Team. En un correo electrónico, la compañía dijo que los clips utilizados eran demasiado cortos y que para obtener mejores resultados, los videos subidos debían durar entre 30 segundos y un minuto. Deepware identificó correctamente todos los vídeos que eran más largos. Según la empresa, su tasa de detección se considera buena para la industria: un 70%.
El sección de preguntas frecuentes del sitio web de Deepware afirma: «Los deepfakes aún no son un problema resuelto. Nuestros resultados indican la probabilidad de que un vídeo específico sea un deepfake o no».
Detector de falsificaciones
Deepfake Detector, una herramienta que cobra 16,80 dólares al mes, identificó uno de los vídeos falsos como «97% de voz natural». La compañía, que se especializa en detectar voces generadas por IA, dijo en un correo electrónico que factores como el ruido de fondo o la música pueden afectar los resultados, pero tiene una tasa de precisión de aproximadamente el 92%.
En respuesta a una pregunta sobre orientación para los consumidores promedio, la compañía escribió: «Nuestra herramienta está diseñada para ser fácil de usar. Los consumidores promedio pueden cargar fácilmente un archivo de audio en nuestro sitio web o usar nuestra extensión de navegador para analizar el contenido directamente. La herramienta proporcionar un análisis para ayudar a determinar si un vídeo puede contener elementos deepfake utilizando probabilidades, haciéndolo accesible incluso para aquellos que no están familiarizados con la tecnología de IA».
Atestivo
Attestiv marcó dos de los videos reales como «sospechosos». Según el director ejecutivo de la empresa, Nicos Vekiarides, los falsos positivos pueden deberse a factores como los gráficos y las ediciones. Ambos videos auténticos marcados como «sospechosos» incluían gráficos y ediciones. El sitio ofrece un servicio gratuito, pero también tiene un nivel pago, donde los consumidores pueden ajustar la configuración y calibraciones para un análisis más profundo.
Si bien reconoce que Attestiv no es perfecto, Vekiarides dijo que a medida que los deepfakes se vuelven más difíciles de detectar a simple vista, este tipo de sitios web son necesarios como parte de la solución.
«Nuestra herramienta puede determinar si algo es sospechoso y luego usted puede verificarlo con sus propios ojos y decir: ‘Creo que es sospechoso'», dijo Vekiarides.
Medidor DeepFake-O
DeepFake-O-Meter es otra herramienta gratuita respaldada por la Universidad de Buffalo y la Fundación Nacional de Ciencias. Identificó que dos de los videos reales tenían un alto porcentaje de ser generados por IA.
En un correo electrónico, el creador de la plataforma abierta dijo que una limitación de los modelos de detección de deepfake es que la compresión de video puede provocar problemas de sincronización con el video y el audio y movimientos bucales inconsistentes.
En respuesta a una pregunta sobre cómo los usuarios cotidianos pueden usar la herramienta, la compañía envió un correo electrónico: «Actualmente, el resultado principal que se muestra a los usuarios es el valor de probabilidad de que esta muestra sea una muestra generada a través de diferentes modelos de detección. Esto puede usarse como referencia». si varios modelos coinciden en la misma respuesta con confianza (por ejemplo, más del 80% para videos generados por IA o menos del 20% para videos reales. Actualmente estamos desarrollando una forma más comprensible de mostrar los resultados, así como nuevos modelos que pueden generar resultados). resultados de detección completos.»
sensibilidad
El detector de deepfake de Sensity identificó correctamente los seis clips, mostrando un mapa de calor que indica dónde es más probable la manipulación de la IA.
La compañía ofrece un período de prueba gratuito para utilizar su servicio y le dijo al I-Team que, si bien actualmente está diseñado para organizaciones públicas y privadas, su objetivo futuro es hacer que la tecnología sea accesible para todos.
Rebecca Yarros sobre su ascenso a la fama, el éxito de «Fourth Wing» y su nuevo libro
