Aunque las posibilidades de los sistemas de Deep Learning e Inteligencia Artificial están demostrando una enorme utilidad en muchos sectores y tareas, hay ciertos usos polémicos que podrían suponer un problema de cara al futuro. Uno de esos casos concretos es el de los "DeepFakes" que consisten en el uso de redes entrenadas para poder generar imágenes o vídeos modificados para que parezca que es otra persona distinta la que aparece en ellos.
Por La Red hay varios casos de vídeos modificados mediante estas redes de IA para simular que políticos o personajes famosos realizan ciertas acciones, que van desde parodias hasta vídeos pornográficos, o incluso "fakes" donde se puede hacer que un político diga cosas que realmente no ha dicho. Conforme esta tecnología avanza, es más difícil distinguir cuándo estamos ante un vídeo real o un DeepFake.
Para intentar evitar esta situación, Intel ha desarrollado FakeCatcher, un sistema basado también en Inteligencia Artificial que es capaz de detectar en milisegundos si un vídeo es real o se trata de una modificación de tipo "DeepFake", con una precisión del 96%.
La detección se realiza a tiempo real utilizando una combinación de software y hardware de la propia compañía, como procesadores Intel Xeon Scalable junto a instrucciones Intel AVX-512 funcionando en paralelo con 72 flujos de detección. Al contrario que otros sistemas, Intel FakeCatcher busca en los vídeos e imágenes distintos elementos que hacen que un vídeo sea real, poniendo como ejemplo las variaciones que se pueden detectar en la piel de los humanos cuando pasa flujo sanguíneo por la piel. Luego, estos resultados se comparan con los vídeos sospechosos para detectar si aparecen o no esos elementos para detectarlos como falsos.
Sin duda, la IA abre nuevos frentes poco agradables que, curiosamente, se pueden combatir también con IA, aunque todo apunta a que estos sistemas irán evolucionando y veremos una "pelea" del gato y el ratón para perfeccionar estos sistemas en ambos sentidos, apareciendo DeepFakes cada vez más realistas y sistemas de detección de DeepFakes más avanzados.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!
