Facebook puso a prueba más de 35.000 algortimos para detectar deepfakes, el mejor apenas tenía un 65% de precisión
Cristian Rus
Meses atrás, para solucionar problemas que losdeefakespueden causar,Facebook celebró un concursocon el queencontrar la mejor IA a la hora de detectarlos. Ha encontrado a la mejor, pero sus resultados dejan bastante que desear, tiene una precisión de alrededor del 65%. No obstante para Facebook losdeepfakesno son actualmente “un gran problema”.
La idea detrás del Deepfake Detection Challenge era encontraralgoritmos capaces de detectar vídeos manipuladoscon inteligencia artificial. Losdeepfakesa menudo consiguen engañar al usuario si son lo suficientemente realistas y el contenido no es exagerado. De ahí que las redes sociales busquen reducir su propagación. Pero claro, por cantidad es prácticamente imposible hacerlo manualmente, se requiere de algoritmos que automaticen el proceso de detección.
Indican desde Facebook que para la pruebaparticiparon un total de 2.114 participantes que presentaron más de 35.000 algoritmospara la detección dedeepfakes. Para ver de qué eran capaces estas IAs Facebooks les ofreció alrededor de 100.000 vídeos cortos con los que entrenarse y “aprender” a diferenciar vídeos reales de vídeos falsos. Estos vídeos fueron creados por la propia compañía contratando a actores que tenía conversaciones reales, a algunos de ellos se les modificó el rostro para crear vídeos falsos también.
¿Resultados? Cuando pusieron a prueba los algoritmos de detección estos pudieron identificar losdeepfakescon una precisión de hasta el 82,56% de entre los vídeos con los que previamente se había entrenado. Sin embargo, cuando se le ofreció imágenes nuevas y nunca antes vistasla precisión era de apenas un 65,18%. El algoritmo ganador será publicado comoopen-sourcepara que otros investigadores lo utilicen y mejoren.
Facebook también está creando su propio algoritmo para detectardeepfakes.Este sin embargo no lo harán público para evitar que sea utilizado en ingeniería inversa, es decir, para evitar que los creadores dedeepfakesmejoren sus técnicas para no ser detectados.
Deepfakes en bromas, cine, política y porno
Los vídeos dedeepfakescada vez están consiguiendo un realismo más asombroso. Esto tiene el inconveniente de permitir engañar al usuario si no se le advierte de que es un vídeo falso. Uno de los primeros usos por los que se popularizaron lasdeppfakesfue el porno. Sin embargo también hay quien vefuturo a esta tecnología en Hollywood.
En España hay quienes usan esta tecnologíapara la sátira política. Pero si de política se trata, más preocupante es el caso de India, donde un político uso lasdeppfakespara hablar a sus votantes en idiomas que desconocía. Con todo esto, es comprensible quelas redes sociales apliquen medidasparalimitar la propagación de lasdeepfakesen sus plataformas.
Vía |MIT. Más información |Facebook
