Redes sociales

Facebook admite que la inteligencia artificial falló en el atentado de Nueva Zelanda

  • El vídeo del atacante fue retransmitido en directo en la plataforma y visto unas 4.000 veces antes de que Facebook retirase la grabación por primera vez.

  • Después hubo usuarios que intentaron volver a publicarlo en más de un millón de ocasiones.

Memorial por las víctimas del atentado de Nueva Zelanda Memorial por las víctimas del atentado de Nueva Zelanda

Memorial por las víctimas del atentado de Nueva Zelanda / Kelly Barnes, EFE

Facebook admitió que su sistema de inteligencia artificial para detectar contenido no permitido en la red social "no es perfecto" y falló a la hora de reconocer el vídeo del atentado terrorista del viernes pasado en Nueva Zelanda, que causó 50 muertos en dos mezquitas.

El ataque fue retransmitido en directo en la plataforma y fue vista unas 4.000 veces antes de que Facebook retirase la grabación por primera vez, aunque posteriormente hubo internautas que intentaron, con éxito o no, volver a colgarlo en más de un millón de ocasiones.

En el blog de la compañía, el vicepresidente de gestión de producto de Facebook, Guy Rosen, explicó que, aunque la inteligencia artificial ha logrado un "progreso masivo en los últimos años" que les permite ser "proactivos" en la detección de contenidos, el sistema "no es perfecto".

¿Por qué no funcionó el sistema?

"La inteligencia artificial se basa en datos de entrenamiento, lo que significa que necesita miles de ejemplos de contenido para que pueda detectar ciertos tipos de texto, imágenes o vídeos", apuntó Rosen, quien indicó que fue por eso por lo que, en el caso de la retransmisión en directo del atentado, el sistema no funcionó.

"Necesitamos proveer a nuestros sistemas de grandes volúmenes de datos, algo que resulta difícil, puesto que, afortunadamente, este tipo de sucesos no son habituales", indicó el vicepresidente de la empresa, que aseguró que la inteligencia artificial sí funciona en los casos de desnudos, propaganda terrorista y violencia gráfica.

Cómo detectar un atentado que parece un videojuego

Rosen también apuntó al "reto" que supone discernir entre contenidos como el del atentado y otros "visualmente similares, pero inocuos", como por ejemplo las retransmisiones en directo de partidas de videojuegos en los que el protagonista dispara contra personas.

Además de Facebook, el portal de vídeos propiedad de Alphabet (matriz de Google) YouTube señaló esta semana que retiró "decenas de miles" de vídeos del ataque en su plataforma y aseguró que lo ocurrido "no tiene precedentes" en ese sitio "tanto por su escala como por su rapidez".

Comentar

0 Comentarios

    Más comentarios