IA y Viztech: Una Nueva Era de Contenido Online Más Seguro

Las empresas de medios online luchan por vigilar material extremista antes de que aparezca en línea. David Fulton, CEO de WeSee, argumenta que la tecnología impulsada por IA puede detectar contenido peligroso antes de que se publique.

Funcionarios gubernamentales y académicos llevan tiempo debatiendo cómo frenar el auge del contenido terrorista online. Mientras plataformas como Facebook, Twitter y YouTube enfrentan presión regulatoria creciente —los legisladores alemanes aprobaron recientemente una ley que exige a las grandes firmas de internet eliminar material "evidentemente ilegal" en 24 horas o arriesgar multas de hasta 57 millones $— la confianza en sus capacidades de moderación actuales sigue siendo baja.

En junio, la Universidad de Harvard acogió la conferencia Discurso Dañino Online: En la Intersección de Algoritmos y Comportamiento Humano, co-organizada por el Berkman Klein Center, el Shorenstein Center y el Institute for Strategic Dialogue con sede en Londres. El evento destacó la brecha crítica entre el problema creciente del discurso dañino y las herramientas disponibles para abordarlo.

El discurso de apertura subrayó cómo el contenido extremista moldea la opinión pública y el discurso político, señalando los severos déficits de recursos e investigación que obstaculizan respuestas efectivas.

Detección Automatizada: La Llamada Urgente

En septiembre, líderes de Reino Unido, Francia e Italia se reunieron con grandes empresas de internet en la Asamblea General de la ONU en Nueva York. La Primera Ministra británica Theresa May advirtió que el fallo en detectar y eliminar contenido terrorista en dos horas podría desencadenar severas penalizaciones. Este plazo es significativo —la investigación muestra que dos tercios de la propaganda se comparte dentro de esa ventana, cuestionando si el límite de tiempo es realista.

Google y YouTube anunciaron planes para escalar sus sistemas de identificación de contenido impulsados por IA. Sin embargo, el problema persiste. Un reciente artículo del Telegraph reportó que 54.000 sitios ofreciendo instrucciones para fabricar bombas y otra propaganda extremista estuvieron activos entre agosto del año pasado y mayo de este, todos vinculados a partidarios del Estado Islámico.

Las proyecciones de Cisco indican que para 2020 la web alojará 65 billones de imágenes y 6 billones de vídeos, con tráfico de imagen y vídeo esperado para comprender más del 80% del tráfico total de internet en menos de tres años. Monitorizar tales volúmenes para contenido extremista es una tarea desalentadora —una que la inteligencia artificial de vanguardia puede ayudar a resolver.

Viztech: Un Enfoque Predictivo

Viztech, pionero en análisis visual de contenido basado en IA, ha desarrollado un filtro sofisticado capaz de detectar material adulto y violento —junto con imágenes terroristas— antes de que se publique. Al reconocer símbolos como la bandera de ISIS o los rostros de figuras extremistas conocidas, el sistema de Viztech puede marcar contenido en tiempo real, mucho antes de cualquier interacción de usuario.

Construido sobre redes neuronales de deep learning, la tecnología opera a velocidades hasta 1.000 veces más rápidas que la cognición humana, ofreciendo tanto filtrado predictivo como categorización precisa de vídeo e imágenes estáticas. En esencia, Viztech va más allá de la moderación reactiva hacia la prevención proactiva, proporcionando a gobiernos, investigadores y plataformas una herramienta poderosa para salvaguardar el ecosistema online.

David Fulton, CEO de WeSee