Microsoft Bing incrementa su rendimiento x7 entregando anuncios gracias a la solución IA de NVIDIA con A100 y Triton

La Inteligencia Artificial está jugando un papel cada vez más importante, sobre todo en el entorno de la informática. Los usuarios y empresas están aprovechando sus capacidades para mejorar muchos aspectos, ofreciendo resultados mucho mejores gracias a la Inteligencia Artificial. Es el caso del buscador Bing de Microsoft, que gracias al servidor de inferencia NVIDIA Triton, ejecutándose junto con los aceleradores de la misma marca NVIDIA A100, se está consiguiendo multiplicar por 7 los resultados a la hora de personalizar los anuncios.

El sistema para personalizar los anuncios está ejecutando cientos de modelos que evolucionan constantemente, y cada uno debe mostrar resultados en menos de 10 milisegundos. Desde Microsoft Bing comenzaron a probar esta nueva técnica, entrenando con dos nuevas características (Bang y EL-Attention) que han conseguido realizar más trabajo en menos tiempo y consumiendo menos memoria. Además, se ha actualizado este equipo encargado de la publicidad con GPUs aceleradoras A100.

Para lograr este éxito se han dividido las GPU en varias instancias, siete en concreto, que ha conseguido multiplicar por 7 el resultado con un tiempo de inferencia de solo 10 ms. Esto también ha sido gracias a NVIDIA Triton, que es de código abierto, y permite ejecutar simultáneamente diferente software de IA. NVIDIA Triton es muy sencillo de implementar, ya que forma parte de NVIDIA AI Enterprise y además, al ser open source, recibe apoyo de la comunidad para continuar mejorándolo.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!