Criteo, start-up créée en France en 2005 par JB Rudelle, est reconnue aujourd’hui comme un leader mondial de la publicité en ligne personnalisée. Criteo offre à ses clients des annonces efficaces sur tous les canaux, en appliquant une technologie de Machine Learning avancée, liée à des ensembles de données inégalés. Grâce à son centre de Recherche et Développement (R&D), l’entreprise fournit à ses clients une plateforme publicitaire intelligente capable de cibler efficacement les consommateurs sur tous les canaux, répondant avec précision et rapidité à leurs besoins.

Pour ce faire, Criteo s’appuie sans mesure sur l’IA depuis 15 ans en appliquant une technologie de Machine Learning avancée, liée à des ensembles de données inégalés. ; Au sein de l’entreprise, prêt de 700 collaborateurs (sur 2900 au total) travaillent au sein du pôle de recherche et développement. « En 2018, nous avons créé un laboratoire, le Criteo AI Lab, qui compte une centaine de chercheurs et d’ingénieurs dont l’objectif est de repousser les limites de nos connaissances en IA, les tester à grande échelle et les mettre en production », indique Romain Lerallut, VP à la tête du Criteo AI Lab.

Au quotidien, les algorithmes de Machine Learning et Deep Learning construisent des modèles de prédiction et de recommandation capables de proposer la recommandation la plus appropriée : il s’agit d’afficher la publicité dont l’internaute aura besoin, au bon moment, sur le bon canal, afin de convertir la publicité en vente, transformer l’internaute en consommateur. Pour y parvenir, Criteo s’appuie sur son infrastructure, l’un des plus gros clusters Hadoop en Europe (4000 nœuds, 300 Po, 5 pétaflops) capable de trier, vérifier et analyser un conséquent volume de données. « Le travail sur les données représente 30 à 50 % du temps du projet afin de les rendre disponibles pour l’apprentissage et la prédiction », indique Romain Lerallut. Dans son infrastructure, Criteo exploite à la fois des processeurs graphiques, notamment pour le traitement des images, mais aussi, et même majoritairement, des CPUs (processeurs Intel® Xeon® Scalable) pour la préparation des données, l’inférence, et une grande partie du training.

« Les CPUs offrent à la fois des performances de calcul et de faibles consommations, notamment pour certains types de modèles comme la régression logistique ou les arbres de décision. N’oublions pas que nous sommes soumis dans nos datacenters à des contraintes énergétiques très fortes », concède Romain Lerallut. L’entreprise travaille ainsi massivement avec des technologies open source (Hadoop, TensorFlow, CouchBase, etc.), contribue à leur évolution et partage ses recherches lors de grandes conférences internationales telles que ICML (International Conference on Machine Learning). Pour Criteo, l’infrastructure, matérielle et logicielle, joue un rôle majeur dans l’intelligence artificielle.

Des temps de réponse toujours plus bas

L’enjeux est de taille : être capable d’apporter une réponse pertinente en un temps record, dans le contexte d’un volume de données croissant : le temps de réponse devra être de l’ordre de la milliseconde en supportant des modèles d’apprentissage plus larges et plus profonds. Que ce soit en apprentissage ou en prédiction, l’accès aux données peut être un goulot d’étranglement et il faut raisonner au niveau du système en entier. « En quelque sorte, Criteo dispose d’un moteur massif qu’il faut alimenter avec de gros tuyaux pour exploiter tout le carburant », compare Romain Lerallut.

Intel, en tant que partenaire technologique, Intel accompagne Criteo dans son ambition de rendre l’IA toujours plus efficace, performante, et économique. Ainsi, Intel insère les CPU Intel® Xeon® Scalable au sein des serveurs existants (calculs d’inférence et de training) et continuera à performer en proposant à l’avenir des architectures dédiées au Deep Learning haute performance via des cartes Intel® Nervana™ NNP-I/T. L’architecture d’Intel, agnostique en termes de couches logicielles, supporte les solutions et les frameworks Open Source. Depuis ces architectures largement optimisées pour exécuter les calculs d’IA, Intel propose son expertise R&D à Criteo pour ses tests et phases exploratoires.