Discussion :

[dourouc05]

Le domaine de l’intelligence artificielle est en ébullition, ces dernières années, sur la flamme des réseaux neuronaux profonds. La limite principale à l’épanouissement complet de ce domaine est souvent la puissance de calcul : l’apprentissage d’un réseau neuronal profond actuel peut durer plusieurs jours, plusieurs semaines, même sur des architectures très bien adaptées — actuellement, les processeurs graphiques (GPU) fournissent la plupart de la puissance des machines dans le domaine.

Intel ne veut pas rester en arrière : le fondeur américain prévoit de sortir ses puces Lake Crest, spécifiquement prévues pour ce type de calculs, pendant la première moitié de 2017. En quelques chiffres, les spécifications prévues relèvent du superlatif : 32 Go de mémoire HBM2 intégrée au processeur, avec une bande passante de 1 To/s. L’accès à la mémoire centrale se fera aussi avec une bande passante de 1 To/s. Les prévisions d’Intel sont d’accélérer d’un facteur 18 les calculs par rapport à la solution actuelle la plus rapide avec cette puce — son successeur, attendu à l’horizon 2020, devrait avoir un facteur d’accélération de l’ordre de 100 par rapport au meilleur matériel actuel.

Cette vitesse n’est atteinte que par une combinaison astucieuse de composants logiciels et d’optimisations matérielles, issues du rachat de Nervana. Les ingénieurs se sont focalisés sur deux opérations très courantes pour les réseaux neuronaux profonds actuels : le produit matriciel et la convolution. Ces deux opérations correspondent également à une bonne partie du code de calcul scientifique habituel (même si la convolution est plus orientée traitement de signal). Ainsi, même si la recherche sur les réseaux neuronaux se porte sur d’autres algorithmes et structures pour les réseaux, ce matériel devrait toujours être adapté.

Il s’agit d’un exemple assez frappant de spécialisation du matériel pour des tâches très spécifiques. Intel propose maintenant une gamme assez large de produits donnant de très bons résultats pour l’apprentissage profond : depuis les processeurs “standard”, pouvant effectuer n’importe quel type de calcul (Core, Xeon), jusqu’à ces cartes hyper spécialisées (Lake Crest), en passant par les Xeon Phi (orientés calcul très parallèle, avec de très nombreux cœurs) et les FPGA Arria 10 (processeurs reconfigurables).

D’un point de vue technique, ces puces Lake Crest pourront agir comme coprocesseur (comme les Xeon Phi de première génération). Les parties de calcul des différents cœurs sont cependant entièrement différentes : l’architecture Flexpoint est prévue pour augmenter le niveau de parallélisme des opérations d’un facteur 10. Une puce Lake Crest devrait contenir douze unités de calcul, chacune présentant plusieurs cœurs. Elle devrait aussi avoir douze liens vers d’autres processeurs pour faciliter l’intégration dans les centres informatiques.

Sources et images : Intel’s Lake Crest Chip Aims At The DNN/AI Sector – 32 GB HBM2, 1 TB/s Bandwidth, 8 Tb/s Access Speeds, More Raw Power Than Modern GPUs, Nervana – Neue Details zu Intels Plattform für Künstliche Intelligenz.

[ToTo13]

C'est une bonne chose, mais Intel ne se penche toujours pas sur une partie primordiale : l'environnement du matériel.
NVIDIA n'avait pas les meilleurs GPU, mais ils ont été assez intelligents pour concevoir CUDA et tout ce qui va avec. Donc les développeurs/chercheurs utilisent des GPU NVIDIA.
Le matériel c'est important, les logiciels.librairies pour bien l'exploiter c'est mieux.

[Christian Olivier]

Spring Crest devrait succéder à Lake Crest, la première famille de puces d'Intel dédiée aux réseaux neuronaux
D’ici 2019 avec le NNP-L1000 Nervana

La limite principale à l’épanouissement complet de l’intelligence artificielle est souvent la puissance de calcul et actuellement, ce sont les processeurs graphiques (GPU) qui fournissent la majeure partie de la puissance requise dans ce domaine.

Intel a profité de la conférence AI DevCon qui s’est tenue du 23 au 24 mai dernier au palais des beaux-arts de San Francisco, pour fournir plus détails sur le NNP-L1000 Nervana (NNP pour neural network processor), son futur processeur dédié aux réseaux neuronaux qui devrait permettre aux développeurs de tester et déployer plus facilement des modèles d’IA. Son nom de code est Spring Crest.

Spring Crest devrait succéder à Lake Crest, la première puce NNP du fondeur de Santa Clara, et constituer la première véritable offre commerciale de l’entreprise d’ici 2019. Ces puces devraient être 3 à 4 fois plus performantes que les NNP de la génération Lake Crest et prendre en charge le format numérique bfloat16. Pour ses NNP-L1000 Nervana, Intel envisagerait de mettre l’accent sur l’optimisation de la bande passante et de la latence plutôt que sur les valeurs relatives aux performances théoriques maximales.

Intel a beaucoup investi ces dernières années pour rattraper son retard dans ce domaine, allant même jusqu’à débaucher des spécialistes de la conception de microprocesseurs (GPU et CPU) chez ses principaux concurrents. En 2016 par exemple, elle a fait l’acquisition de Nervana Systems, une startup américaine basée à San Diego en Californie qui a développé une solution de deep learning. Le Machine learning, ainsi que son sous-ensemble le deep learning, constituent des méthodes clés pour étendre les champs d’application de l’intelligence artificielle et Intel a estimé que l’expertise de Nervana Systems dans l’accélération d’algorithmes de deep learning pourrait l’aider à accroître ses capacités dans le domaine de l’intelligence artificielle.

L’année dernière, le géant technologique a fait part de son ambition de concevoir des processeurs dédiés à l’apprentissage profond qui seraient jusqu’à dix-huit fois plus rapides que les GPU actuels et seraient inclus dans une nouvelle famille portant le nom de code « Lake Crest ». Il a créé une division Core and Visual Computing dirigée par Raja Koduri avec pour objectif de devenir le leader de la conception de solutions graphiques tous azimuts et du calcul haute performance. Il a en outre recruté Jim Keller, le célèbre architecte de microprocesseurs à l’origine des micro-architectures K8 et Zen d’AMD ainsi que des SoC A4 et A5 d’Apple, et nommé ce dernier à la tête de sa division Silicon Engineering qui est chargée du développement et de l’intégration des SoC qu’il fabrique.

Intel propose maintenant une gamme assez large de produits donnant de très bons résultats pour l’apprentissage profond : depuis les processeurs « standard », pouvant effectuer n’importe quel type de calcul (Core, Xeon), jusqu’à ces cartes hyper spécialisées (Lake Crest), en passant par les Xeon Phi (orientés calcul très parallèle, avec de très nombreux cœurs) et les FPGA Arria 10 (processeurs reconfigurables). La firme a d’ailleurs prévu d’étendre de manière progressive le support du format numérique bfloat16 à ses solutions Xeon et FGPA.

Source : NewsRoom Intel

Et vous ?

Qu’en pensez-vous ?

Voir aussi

FUJITSU annonce le développement d'un processeur pour l'apprentissage profond, il dépasserait largement la concurrence en efficacité énergétique
Intel rend open source nGraph, un compilateur de réseau neuronal pour résoudre le problème de compatibilité entre les frameworks deep learning
Deep learning : NVIDIA s'attaque aux résultats de benchmarks d'Intel, qui présentaient les CPU Xeon Phi plus performants que les GPU Maxwell