NPU : Neural Processing Unit, il s’agit de processeur dédié pour le fonctionnement de réseau de neurones, de machine learning et de tout ce qui nécessitera du calcul intensif avec de la faible précision.

Ce genre d’unité existe depuis longtemps, mais était réservé pour des domaines bien précis et sur des matériels dédiés. Mais voilà, maintenant les choses changent puisqu’on les intègrent directement dans nos processeurs.

Vous pouvez même le voir depuis le Task Manager de votre Windows :

Mais du coup quel est son rôle ? Et bien tout simplement pouvoir faire du calcul local dans le cadre d’utilisation de model IA, au lieu de l’envoyer dans des datacenters déjà bien surchargés par les demandes.

Tout cela rentre dans le cas du Edge Computing (AI at the edge) pour limiter l’utilisation de ressource externe et minimiser la bande passante, faisons traiter un maximum d’information en local et étant moins énergivore qu’une carte graphique et bien plus efficace pour les traitements liés à l’IA vous optimiser la consommation des ressources électriques, ce qui ne pourra être que bénéfique.

Quelques exemples concrets : Les NPU améliorent photos et vidéos, reconnaissent la voix, sécurisent par le visage, optimisent la batterie et offrent traductions et résumés instantanés.

En résumé : le NPU prépare le terrain pour rendre nos ordinateurs plus « intelligents » et réactifs, en traitant localement des tâches d’IA qui seraient trop gourmandes ou lentes autrement.

PLUS D’INFO => https://c42.lu/tipstricks-les-npu-plus-rapides-plus-malins-directement-sur-nos-appareils/

Rédaction : Nathalie Thielemans de C42