Meta Google TPU au lieu de Nvidia : Explication
La nouvelle selon laquelle Meta négocie l'utilisation des Tensor Processing Units (TPU) de Google a eu un impact sur les cours des actions de Nvidia, Alphabet et Meta. Cela suggère un changement sur le marché des accélérateurs d'IA, car Google rattrape Nvidia dans la compétition.
Source: Représentation personnelle
Accord Meta & Google TPU
Meta négocie avec Google un accord pluriannuel de plusieurs milliards de dollars portant sur des Tensor Processing Units (TPU), qui pourraient également fonctionner dans les centres de données de Meta à partir de 2027. C'est ce qu'indique un rapport de Reuters précédemment. Jusqu'à présent, les TPU de Google étaient principalement disponibles via Google Cloud en tant que capacité louée. Il est maintenant envisagé que Google mette ses puces d'IA pour la première fois comme « Customer Premise Hardware » dans des centres de données tiers hyperscale, comme SwingTradeBot rapporte. Investor’s Business Daily ajoute que Google discute avec Meta et d'autres clients de l'utilisation de ses puces Tensor, ce qui a mis la pression sur Nvidia et AMD dans les transactions après la clôture.
Si Meta, un acheteur majeur de GPU Nvidia pour des modèles comme Llama, déplace une partie de sa capacité future vers les TPU de Google, Nvidia perdra une partie de son statut dans le segment haut de gamme de l'IA, d'après datacentremagazine.com. Parallèlement, Meta a déjà conclu un contrat cloud de six ans de plus de 10 milliards de dollars avec Google Cloud pour acquérir une infrastructure d'IA supplémentaire ( datacentremagazine.com). Quelques semaines plus tard, Meta a annoncé qu'elle investirait au moins 600 milliards de dollars dans des centres de données optimisés pour l'IA, des projets énergétiques et des programmes locaux d'ici 2028 ( datacentremagazine.com). Meta ne veut pas baser son programme d'investissement massif en IA sur un seul fournisseur de puces, et Google saisit l'opportunité de mettre ses TPU sur le marché.
TPU vs. GPU
Nvidia domine actuellement l'entraînement de grands modèles linguistiques avec des GPU tels que les séries A100 et H100 ( Google Cloud Documentation). Google suit une approche différente avec ses Tensor Processing Units (TPU). Les TPU sont des puces ASIC spécialisées, optimisées exclusivement pour les calculs de tenseurs dans les charges de travail de machine learning ( Google Cloud Documentation). La documentation officielle de Google décrit les TPU comme des accélérateurs personnalisés, particulièrement adaptés aux grandes opérations matricielles dans des modèles tels que les réseaux Transformer (
Un article de blog récent de Google résume la différence : les CPU sont des généralistes universels, les GPU sont des accélérateurs massivement parallèles pour les graphismes et l'IA, et les TPU sont encore plus spécialisés pour les calculs d'IA et fonctionnent dans les centres de données de Google pour des services tels que Search, YouTube et les modèles DeepMind ( blog.google). Techniquement, les benchmarks montrent que les TPU pods de Google atteignent une haute efficacité par watt et par dollar pour certaines charges de travail d'entraînement ( YouTube). Ces métriques sont cruciales pour des acteurs comme Meta, qui doivent mettre à l'échelle une flotte de systèmes d'IA pour des milliards d'utilisateurs ( datacentremagazine.com).
Source: note.com
Les TPU Google (Tensor Processing Units) et les GPU NVIDIA (Graphics Processing Units) sont les architectures leaders pour les charges de travail d'IA, chacune avec ses forces spécifiques.
La génération haut de gamme actuelle de Google pour l'entraînement, Cloud TPU v5p, est conçue comme un cluster de jusqu'à 8 960 puces par pod et offre beaucoup plus de mémoire à large bande passante par puce que la génération précédente (95 Go HBM contre 32 Go pour v4), comme le décrit Google dans sa documentation cloud ( Google Cloud Documentation). Un TechRadar-Artikel conclut que le TPU v5p est jusqu'à 2,8 fois plus rapide à entraîner que le TPU v4 et pourrait être à égalité ou supérieur à celui du H100 de Nvidia dans des comparaisons approximatives. Le H100 de Nvidia est jusqu'à quatre fois plus rapide que la génération A100 en entraînement, selon l'entreprise, et offre jusqu'à 80 Go de mémoire HBM3 par GPU pour les charges de travail d'IA ( Google Cloud Documentation).
La question de savoir quel chip d'IA est le meilleur dépend du contexte. Pour les entreprises qui dépendent fortement de l'écosystème Nvidia, le H100 reste le choix évident ( Google Cloud Documentation). Pour les charges de travail optimisées pour TensorFlow et JAX et qui s'exécutent sur Google Cloud, le TPU v5p peut offrir des avantages en termes de débit et de coût par époque d'entraînement ( Wikipedia). Google optimise des centres de données entiers autour des TPU pods, y compris le réseau, le stockage et la planification, ce qui souligne le concept global de « supercalculateur d'IA » ( YouTube).
Source: YouTube
Pénurie de puces IA
Un rapport de Bain & Company préviens que le boom de l'IA pourrait déséquilibrer à nouveau les chaînes d'approvisionnement des semi-conducteurs. Sourceability décrit comment la « demande d'IA galopante », combinée à une capacité de production limitée et à de nouvelles barrières commerciales, entraîne une pénurie permanente de certains composants pertinents pour l'IA et une augmentation des prix. Pour les opérateurs de centres de données, cela signifie que la capacité n'est pas seulement une question de budget, mais aussi de délais de livraison, de tarifs et de risques géopolitiques ( sourceability.com).
Meta prévoit d'investir au moins 600 milliards de dollars dans des centres de données d'IA d'ici 2028, mais vend également des actifs de centres de données d'une valeur d'environ 2 milliards de dollars pour utiliser des modèles de financement plus flexibles pour l'infrastructure d'IA ( datacentremagazine.com). La raison : la construction de centres de données d'IA est si coûteuse qu'même les géants de la technologie doivent s'appuyer davantage sur le leasing, la colocation et les partenariats cloud ( datacentremagazine.com). Un accord de Meta pour les TPU Google s'inscrit dans cette optique. Au lieu d'acheter exclusivement des GPU Nvidia, Meta peut désormais sécuriser des capacités supplémentaires via les TPU Google et ainsi amortir les pics de livraison et de prix ( Investors).
Impacts sur les entreprises
Pour les entreprises qui envisagent leur propre infrastructure d'IA, la démarche Meta-Google déplace les paramètres. Une grande entreprise qui s'appuyait jusqu'alors exclusivement sur les GPU Nvidia dans une région hyperscale peut désormais planifier un modèle de multi-sourcing : entraînement de grands modèles sur TPU dans Google Cloud, inférence sur GPU dans un autre cloud ou sur site, combiné à des calculs CPU classiques pour les charges de travail moins critiques en temps ( Google Cloud Documentation). Les TPU sur site deviendront une option supplémentaire, notamment pour les secteurs fortement réglementés, si Google met en œuvre ses projets ( Reuters).
Source: gigazine.net
La décision d'OpenAI d'utiliser les TPU de Google souligne l'importance croissante des alternatives aux GPU de NVIDIA et la diversification des chaînes d'approvisionnement matérielles pour l'IA.
Les startups souffrent particulièrement des goulots d'étranglement GPU. Une concurrence accrue entre les GPU Nvidia, les TPU Google et d'autres puces spécialisées comme AWS Trainium ou AMD Instinct peut réduire la pression sur les prix à moyen terme ( Medium). Pour la pratique des développeurs, la démarche Meta-Google TPU signifie également : de plus en plus d'équipes seront obligées de maintenir leur pile portable. Ceux qui créent des modèles et des pipelines de manière cohérente via des frameworks tels que PyTorch/XLA, JAX ou des couches de service bien abstraites peuvent passer d'un backend GPU à un backend TPU sans avoir à tout réécrire ( Google Cloud Documentation).
Dimension stratégique
La vidéo « AI Hypercomputer with Cloud TPU v5p | Google Gemini » illustre comment Google concentre sa propre puissance d'IA sur les TPU et ouvre progressivement cette plate-forme aux clients ( YouTube). Parallèlement, des formats tels que « NVIDIA vs Big Tech : Who Wins The AI Chip War ? » analysent la concurrence croissante des hyperscalers, qui développent leurs propres puces et veulent ainsi enlever des parts de marché à Nvidia à long terme ( YouTube).
Source: user-added
Le matériel d'IA moderne comme les TPU et les GPU nécessite des systèmes de refroidissement sophistiqués pour dissiper la chaleur énorme générée par les puces haute performance.
Du point de vue de l'écosystème IA dans son ensemble, l'accord Meta-Google TPU marque une nouvelle étape vers un monde où un seul fabricant ne dicte pas les règles en matière de matériel, de prix et de feuilles de route. Google renforce son rôle en tant que fournisseur d'infrastructure complet, Meta augmente son pouvoir de négociation et réduit ses dépendances, et d'autres acteurs comme AWS, AMD ou les fabricants de circuits intégrés spécialisés devront se mesurer à cette nouvelle réalité ( Medium).
La combinaison des investissements de Meta de plusieurs centaines de milliards de dollars pour les centres de données d'IA et de la démarche stratégique de Google de ne plus utiliser exclusivement les TPU pour son propre usage, marque un tournant dans la course aux puces d'IA ( datacentremagazine.com). Pour Nvidia, cela ne signifie pas la fin, mais la fin de la période de monopole confortable. Pour Google, cela ouvre la possibilité d'établir son propre matériel d'IA comme une véritable alternative sur le marché. Pour Meta et d'autres hyperscalers, c'est un levier pour mieux gérer les pénuries de puces, les besoins énergétiques et les coûts de capitaux ( CIO).
Pour les entreprises, les startups et les développeurs, cela signifie : la question de savoir quel chip d'IA est le meilleur sera moins souvent répondue par un nom – et de plus en plus souvent par un choix d'architecture et de stratégie. Ceux qui s'adaptent rapidement à une configuration hybride et portable auront beaucoup plus d'options dans ce monde matériel d'IA multipolaire que ce que la réalité actuelle dominée par le H100 pourrait laisser supposer.