Comment Apple fait face à la pénurie de GPU

Comme tant d'autres entreprises dans le monde, Apple est confrontée à la crise des puces électroniques (« GPU ») devenues indispensables aux applications d'intelligence artificielle. Sa solution, désormais documentée, consiste à mettre à contribution les composants sous-utilisés des micro-ordinateurs de ses collaborateurs.

Il y a très longtemps, de grandes banques (d'investissement, pour la plupart) avait imaginé de constituer une sorte de calculateur virtuel géant, complémentaire des ressources existantes dans leurs « data centers », en fédérant les PC laissés allumés par leurs salariés, absents, durant la nuit. La firme à la pomme reprend aujourd'hui le même principe, avec un raffinement supplémentaire, afin de résorber les délais de traitement de ses modèles d'inférence, atteignant parfois plus de 10 heures.

Apple Minions, de son petit nom, est un système complexe qui permet de mobiliser à tout moment, et surtout durant la journée, les processeurs graphiques des Mac de l'ensemble de ses effectifs. Ces composants sont justement les plus performants pour les tâches d'IA (et d'apprentissage automatique) et il se trouve qu'ils sont relativement peu sollicités par de nombreux usages informatiques, par exemple bureautiques, qui s'appuient presque exclusivement sur les processeurs généralistes des machines.

Naturellement, il ne peut être question de perturber d'aucune manière les utilisateurs pendant leur travail et cette exigence basique explique pourquoi la mise en œuvre opérationnelle est assez sophistiquée. En premier lieu, les demandes soumises au server central sont subdivisées en tâches élémentaires. Ce sont alors les micro-ordinateurs individuels qui s'emparent de ces dernières en cas de temps mort sur la GPU. Un module dédié gère enfin les erreurs : extinction, perte de connexion…

Dans une organisation de la taille d'Apple, les équipements des employés représentent une réserve d'infrastructure colossale qui, mise à profit à bon escient, soulage des problèmes apparemment insolubles. En l'occurrence, au-delà des investissements qui peuvent de la sorte être retardés, l'entreprise se vante d'avoir réduit l'attente pour les calculs concernés à quelques minutes, d'effacer entièrement sa facture de nouveaux matériels (pour l'instant)… et d'offrir une adaptabilité native aux variations de charge.

Pour autant que je puisse en juger, l'article de recherche d'Apple se limite à une description théorique, sans aucun détail d'implémentation. On attend maintenant que le dispositif soit distribué au reste du monde – commercialement ou pas – de manière à non seulement libérer d'autres entreprises de leurs difficultés d'approvisionnement mais également diminuer un tant soit peu l'empreinte environnementale de l'intelligence artificielle, grâce à la réutilisation efficiente de composants disponibles.