Ce que vous apporte une carte graphique sous Linux : faire tourner soi-même de l’IA, et jouer
Il y a deux raisons de mettre une carte vidéo dans votre machine qui n'ont rien à voir avec le travail de bureau. La première est que vous voulez faire tourner un modèle de langage ou un générateur d'images sur votre propre ordinateur, plutôt que d'envoyer votre texte vers un service de l'autre côté de l'océan. La deuxième est que vous voulez jouer. Sous Linux, les deux sont possibles aujourd'hui, et c'était une tout autre histoire il y a cinq ans.
Ce texte porte sur la question à laquelle il faut répondre avant d'acheter une telle machine : combien de mémoire doit-il y avoir sur cette carte ?
La mémoire sur la carte est la mesure, pas la vitesse
Pour une carte vidéo, la plupart des magasins regardent les images par seconde. Pour l'IA, c'est le mauvais chiffre. Ce qui compte, c'est la mémoire sur la carte elle-même, la mémoire vidéo, car un modèle doit y tenir entièrement. S'il n'y tient pas, il retombe sur votre mémoire vive habituelle et sur le processeur, et cela devient dix à vingt fois plus lent. Pas cassé, mais inutilisable.
La règle empirique est simple. Un modèle est stocké avec une certaine précision, et la forme courante pour faire tourner à la maison est de quatre bits par poids. Alors, en gros : un demi-gigaoctet par milliard de paramètres. Un modèle de sept milliards de paramètres coûte donc environ quatre gigaoctets, et il faut y ajouter un peu pour la conversation que vous avez avec lui. Plus la conversation est longue, plus cela prend de place.
Ce qui tient où
| Mémoire vidéo | Modèles de langage | Image |
|---|---|---|
| 6 Go | modèles jusqu'à environ 8 milliards de paramètres, avec des conversations courtes | les anciens modèles d'image, bon résultat, pas de grands formats |
| 8 Go | les mêmes modèles, mais plus confortable : des conversations plus longues sans souci | aussi les plus grands modèles d'image, à condition d'avoir de la patience |
| 12 Go | modèles autour de 13 milliards de paramètres | confortable, aussi pour les plus grands formats |
| 16 Go | modèles jusqu'à environ 14 milliards confortablement, ou un plus petit modèle avec plus de précision | les modèles d'image plus lourds, et plusieurs à la fois |
| 24 Go et plus | la classe des 30 milliards de paramètres | pratiquement tout ce qui est faisable à la maison |
Il y a un saut dans ce tableau qu'il faut voir. Entre 8 et 16 gigaoctets, ce n'est pas « un peu plus d'espace » mais une autre catégorie de modèles. Celui qui hésite aujourd'hui entre ces deux tailles achète en réalité la réponse à la question de savoir s'il sera encore satisfait dans un an.
Comment le faire fonctionner
Le chemin le plus simple est Ollama. C'est un seul programme qui télécharge les modèles, les place en mémoire et mène une conversation avec eux, sans que vous ayez rien à construire.
curl -fsSL https://ollama.com/install.sh | sh ollama run llama3.2
Ensuite, vous parlez avec le modèle dans votre terminal. Si vous voulez une fenêtre au lieu d'un terminal, il existe plusieurs coquilles qui parlent avec les mêmes modèles. Pour l'image, ComfyUI est le choix habituel ; il demande un peu plus de configuration mais vous montre précisément ce qui se passe.
Sur une carte de Nvidia, sous Linux, vous avez besoin du pilote fermé du fabricant. Il s'installe sur Ubuntu et Debian avec quelques lignes et fonctionne ensuite simplement : pour l'IA, et tout aussi bien pour jouer. Ce dernier point a été le point faible pendant des années et ce ne l'est plus. Les cartes d'AMD utilisent un pilote ouvert qui est déjà dans le noyau, ce qui est plus agréable si vous voulez tout garder ouvert ; pour l'IA, l'offre d'outils chez Nvidia est encore plus grande. Pour les deux, c'est valable : cela fonctionne, et le choix porte sur ce qui est important pour vous.
Et jouer, alors ?
C'est le domaine qui a silencieusement basculé ces dernières années. Valve, l'entreprise derrière Steam, a construit pendant des années Proton : une couche qui permet aux jeux faits pour Windows de tourner sous Linux. Cela a commencé comme un petit amusement et est devenu quelque chose sur lequel leur propre console portable, la Steam Deck, s'appuie entièrement. Cette machine tourne sous Linux, et c'est justement pour cela que le nombre de jeux qui fonctionnent a énormément augmenté : un fabricant qui veut vendre son jeu sur la Deck s'assure qu'il fonctionne sous Proton.
En pratique, vous installez Steam sur votre machine Linux, vous cochez dans les paramètres que Proton peut être utilisé pour tous les jeux, et la plupart démarrent simplement. Sur le site ProtonDB, les joueurs notent jeu par jeu comment cela se passe.
Une chose à savoir, et nous sommes honnêtes à ce sujet : les jeux avec un logiciel anti-triche qui s'immisce profondément dans le système ne fonctionnent souvent pas. Cela touche surtout les grands jeux de tir en ligne. Si vous jouez à ceux-là, vérifiez d'abord votre liste avant de passer le cap. Le reste de la bibliothèque fonctionne, et souvent aussi vite que sous Windows.
Alors, qu'est-ce que vous achetez
Si vous voulez surtout essayer ce qui est possible à la maison, et que cela ne vous dérange pas de rester avec les plus petits modèles, alors six ou huit gigaoctets suffisent. Si vous voulez faire tourner un modèle qui réfléchit vraiment à votre travail, ou si vous voulez en profiter plus longtemps, alors seize gigaoctets font la différence entre « ça tient » et « ça ne tient pas ».
Et avez-vous déjà un ordinateur qui est par ailleurs parfait ? Alors vous n'avez pas besoin d'en acheter un nouveau. Une carte séparée dedans et vous êtes prêt : la même machine, un nouvel outil. C'est d'ailleurs exactement pour cela que nous le proposons ainsi, et non comme un ensemble auquel vous ne pouvez rien changer.
Quoi que vous choisissiez : cela tourne chez vous. Vos conversations ne vont nulle part, il n'y a pas d'abonnement qui devient plus cher, et il n'y a pas de service qui décide un jour que votre question n'est pas permise. C'est la même raison pour laquelle nous vendons des serveurs dont vous avez la clé.