Synapse Ouvrir Synapse
Tech

Qu'est-ce qu'un modèle d’IA MoE, et pourquoi n'utilise-t-il qu'une partie de ses paramètres ?

Clubic · · 5 min de lecture

Certains modèles d'intelligence artificielle comptent des centaines de milliards de paramètres, mais n'en mobilisent qu'une fraction pour traiter chaque token. Une particularité des architectures MoE, qui permet d'augmenter leur capacité sans multiplier les calculs dans les mêmes proportions.

Dernières de Clubic