: Scality a présenté au Scality Day, à Paris, AI Inference Factory, une pile logicielle d'inférence sur site qui confie au stockage la mémoire de contexte des modèles. Le contexte des agents d'IA déborde la mémoire des GPU, et l'éditeur les vise avec un budget fixe en regard du jeton facturé à l'usage. Il ne s'engage […] The post Scality confie au stockage la mémoire de contexte des agents d'IA, sans garantie de performances appeared first on IT SOCIAL
: L’inférence locale devient un marché à part entière, segmenté du portable à la station d’équipe. Les constructeurs la vendent comme une IA sans compteur d’usage, et les vendeurs d’abonnements y déportent une part de leur calcul. Pour les DSI, l’agent permanent transforme la dépense au jeton en investissement. Microsoft a réuni Jensen Huang, PDG de […] The post L'inférence locale devient un marché à part entière, du portable à la station pour équipe appeared first on IT SOCIAL