PrismML compresse le modèle Qwen3.6-27B à 4 Go et le fait fonctionner sur iPhone

PrismML a compressé le modèle open source Qwen3.6-27B d'Alibaba à moins de 4 Go et l'a fait fonctionner sur l'iPhone 17 Pro. Qwen3.6-27B est un modèle dense de 27 milliards de paramètres, où tous les paramètres sont impliqués dans le calcul lors de l'inférence. PrismML indique que la taille du modèle a été réduite d'environ 54 Go à 4 Go, sans dégradation significative des performances, ce qui le rend adapté aux dialogues complexes, à l'inférence, aux agents et aux tâches de codage. Apple a contacté PrismML pour discuter de la manière d'appliquer cette technologie localement sur les appareils, bien que Siri avancé dépende toujours des modèles basés sur le cloud.