Conçu par la start-up américaine Tiiny AI, ce condensé de technologie mesure 14,2 x 8 x 2,5 cm pour un poids 300 grammes, et peut donc facilement tenir dans une poche, ou dans la paume d’une main. Malgré sa petite taille, l’appareil peut exécuter localement des modèles de langage de plus de 120 milliards de paramètres entièrement hors ligne, en atteignant des vitesses de décodage réelles de plus de 20 jetons par seconde et en fournissant à l’utilisateur une exploitation de l’IA sans abonnement.
Petit mais puissant
Pour fonctionner, le Tiiny AI Pocket Lab est équipé d’un processeur ARM à 12 cœurs et d’un NPU délivrant 160 à 190 Tops. Le système intégre 80 Go de RAM LPDDR5X, ce qui est unique pour un tel format. L’appareil supporte des modèles open source, comme Llama, Qwen, DeepSeek, Mistral, Phi et GPT-OSS, via une installation en un clic, avec des mises à jour OTA (Over-the-Air) régulières.
Par ailleurs, deux technologies internes améliorent l’efficacité en répartissant les charges de travail et en réduisant les activations inutiles. TurboSparse gère l’activité neuronale clairsemée pour préserver les capacités tout en améliorant la vitesse, tandis que PowerInfer répartit les calculs entre le CPU et le NPU.
Petit, puissant et simple d’utilisation, le Tiiny AI Pocket Lab démocratise les appareils IA portables. © Tiny Home Tech, YouTube
De nombreux avantages
Grâce à sa puissance, à sa légèreté et à sa portabilité, l’appareil peut être fonctionnel partout, que ce soit au travail, à la maison ou en voyage, là où d’autres solutions nécessitent de faire des compromis entre mobilité et efficacité.
Autre point fort, le Tiiny AI Pocket Lab a été conçu pour être utilisé sans formation technique préalable, grâce à une interface intuitive, des commandes claires et des retours visuels simples et compréhensibles qui permettent de s’en servir facilement.
Enfin, l’appareil dispose de capacités d’apprentissage qui font évoluer les fonctionnalités au fil du temps, d’un raisonnement multi-étapes qui apporte une meilleure performance sur les tâches complexes, et un cryptage des données de niveau bancaire qui garantit une confidentialité totale.
Un lancement prévu le mois prochain
Forte de tous ces atouts, cette innovation pourrait devenir la nouvelle référence pour les appareils portables d’analyse intelligente. Les premiers modèles seront proposés sur Kickstarter en février prochain. Il faudra débourser 1 399 $ pour acquérir un Tiiny AI Pocket Lab, ce qui est un tarif plus que raisonnable si l’on considère que les 80 Go de mémoire LPDDR5X présents sous sa coque valent à eux seuls près de 900 $.
Ce prix volontairement bas vise à encourager l’adoption de l’IA locale par le grand public, loin des serveurs coûteux, alors que les questions de sécurisation des données privées et de rentabilité des services cloud sont devenues saillantes.