Edge Intelligence Optimization for Large Language Model Inference with Batching and Quantization
Xinyuan Zhang, Jiang Liu, Zehui Xiong, Yudong Huang, Gaochang Xie, Ran Zhang · arXiv: 2405.07140v1 · Page du résumé
Votre présentation de journal club, prête en une minute. Une dizaine de slides avec les figures de l'article quand sa licence le permet, ce qu'il faut dire sur chacune, les points forts et les limites de l'article, et des questions pour lancer la discussion. Présentez-la en plein écran ou enregistrez-la en PDF.