ÚÀ£¬ÎÒ¸úÄã½²à룬×î½ü½¨ê±ØÈÀï½²µÃÒ°Èȵģ¬É¶Ê£¿¾ÍÊÇÄÇ¡°È«¹ú¿Õ½µÃâ·ÑÉÏÃÅЧÀÍÆ½Ì¨¡±£¡ÄãÏþµÃ²»£¬ÏÖÔÚÕâÆ½Ì¨Ò°»ð£¬¶¼½²É¶¶¼ÄÜ¡°¿Õ½µ¡±µ½ÄãÃſڣ¬ÃâµÃÄã×Ô¼º³öÃÅÅÜÌË·¡£²»¹ýà룬Õ⹤¾ß°¡£¬ÍâòÉÏ¿´ÊDZ㵱£¬ÆäʵÀïÃæÃŵÀ¶àµÃºÜ£¬ÍäÀ´ÍäÈ¥ÏñÔÛÀϳÇÏïŪÀïÍ·Ò»Ñù¡£ÄãÒªÊǃӸãÇå³þ£¬¿ÉÄܿսµÁ˸öɶ£¬½á¹û·´µ¹Âé·³ÉÏÃÅ¡£½ñÌìÎҾ͸øÄã½²½²Á¨£¬É¶½²¾¿£¬É¶¹ÊÊ£¬É¶¾Ñ飬°²ÄزÅËã»áÍæ¡£
¿Õ½µÐ§ÀÍ£¬ÀϽ¨ê±ÈË¿´µÄ½²¾¿·×ÆçÑù
Õâ¸öÂÎÒºóÉúʱ½Ú£¬ÄÄÓÐʲر¿Õ½µÐ§ÀÍ£¬É¶Ê¶¼µÃ¿¿×Ô¼ºÅÜÈ¥°ì¡£ÏÖÔÚÁ¨£¬à룬ɶ¶¼ÓÐÆ½Ì¨Äܿսµ£¬¾ÍÁ¬Äã½²Òª³ÔËíµÀ¹â±ý£¬Æ½Ì¨¶¼ÄܸøÄã´Ó³ÇÄÏÍ·Ë͵½³Ç±±Í·£¬ÕÕ¾ÉÃâµÃ³öÃŵÄÄÇÖÖ¡£ÍâòÉÏ¿´£¬Ò°Ê¡ÊÂÊDz»À²£¿µ«ÕÕÎÒ¿´à룬ÕâÀïÃæÕվɵý²¾¿µã¡£
ºÃ±È˵£¬Äã½ÐÈ˿սµÉÏÃÅ×öÎÀÉú£¬ÕâÖÖʰ¡£¬ÎÒ¸úÄã½²£¬Ç§Íò±ðÍíÉϽС£ÎªÉ¶ÄØ£¿ÎÒϸ٣ʱ½ÚÌýÎÒ¹«½²£¬ÍíÉÏÃſڽøÈË£¬ÄÄÅÂÊÇ×öÎÀÉúµÄ£¬Ò²ÈÝÒ×°ÑØÈÀïµÄ²ÆÆøÉ¨µô£¬Äã˵ÊDz»ÊÇÁ¨£¿ÕâÖÖʾ͵ý²¾¿Ê±¼ä£¬°×Ìì½Ð±È½ÏºÃ£¬ÆðÂëÑôÆø×㣬¸øÄãɨ½à¾»»¹´øµãºÃÆø³¡¡£
ÎÒ͵͵¸úÄã½²à룺½Ð¿Õ½µÐ§ÀÍ£¬Ê±¼äÉÏ×îºÃÑ¡ÉÏÎç¾Åµãµ½Ê®Ò»µã£¬Õâ¶Îʱ¼ä½Ð¡°ÑôÆø×îÍú¡±£¬¸É»îЧÂʸߣ¬»¹½ûÖ¹Ò×ŪµÃØÈÀïÂÒÔãÔã£¬ÌØ±ðÊÇɨ³ý¡¢ÐÞ¹¤¾ßÕâÖÖ¡£
ÄãÏþµÃÈ«¹ú¿Õ½µ£¬ÆäʵҲÓС°¿Ó¡±£¿
½²µ½¿Ó£¬ÎÒ¾ÍÓÐÒ°ÏյľÑéÒª¸úÄãÃÇ»°ÊÂÁ¨¡£ÉÏ»ØÎÒ´ø°³àîȥƽ̨ÉϽÐÁ˸öÐÞ¼ÒµçµÄ£¬½á¹ûÈËÀ´ÁË£¬¿´ÆðÀ´Ò°×¨Òµ£¬¹¤¾ßÒ²ÆëÈ«¡£à룬½á¹ûÐÞÐÞŪŪ£¬¿ªÍ·½²Ãâ·Ñ£¬×îºóÈ´Äð³ÉʲôÅä¼þҪǮ¡¢Ð§ÀÍ·ÑҪǮ£¬Ó²ÊǸøÎҸ㵽Áè¼ÝÔ±¾Âò¸öеļÛÇ®¡£Äã½²ÊDz»ÊÇ¿ÓÁ¨£¿
Õâ¸öÂÎÒºóÃæ²ÅÏþµÃ£¬Æ½Ì¨ÉÏÓÐЩЧÀÍ£¬ËäÈ»½²Ãâ·Ñ£¬µ«ÄãµÃ¿´Çå³þËüµÄ¡°Ìõ¿î¡±£¬ÓÐЩ²»°üÅä¼þ£¬ÓÐЩ²»°üºóÐøÐ§ÀÍ¡£ÕÕÎÒ¿´à룬Óöµ½ÕâÖÖÊ£¬Äã¾ÍµÃ¶àÎʼ¸¸ö¡°Ê²Ø±°ü²»°ü¡±£¬°²ÄزŲ»»á±»¿ÓµÃÒ°²Ò¡£
ÎÒ¸úÄã½²Ò»¸öÀϽ¨ê±µÄ¾÷ÇÏ£º½Ð¿Õ½µÐ§ÀÍǰ£¬¼ÇµÃͨ¹ýƽ̨ÎÊÇå³þ¼Û¸ñºÍ°ü²»°üºóÐøµÄϸ½Ú£¬×îºÃÄÜÔÙ¿´¿´ÆÀÂÛ£¬ÕÒÄÇÖÖÆÀ¼ÛÒ°ºÃµÄ¡£ÀÏ»õ×г£½²£¬¡°Ò»¿´ÆÀÂÛ¾ÍÏþµÃ¿¿Æ×²»¿¿Æ×¡±¡£
ÚÀ£¬»°½²µ½Õ⣬Äã¿Ï¶¨ÒªÎÊÎÒ£º¡°ÄÇÈ«¹ú¿Õ½µÐ§À;¿¾¹Öµ²»Öµ°¡£¿¡±ÎÒ¸øÄã¸öʵ»°à룬Õ⹤¾ß°¡£¬Ê¡ÊÂÊÇҰʡʣ¬µ«½¨ê±ÈËÂ½²¾¿µÄÕÕ¾ÉÒ»¸ö¡°¿¿Æ×¡±¡£ÄãֻҪѡ¶ÔÁË£¬Ê±¼äºÍϸ½Ú¶¼×¢ÒâºÃ£¬°²ÄزÅÊÇÖµ¡£
±êÇ©£º¿Õ½µÐ§ÀÍ¡¢½¨ê±ÀϽ²¾¿¡¢Æ½Ì¨ÃŵÀ¡¢ØÈÀïÉú»î¡¢»°Ê¾Ñé
¡¶²×ÖÝÍÆÄõê×î¶àµÄµØ·½ÔÚÄÄ¡·
ÕⳡϵøµÄµ¼»ðË÷£¬ÊǹȸèÑо¿Ôº¼´½«ÔÚ¹ú¼Êѧϰ±íÕ÷¼¯»á£¨ICLR 2026£©ÉÏÕýʽÁÁÏàµÄÂÛÎÄ¡°TurboQuant¡±¡£¹È¸èÍŶӳƣ¬Í¨¹ýÁ½ÏîÁ¢Òì¼¼ÊõPolarQuant£¨¼«×ø±êÁ¿»¯£©ºÍQJL£¨Á¿»¯JL±ä»»£©£¬ÊµÏÖÁËÔÚ¡°ÁãËðʧ¡±Ç°ÌáϽ«KV CacheѹËõÖÁ3-bit¾«¶È£¬ÄÚ´æÕ¼ÓÃËõСÖÁÉÙ6±¶¡£¸ÃËã·¨ÔÚH100 GPU¼ÓËÙÆ÷ÉÏÏà½ÏÓÚδÁ¿»¯¼üÖµ»¹ÊµÏÖÁ˸ߴï8±¶µÄÐÔÄÜÌáÉý¡£
¡¶Ì¨ÖÝ»ð³Ã÷ÈÕ¾ËÄÖÜÂôµÄ¡·
ÃÀ¹ú»·±£Ð»á£¨EDF£©±±¾©´ú±í´¦Æóҵͬ°é¹ØÏµÖ÷ÈΠȽÔó
¡¶²×ÖÝСÍõׯËÄÖÜÍÆÄá·
±±º£Êк£³ÇÇøÎ¯³£Î¯¡¢Ðû´«²¿²¿³¤²ÌµÂÈÊÌåÏÖ£¬º£³ÇÇø½«ÍØÕ¹Á÷Ï´åÉú³¤¿Õ¼ä£¬ÒýÈëÎÄ»¯ÂÃÓÎÓëÈ˹¤ÖÇÄܹ¤Òµ£¬ËÜÔìÌØÉ«IP£¬´òÔìÐÂÎÄÂù¤Òµ¼¯¾ÛÇø£¬Íƶ¯Ò»¡¢¶þ¡¢Èý¹¤ÒµÉî¶ÈÈںϣ¬¹¹½¨È«ÓòÁª¶¯µÄÁ¢ÒìÉú³¤»¨Ñù¡£(Íê)