¿­·¢K8Æì½¢Ìü

À´Ô´£º¸¾¿Æ¼ì²éµæ£¬×÷Õߣº £¬£º

ÚÀ£¬ÎÒ¸úÄã½²à룬×î½ü½¨ê±ØÈÀï½²µÃÒ°ÈȵÄ£¬É¶Ê £¿¾ÍÊÇÄÇ¡°È«¹ú¿Õ½µÃâ·ÑÉÏÃÅЧÀÍÆ½Ì¨¡±£¡ÄãÏþµÃ²»£¬ÏÖÔÚÕâÆ½Ì¨Ò°»ð£¬¶¼½²É¶¶¼ÄÜ¡°¿Õ½µ¡±µ½ÄãÃſڣ¬ÃâµÃÄã×Ô¼º³öÃÅÅÜÌË·¡£²»¹ýà룬Õ⹤¾ß°¡£¬ÍâòÉÏ¿´ÊDZ㵱£¬ÆäʵÀïÃæÃŵÀ¶àµÃºÜ£¬ÍäÀ´ÍäÈ¥ÏñÔÛÀϳÇÏïŪÀïÍ·Ò»Ñù¡£ÄãÒªÊǃӸãÇå³þ£¬¿ÉÄܿսµÁ˸öɶ£¬½á¹û·´µ¹Âé·³ÉÏÃÅ¡£½ñÌìÎҾ͸øÄã½²½²Á¨£¬É¶½²¾¿£¬É¶¹ÊÊ£¬É¶¾­Ñ飬°²ÄزÅËã»áÍæ¡£

¿Õ½µÐ§ÀÍ£¬ÀϽ¨ê±ÈË¿´µÄ½²¾¿·×ÆçÑù

Ïà¹ØÍ¼Æ¬

Õâ¸öÂÎÒºóÉúʱ½Ú£¬ÄÄÓÐʲر¿Õ½µÐ§ÀÍ£¬É¶Ê¶¼µÃ¿¿×Ô¼ºÅÜÈ¥°ì¡£ÏÖÔÚÁ¨£¬à룬ɶ¶¼ÓÐÆ½Ì¨Äܿսµ£¬¾ÍÁ¬Äã½²Òª³ÔËíµÀ¹â±ý£¬Æ½Ì¨¶¼ÄܸøÄã´Ó³ÇÄÏÍ·Ë͵½³Ç±±Í·£¬ÕÕ¾ÉÃâµÃ³öÃŵÄÄÇÖÖ¡£ÍâòÉÏ¿´£¬Ò°Ê¡ÊÂÊDz»À² £¿µ«ÕÕÎÒ¿´à룬ÕâÀïÃæÕվɵý²¾¿µã¡£

ºÃ±È˵£¬Äã½ÐÈ˿սµÉÏÃÅ×öÎÀÉú£¬ÕâÖÖʰ¡£¬ÎÒ¸úÄã½²£¬Ç§Íò±ðÍíÉϽС£ÎªÉ¶ÄØ £¿ÎÒϸ٣ʱ½ÚÌýÎÒ¹«½²£¬ÍíÉÏÃſڽøÈË£¬ÄÄÅÂÊÇ×öÎÀÉúµÄ£¬Ò²ÈÝÒ×°ÑØÈÀïµÄ²ÆÆøÉ¨µô£¬Äã˵ÊDz»ÊÇÁ¨ £¿ÕâÖÖʾ͵ý²¾¿Ê±¼ä£¬°×Ìì½Ð±È½ÏºÃ£¬ÆðÂëÑôÆø×㣬¸øÄãɨ½à¾»»¹´øµãºÃÆø³¡¡£

ÎÒ͵͵¸úÄã½²à룺½Ð¿Õ½µÐ§ÀÍ£¬Ê±¼äÉÏ×îºÃÑ¡ÉÏÎç¾Åµãµ½Ê®Ò»µã£¬Õâ¶Îʱ¼ä½Ð¡°ÑôÆø×îÍú¡±£¬¸É»îЧÂʸߣ¬»¹½ûÖ¹Ò×ŪµÃØÈÀïÂÒÔãÔ㣬ÌرðÊÇɨ³ý¡¢ÐÞ¹¤¾ßÕâÖÖ¡£

ÄãÏþµÃÈ«¹ú¿Õ½µ£¬ÆäʵҲÓС°¿Ó¡± £¿

Ïà¹ØÍ¼Æ¬

½²µ½¿Ó£¬ÎÒ¾ÍÓÐÒ°Ïյľ­ÑéÒª¸úÄãÃÇ»°ÊÂÁ¨¡£ÉÏ»ØÎÒ´ø°³àîȥƽ̨ÉϽÐÁ˸öÐÞ¼ÒµçµÄ£¬½á¹ûÈËÀ´ÁË£¬¿´ÆðÀ´Ò°×¨Òµ£¬¹¤¾ßÒ²ÆëÈ«¡£à룬½á¹ûÐÞÐÞŪŪ£¬¿ªÍ·½²Ãâ·Ñ£¬×îºóÈ´Äð³ÉʲôÅä¼þҪǮ¡¢Ð§ÀÍ·ÑҪǮ£¬Ó²ÊǸøÎҸ㵽Áè¼ÝÔ­±¾Âò¸öеļÛÇ®¡£Äã½²ÊDz»ÊÇ¿ÓÁ¨ £¿

Õâ¸öÂÎÒºóÃæ²ÅÏþµÃ£¬Æ½Ì¨ÉÏÓÐЩЧÀÍ£¬ËäÈ»½²Ãâ·Ñ£¬µ«ÄãµÃ¿´Çå³þËüµÄ¡°Ìõ¿î¡±£¬ÓÐЩ²»°üÅä¼þ£¬ÓÐЩ²»°üºóÐøÐ§ÀÍ¡£ÕÕÎÒ¿´à룬Óöµ½ÕâÖÖÊ£¬Äã¾ÍµÃ¶àÎʼ¸¸ö¡°Ê²Ø±°ü²»°ü¡±£¬°²ÄزŲ»»á±»¿ÓµÃÒ°²Ò¡£

ÎÒ¸úÄã½²Ò»¸öÀϽ¨ê±µÄ¾÷ÇÏ£º½Ð¿Õ½µÐ§ÀÍǰ£¬¼ÇµÃͨ¹ýƽ̨ÎÊÇå³þ¼Û¸ñºÍ°ü²»°üºóÐøµÄϸ½Ú£¬×îºÃÄÜÔÙ¿´¿´ÆÀÂÛ£¬ÕÒÄÇÖÖÆÀ¼ÛÒ°ºÃµÄ¡£ÀÏ»õ×г£½²£¬¡°Ò»¿´ÆÀÂÛ¾ÍÏþµÃ¿¿Æ×²»¿¿Æ×¡±¡£

ÚÀ£¬»°½²µ½Õ⣬Äã¿Ï¶¨ÒªÎÊÎÒ£º¡°ÄÇÈ«¹ú¿Õ½µÐ§À;¿¾¹Öµ²»Öµ°¡ £¿¡±ÎÒ¸øÄã¸öʵ»°à룬Õ⹤¾ß°¡£¬Ê¡ÊÂÊÇҰʡʣ¬µ«½¨ê±ÈËÂ½²¾¿µÄÕÕ¾ÉÒ»¸ö¡°¿¿Æ×¡±¡£ÄãֻҪѡ¶ÔÁË£¬Ê±¼äºÍϸ½Ú¶¼×¢ÒâºÃ£¬°²ÄزÅÊÇÖµ¡£

±êÇ©£º¿Õ½µÐ§ÀÍ¡¢½¨ê±ÀϽ²¾¿¡¢Æ½Ì¨ÃŵÀ¡¢ØÈÀïÉú»î¡¢»°Ê¾­Ñé

¡¶²×ÖÝÍÆÄõê×î¶àµÄµØ·½ÔÚÄÄ¡·

ÕⳡϵøµÄµ¼»ðË÷£¬ÊǹȸèÑо¿Ôº¼´½«ÔÚ¹ú¼Êѧϰ±íÕ÷¼¯»á£¨ICLR 2026£©ÉÏÕýʽÁÁÏàµÄÂÛÎÄ¡°TurboQuant¡±¡£¹È¸èÍŶӳÆ£¬Í¨¹ýÁ½ÏîÁ¢Òì¼¼ÊõPolarQuant£¨¼«×ø±êÁ¿»¯£©ºÍQJL£¨Á¿»¯JL±ä»»£©£¬ÊµÏÖÁËÔÚ¡°ÁãËðʧ¡±Ç°ÌáϽ«KV CacheѹËõÖÁ3-bit¾«¶È£¬ÄÚ´æÕ¼ÓÃËõСÖÁÉÙ6±¶¡£¸ÃËã·¨ÔÚH100 GPU¼ÓËÙÆ÷ÉÏÏà½ÏÓÚδÁ¿»¯¼üÖµ»¹ÊµÏÖÁ˸ߴï8±¶µÄÐÔÄÜÌáÉý¡£

¡¶Ì¨ÖÝ»ð³Ã÷ÈÕ¾ËÄÖÜÂôµÄ¡·

ÃÀ¹ú»·±£Ð­»á£¨EDF£©±±¾©´ú±í´¦Æóҵͬ°é¹ØÏµÖ÷ÈΠȽÔó

¡¶²×ÖÝСÍõׯËÄÖÜÍÆÄá·

±±º£Êк£³ÇÇøÎ¯³£Î¯¡¢Ðû´«²¿²¿³¤²ÌµÂÈÊÌåÏÖ£¬º£³ÇÇø½«ÍØÕ¹Á÷Ï´åÉú³¤¿Õ¼ä£¬ÒýÈëÎÄ»¯ÂÃÓÎÓëÈ˹¤ÖÇÄܹ¤Òµ£¬ËÜÔìÌØÉ«IP£¬´òÔìÐÂÎÄÂù¤Òµ¼¯¾ÛÇø£¬Íƶ¯Ò»¡¢¶þ¡¢Èý¹¤ÒµÉî¶ÈÈںϣ¬¹¹½¨È«ÓòÁª¶¯µÄÁ¢ÒìÉú³¤»¨Ñù¡£(Íê)

ÍøÕ¾µØÍ¼