ÀÏ×ÓÓÐÇ®lzyq88¹ÙÍø

À´Ô´£º³èÎïµê¾­ÓªÕ½ÂÔ £¬×÷Õߣº Áôѧ £¬£º

ÚÀ £¬Ù¯ÏþµÃ·¥ £¬ë¡ÖÖÊÂÇéÕæÊÇ¿´ÁËÎðÉÙС¹ÊÊÂ

×î½ü°¢À­ÀÏÔçÌýµ½ÅóÓѽ² £¬½²ë¡ÖÖ¡°ËÄÖÜÍâΧŮÐÅÏ¢¡±¸ÂÚ¨ºúŶ¡£Ù¯ÏþµÃ·¥ £¬Õâ¸öÊÂÇé°¢À­ÉϺ£ÈËÓе㡰ÀÏÅÉ¡±¸ö¿´·¨ £¬½²µÃÀ´Âï £¬ë¡Ð©¹¤¾ßÎðÊÇÍâòÉÏÙ¯¿´¿´¾ÍÏþµÃ¸ö¡£°¢À­ÀÏÔç³½¹â £¬ÌýÒ¯Êå½²¹ýÒ»¸ö¹ÊÊ £¬ë¡ÖÖÐÅÏ¢°¡ £¬Ô缸ÄêÀïÍ·°¡ £¬ÀÏÔç¾ÍÓÐÃÅ·¸öŶ¡£

ÎÒ¸úÙ¯½²Å¶ £¬Ù¯°¢Àï´îÈ¥ÎÊ £¬¿ÉÄÜÓеãÈ˻ὲ¡°ËÄÖÜÍâΧŮÐÅÏ¢¡± £¬ÊÇɶÎïÊ£¿ë¡¸öÕæ¸öÙ¯ÒªÂýÂýÌý £¬ÎðÊÇÍøÉϼ¸¸ö´ÊËÑÒ»ËѾͶ®¸ö¡£ë¡Ð©ÐÅÏ¢ÀïÍ·Óн²¾¿ £¬ÓÐÃÅ· £¬ÓС°ÀÏ¿ËÀÕ¡±µÄ¿´·¨¸ö¡£

ë¡Ð©ÐÅÏ¢¸ö½²¾¿Å¶ £¬Ù¯ÒªÌýÇåˬ

Ù¯½²ÊÇ·¥£¿ËÄÖÜÍâΧŮÐÅÏ¢ £¬¸ãµÃÀ´Ïñ³ÇÚòÃíÀïÍ·¸ö· £¬ÈÆÀ´ÈÆÈ¥ÓÐò¥Ê׻衣ٯһ¶¨ÒªÓÐÀÏ¿ËÀÕ¸öÑÛ¹âÀ´¿´´ýë¡Ð©ÐÅÏ¢¸öŶ¡£Ò»°ãÇé¿öÏ·¥ £¬Ù¯Òª¿´ë¡Ð©ÐÅÏ¢¸öÀ´Ô´ £¬ÎðÒªËæ±ãÐÅ¡£Ù¯ÏþµÃ·¥£¿ë¡ÖÖÊÂÇé°¡ £¬½²¾¿¡°ÑÛÁ¦¡±ºÍ¡°Åжϡ±¸ö¡£

ÎÒÄêÇá³½¹âë¡Ðª £¬°¢À­ÅªÌÃÀïÍ·Óиö¡°ÃÅ·ͨ¡±¸öÁÚ¾Ó £¬ÒÁ¸ö½²ë¡ÖÖÊÂÇé°¡ £¬ÕæÊÇ¡°ÀÏÅÉ¡±Óо­Ñé¸ö £¬ÒÁ½²¡°ë¡ÖÖÊÂÇé°¡ £¬ÎðÒª¼± £¬ÂýÂýÀ´ £¬ÑÛ¾¦ÒªÁÁ¡£¡±ë¡ÌìÎÒºÍÒÁÈ¥µ´Âí· £¬ÒÁ»¹½²Á˼¸¸öÃŵÀ¸øÎÒÌý £¬ÎÒ¸úÙ¯½²Å¶ £¬ÕæÊÇÓеãÒâ˼¡£

Ïà¹ØÍ¼Æ¬ ë¡ÄܾͶÔÁË£ºÙ¯ÒªÏþµÃ £¬ËÄÖÜÍâΧŮÐÅÏ¢ÀïÍ·ÓÐЩÊÂÊǽ²¡°ÈË¡±µÄ £¬½²¡°ÐÅ¡± £¬Ù¯ÎðÒªËæÒâÈ¥ÐÅЩ¡°¿ÕÍ·ÐÅÏ¢¡±¡£°¢À­ÀÏÉϺ£¸ö¾­ÑéÊÇ £¬·²ÊÂÏÈ¿´ÇåÀ´Ô´ £¬×îºÃÓÐÊìÈ˽éÉÜ £¬ë¡Ñù²ÅÎȵ±µÃÀ´¡£ Ïà¹ØÍ¼Æ¬

Ù¯½²ë¡Ð©ÐÅÏ¢¸ö¿Ó·¥£¿ÌýÎÒ½²ÀÏ»ù´¡¸öÊÂÇé

ë¡Ð©ÊÂÇéÀïÍ·ÓÐЩÈ˸㡰ÐéÍ·°ÍÄÔ¡± £¬°¢À­ÀÏÔç³½¹âÌýµ½¹ýÒ»¸ö¡°¿Ó¡± £¬ÅóÓѽ²ÒÁ¸öÇׯÝÊÜÆ­Á˸ö¾­Àú¡£½²ë¡Ð©ÐÅÏ¢ £¬ÓÐÈË×ö¼Ù £¬Ù¯Ò»ÑÛ¿´Îð³öÀ´ £¬½á¹û³ÔÁË¿÷¡£ËùÒÔ°¢À­ÌáÐÑÙ¯ £¬ë¡ÖÖÊÂÇé°¡ £¬ÑÛ¾¦²ÁÁÁµã £¬ÎðҪ̰×Ô֯Ŷ¡£

ÕÕÎÒ¿´À´Å¶ £¬ë¡ÖÖÊÂÇé°¡ £¬ÀÏ¿ËÀÕ¸ö×ö·¨¾ÍÊǡѡȡ± £¬Ù¯ÎðÒª¼± £¬ÂýÂýÀ´ £¬Ù¯ÏþµÃ·¥£¿ë¡ÖÖÊÂÇé½²¾¿µÄÊÇÅä¾°¡¢½²¾¿µÄÊÇÈ˺ÍÈËÖ®¼ä¸öÐÅÈΡ£Ù¯ÒªÄÍÐĵã £¬¿´¿´ÖÜΧÈ˽²É¶ÎïÊ £¬ÎÊÎÊÊìÈË £¬ë¡Ñù×ÔÈ»¾ÍÏþµÃ¸ö¡£


×îºó½²µã¡°ºóÊÖ¡±ÎÊÌâ £¬ë¡Ð©ÐÅÏ¢¾¿¾¹ÄÜÏàÐÅ·¥£¿

Ù¯¿ÉÄÜ»áÎÊ£º¡°°¢À­ÏþµÃë¡Ð©ÐÅÏ¢¸öÃÅ·ÁË £¬ÄǾ¿¾¹ÄÜÐÅ·¥£¿¡±ÎÒ¸úÙ¯½²Å¶ £¬ë¡ÖÖÊÂÇé°¡ £¬ÐÅÊÇ¿ÉÒÔÐÅ £¬Ù¯Òª¿´¶ÔµØ·½ £¬¿´¶ÔÈË¡£ÀÏÉϺ£¸ö¾­Ñé¾ÍÊÇ¡°ÑÛ¾¦ÁÁ £¬×ì°ÍÎÈ¡±¡£Ù¯ÒªÏþµÃë¡Ð©ÐÅÏ¢ÊÇÕæÎ± £¬×îºÃÕÒÊìÈ˰ïÙ¯ÎÊÎÊ £¬ë¡Ñù²Å¶¨ÐĸöŶ¡£

Ïà¹ØÍ¼Æ¬

±êÇ©£ºËÄÖÜÍâΧŮÐÅÏ¢ £¬ÀÏ¿ËÀÕÃÅ· £¬ÉϺ£È˾­Ñé £¬³ÇÚòÃí· £¬ÑÛ¾¦ÒªÁÁ

¡¶Õòº£ÂæÍÕºÃÍæÐ¡Ïï×Ó¡·

¹ÊÊÂÄں˵ľ«×¼´¥´ïÈËÐĺ͹ÊÊ¿ò¼ÜµÄÓÐЧ¸»ºñÑÓÕ¹Ö®Íâ £¬¡¶Ä§Í¯ÄÖº£¡·ÔÚ¼¼Êõ²ãÃæµÄÍ»ÆÆÍ¬ÑùÖµµÃ¹Ø×¢¡£ÈçÆ¬Öб»³Æ×÷¡°Éá²»µÃÕ£ÑÛ¡±µÄ¡°ºéÁ÷´óÕ½¡± £¬Ò»¸ö»­ÃæÉæ¼°2ÒÚ¶à¸ö½ÇÉ« £¬Ç§¾üÍòÂíËÆº£À˰㷭ÌÚ £¬µ«ÕûÌå·ºÆð³öÆæÌØµÄ¶«·½ÉóÃÀÔÏÂÉ¡£¾ÝÁ˽â £¬Õû²¿Ó°Æ¬¹²Éæ¼°1900¶à¸öÌØÐ§¾µÍ· £¬ÉÏÍò¸öÌØÐ§ÔªËØ £¬ÇҴ󲿷ÖΪÖйúº£ÄÚÍŶÓÖÆ×÷ £¬×ÜÌåºÄʱ5Äê £¬¿°³ÆÖع¤ÒµÓ°Ï·µÄ¹æ·¶¡£

¡¶±ö¹ÝÄÜÕÒµ½Å®ÈËÂð¡·

ͨ¸æÏÔʾ £¬ºÏ×ÊÆÚÏÞΪ8Äê £¬ÆäÖÐͶ×ÊÆÚ3Äê¡¢Í˳öÆÚ4Äê £¬¾­È«ÌåºÏ×ÊÈËÒ»ÖÂͬÒâ¿ÉÑÓ³¤1Äꣻ»ù½ð³ö×Ê·ÖÈýÆÚ½øÐÐ £¬µÚÒ»ÆÚ³ö×Ê35% £¬µÚ¶þÆÚ³ö×Ê35% £¬µÚÈýÆÚ³ö×Ê30%¡£»ù½ð½«¾Û½¹µÂ²ý¹É·Ý¶Ôй¤Òµ½á¹¹µÄ½¹µãÐèÇó £¬Í¨¹ý¹¤ÒµÁ´×ÊÔ´ÕûºÏÓëÕ½ÂÔЭͬ £¬Íƶ¯¹«Ë¾²úÆ·ÈÚÈëÐÂÐ˹¤ÒµÉú̬ £¬¼ÓËÙ¹¤Òµ»¯ £¬Ðγɡ°ÄÚÉúÔö³¤+ÍâÑÓÍØÕ¹¡±Ë«ÂÖÇý¶¯ £¬Á¬ÐøÌáÉý½¹µã¾ºÕùÁ¦¡£

¡¶ÄϾ©Ð¡Ïï×Ó100Áµ°®¡·

¢Ý Cao J, Wang J, Wei R, ..., Zhou B, Lin Z. Memory Decoder: A Pretrained, Plug-and-Play Memory for Large Language Models [J]. arXiv preprint arXiv:2508.09874, 2025.

ÍøÕ¾µØÍ¼