ÚÀ£¬Ù¯ÏþµÃ·¥£¬ë¡ÖÖÊÂÇéÕæÊÇ¿´ÁËÎðÉÙС¹ÊÊÂ
×î½ü°¢ÀÀÏÔçÌýµ½ÅóÓѽ²£¬½²ë¡ÖÖ¡°ËÄÖÜÍâΧŮÐÅÏ¢¡±¸ÂÚ¨ºúŶ¡£Ù¯ÏþµÃ·¥£¬Õâ¸öÊÂÇé°¢ÀÉϺ£ÈËÓе㡰ÀÏÅÉ¡±¸ö¿´·¨£¬½²µÃÀ´Âë¡Ð©¹¤¾ßÎðÊÇÍâòÉÏÙ¯¿´¿´¾ÍÏþµÃ¸ö¡£°¢ÀÀÏÔç³½¹â£¬ÌýÒ¯Êå½²¹ýÒ»¸ö¹ÊÊ£¬ë¡ÖÖÐÅÏ¢°¡£¬Ô缸ÄêÀïÍ·°¡£¬ÀÏÔç¾ÍÓÐÃÅ·¸öŶ¡£
ÎÒ¸úÙ¯½²Å¶£¬Ù¯°¢Àï´îÈ¥ÎÊ£¬¿ÉÄÜÓеãÈ˻ὲ¡°ËÄÖÜÍâΧŮÐÅÏ¢¡±£¬ÊÇɶÎïÊ£¿ë¡¸öÕæ¸öÙ¯ÒªÂýÂýÌý£¬ÎðÊÇÍøÉϼ¸¸ö´ÊËÑÒ»ËѾͶ®¸ö¡£ë¡Ð©ÐÅÏ¢ÀïÍ·Óн²¾¿£¬ÓÐÃÅ·£¬ÓС°ÀÏ¿ËÀÕ¡±µÄ¿´·¨¸ö¡£
ë¡Ð©ÐÅÏ¢¸ö½²¾¿Å¶£¬Ù¯ÒªÌýÇåˬ
Ù¯½²ÊÇ·¥£¿ËÄÖÜÍâΧŮÐÅÏ¢£¬¸ãµÃÀ´Ïñ³ÇÚòÃíÀïÍ·¸ö·£¬ÈÆÀ´ÈÆÈ¥ÓÐò¥Ê׻衣ٯһ¶¨ÒªÓÐÀÏ¿ËÀÕ¸öÑÛ¹âÀ´¿´´ýë¡Ð©ÐÅÏ¢¸öŶ¡£Ò»°ãÇé¿öÏ·¥£¬Ù¯Òª¿´ë¡Ð©ÐÅÏ¢¸öÀ´Ô´£¬ÎðÒªËæ±ãÐÅ¡£Ù¯ÏþµÃ·¥£¿ë¡ÖÖÊÂÇé°¡£¬½²¾¿¡°ÑÛÁ¦¡±ºÍ¡°Åжϡ±¸ö¡£
ÎÒÄêÇá³½¹âë¡Ðª£¬°¢ÀŪÌÃÀïÍ·Óиö¡°ÃÅ·ͨ¡±¸öÁÚ¾Ó£¬ÒÁ¸ö½²ë¡ÖÖÊÂÇé°¡£¬ÕæÊÇ¡°ÀÏÅÉ¡±ÓоÑé¸ö£¬ÒÁ½²¡°ë¡ÖÖÊÂÇé°¡£¬ÎðÒª¼±£¬ÂýÂýÀ´£¬ÑÛ¾¦ÒªÁÁ¡£¡±ë¡ÌìÎÒºÍÒÁÈ¥µ´Âí·£¬ÒÁ»¹½²Á˼¸¸öÃŵÀ¸øÎÒÌý£¬ÎÒ¸úÙ¯½²Å¶£¬ÕæÊÇÓеãÒâ˼¡£
ë¡ÄܾͶÔÁË£ºÙ¯ÒªÏþµÃ£¬ËÄÖÜÍâΧŮÐÅÏ¢ÀïÍ·ÓÐЩÊÂÊǽ²¡°ÈË¡±µÄ£¬½²¡°ÐÅ¡±£¬Ù¯ÎðÒªËæÒâÈ¥ÐÅЩ¡°¿ÕÍ·ÐÅÏ¢¡±¡£°¢ÀÀÏÉϺ£¸ö¾ÑéÊÇ£¬·²ÊÂÏÈ¿´ÇåÀ´Ô´£¬×îºÃÓÐÊìÈ˽éÉÜ£¬ë¡Ñù²ÅÎȵ±µÃÀ´¡£
![]()
Ù¯½²ë¡Ð©ÐÅÏ¢¸ö¿Ó·¥£¿ÌýÎÒ½²ÀÏ»ù´¡¸öÊÂÇé
ë¡Ð©ÊÂÇéÀïÍ·ÓÐЩÈ˸㡰ÐéÍ·°ÍÄÔ¡±£¬°¢ÀÀÏÔç³½¹âÌýµ½¹ýÒ»¸ö¡°¿Ó¡±£¬ÅóÓѽ²ÒÁ¸öÇׯÝÊÜÆÁ˸ö¾Àú¡£½²ë¡Ð©ÐÅÏ¢£¬ÓÐÈË×ö¼Ù£¬Ù¯Ò»ÑÛ¿´Îð³öÀ´£¬½á¹û³ÔÁË¿÷¡£ËùÒÔ°¢ÀÌáÐÑÙ¯£¬ë¡ÖÖÊÂÇé°¡£¬ÑÛ¾¦²ÁÁÁµã£¬ÎðҪ̰×Ô֯Ŷ¡£
ÕÕÎÒ¿´À´Å¶£¬ë¡ÖÖÊÂÇé°¡£¬ÀÏ¿ËÀÕ¸ö×ö·¨¾ÍÊǡѡȡ±£¬Ù¯ÎðÒª¼±£¬ÂýÂýÀ´£¬Ù¯ÏþµÃ·¥£¿ë¡ÖÖÊÂÇé½²¾¿µÄÊÇÅä¾°¡¢½²¾¿µÄÊÇÈ˺ÍÈËÖ®¼ä¸öÐÅÈΡ£Ù¯ÒªÄÍÐĵ㣬¿´¿´ÖÜΧÈ˽²É¶ÎïÊ£¬ÎÊÎÊÊìÈË£¬ë¡Ñù×ÔÈ»¾ÍÏþµÃ¸ö¡£
×îºó½²µã¡°ºóÊÖ¡±ÎÊÌ⣬ë¡Ð©ÐÅÏ¢¾¿¾¹ÄÜÏàÐÅ·¥£¿
Ù¯¿ÉÄÜ»áÎÊ£º¡°°¢ÀÏþµÃë¡Ð©ÐÅÏ¢¸öÃÅ·ÁË£¬ÄǾ¿¾¹ÄÜÐÅ·¥£¿¡±ÎÒ¸úÙ¯½²Å¶£¬ë¡ÖÖÊÂÇé°¡£¬ÐÅÊÇ¿ÉÒÔÐÅ£¬Ù¯Òª¿´¶ÔµØ·½£¬¿´¶ÔÈË¡£ÀÏÉϺ£¸ö¾Ñé¾ÍÊÇ¡°ÑÛ¾¦ÁÁ£¬×ì°ÍÎÈ¡±¡£Ù¯ÒªÏþµÃë¡Ð©ÐÅÏ¢ÊÇÕæÎ±£¬×îºÃÕÒÊìÈ˰ïÙ¯ÎÊÎÊ£¬ë¡Ñù²Å¶¨ÐĸöŶ¡£
±êÇ©£ºËÄÖÜÍâΧŮÐÅÏ¢£¬ÀÏ¿ËÀÕÃÅ·£¬ÉϺ£È˾Ñ飬³ÇÚòÃí·£¬ÑÛ¾¦ÒªÁÁ
¡¶Õòº£ÂæÍÕºÃÍæÐ¡Ïï×Ó¡·
¹ÊÊÂÄں˵ľ«×¼´¥´ïÈËÐĺ͹ÊÊ¿ò¼ÜµÄÓÐЧ¸»ºñÑÓÕ¹Ö®Í⣬¡¶Ä§Í¯ÄÖº£¡·ÔÚ¼¼Êõ²ãÃæµÄÍ»ÆÆÍ¬ÑùÖµµÃ¹Ø×¢¡£ÈçÆ¬Öб»³Æ×÷¡°Éá²»µÃÕ£ÑÛ¡±µÄ¡°ºéÁ÷´óÕ½¡±£¬Ò»¸ö»ÃæÉæ¼°2ÒÚ¶à¸ö½ÇÉ«£¬Ç§¾üÍòÂíËÆº£À˰ã·ÌÚ£¬µ«ÕûÌå·ºÆð³öÆæÌØµÄ¶«·½ÉóÃÀÔÏÂÉ¡£¾ÝÁ˽⣬Õû²¿Ó°Æ¬¹²Éæ¼°1900¶à¸öÌØÐ§¾µÍ·£¬ÉÏÍò¸öÌØÐ§ÔªËØ£¬ÇҴ󲿷ÖΪÖйúº£ÄÚÍŶÓÖÆ×÷£¬×ÜÌåºÄʱ5Ä꣬¿°³ÆÖع¤ÒµÓ°Ï·µÄ¹æ·¶¡£
¡¶±ö¹ÝÄÜÕÒµ½Å®ÈËÂð¡·
ͨ¸æÏÔʾ£¬ºÏ×ÊÆÚÏÞΪ8Ä꣬ÆäÖÐͶ×ÊÆÚ3Äê¡¢Í˳öÆÚ4Ä꣬¾È«ÌåºÏ×ÊÈËÒ»ÖÂͬÒâ¿ÉÑÓ³¤1Äꣻ»ù½ð³ö×Ê·ÖÈýÆÚ½øÐУ¬µÚÒ»ÆÚ³ö×Ê35%£¬µÚ¶þÆÚ³ö×Ê35%£¬µÚÈýÆÚ³ö×Ê30%¡£»ù½ð½«¾Û½¹µÂ²ý¹É·Ý¶Ôй¤Òµ½á¹¹µÄ½¹µãÐèÇó£¬Í¨¹ý¹¤ÒµÁ´×ÊÔ´ÕûºÏÓëÕ½ÂÔÐͬ£¬Íƶ¯¹«Ë¾²úÆ·ÈÚÈëÐÂÐ˹¤ÒµÉú̬£¬¼ÓËÙ¹¤Òµ»¯£¬Ðγɡ°ÄÚÉúÔö³¤+ÍâÑÓÍØÕ¹¡±Ë«ÂÖÇý¶¯£¬Á¬ÐøÌáÉý½¹µã¾ºÕùÁ¦¡£
¡¶ÄϾ©Ð¡Ïï×Ó100Áµ°®¡·
¢Ý Cao J, Wang J, Wei R, ..., Zhou B, Lin Z. Memory Decoder: A Pretrained, Plug-and-Play Memory for Large Language Models [J]. arXiv preprint arXiv:2508.09874, 2025.
ë¡ÄܾͶÔÁË£ºÙ¯ÒªÏþµÃ£¬ËÄÖÜÍâΧŮÐÅÏ¢ÀïÍ·ÓÐЩÊÂÊǽ²¡°ÈË¡±µÄ£¬½²¡°ÐÅ¡±£¬Ù¯ÎðÒªËæÒâÈ¥ÐÅЩ¡°¿ÕÍ·ÐÅÏ¢¡±¡£°¢ÀÀÏÉϺ£¸ö¾ÑéÊÇ£¬·²ÊÂÏÈ¿´ÇåÀ´Ô´£¬×îºÃÓÐÊìÈ˽éÉÜ£¬ë¡Ñù²ÅÎȵ±µÃÀ´¡£