1986年， 77岁的林庚先生决意退出他耕耘了半个多世纪的大学讲坛。在林庚先生退休之前，北大中文系特意为他安排了一堂“告别课”。当时，系里正筹划着请一些老教授为学生们讲课。于是钱理群出面将吴组缃、王瑶、季镇淮、游国恩等名家请出，其中自然也包括林庚。尽管从1933年在清华大学给朱自清先生当助教开始，林庚已经执教了半个世纪，但他的讲课题目还是几经更换才最终定下，讲课内容也是斟酌再三，仅教案就足足准备了一个多月。林庚的最后一课讲的是《什么是诗》。消息一传出，整个燕园为之一振，前来聆听者络绎不绝，名流如云，极一时之盛。讲课那天，身高一米八的林庚先生穿着一身经过精心设计的黄色衣服，配一双崭新的黄皮鞋，头发一丝不乱地出现在讲台上。按照钱理群的说法，“美得一上台就震住了大家”。整整一节课，林庚先生只讲了一首诗。然而，他款款讲来，滔滔不绝，讲得是激情飞扬、左右逢源，贯通古今、纵横捭阖，出神入化、炉火纯青。这堂课下来，人们惊呆了：诗歌竟然可以讲到这个境界！课后，钱理群送林庚回家，刚一进门林庚便倒下，大病一场。

同年春，系里为林庚举行九十五华诞庆祝会。吴小如、袁行霈、谢冕、钱理群、陈平原等五代弟子，济济一堂，为先生祝寿。会上，林庚先生吐露心曲：“过去一直说我写诗脱离政治。我是不关心政治，因为我不了解政治是怎么一回事，政治很复杂。但是我从来没有脱离社会生活。我生存在社会中，我了解社会生活，我也热爱社会生活。我的诗，涉及边城，涉及当时的国家命运，写的是我的经验，我所理解的社会生活。人们都说，文学来源于生活。社会生活也是一种政治，一种最大的艺术来源。关心和了解社会，我才能写出诗来。”会上，弟子们送给林庚十六个字：建安风骨，盛唐气象；少年精神，布衣情怀。

林庚先生一生布衣蔬食，淡泊无争。他以“远离功利，抗拒诱惑”自守，亦以此要求门人弟子。国内外的一切邀请，他都拒绝；一切媒体，他都回避；一切荣誉，他都不要。林庚先生从不涉足权力名利，这不是自命清高，不是不屑于谈名逐利，他是压根儿就没有这些概念。诗歌和学术，才是他一生的修行。92岁那年，林庚出版了新著《空间的想象》。然而，随着年岁日增，写了七十多年诗歌的老诗人，已渐渐走出诗歌的畛域了。“我到这年纪了，什么都看透了。看透了，说透了，还怎么能写诗呢？”林庚晚年常坐在藤椅上，少问世事，也不接受媒体访问，淡出公众视野，甚至，连那些从他门口路过的学生，有些也已经不知道他是谁了。功利、名望，仿佛已经完全从他的心里消失了。

2004年，北大成立中国诗歌研究中心，当时各方都力请林庚先生出任中心主任。但林先生一口拒绝了。没有办法，有关方面只好派人到林庚府上进行劝说，晓之以理、动之以情。来人说：“在中国诗歌界，二三十年代出道的所有名家，从郭沫若、闻一多、徐志摩、戴望舒、汪静之、冯至、钟敬文、臧克家，到艾青、陈梦家、何其芳、卞之琳，再到王辛笛、穆旦等都已作古，目前硕果仅存的，唯有您了。论创作，论研究，如果您不出来，就再没有别的人可以胜任了。我们需要您，诗歌需要您。”如此一番下来，林庚先生终于被说服了，他答应出任北京大学诗歌中心主任。除此之外，林庚先生再没有担任任何社团的职务。毕其一生，林庚先生最高的官衔是北大中文系古典文学教研室主任，正科级。

2006年10月4日，林庚先生像往常一样，吃过晚饭，上床休息了一会儿。晚上7时左右，家人发现，这位中国现代文学史上杰出的诗人已经停止了呼吸。他享年97岁。