故事的叙事者「我」是一位东京的大学生。某年暑假，他在镰仓的海边遇见一位中年男子，被他身上某种说不出的气质吸引，主动接近他，从此称他为「先生」。

回到东京后，「我」常常到先生家拜访。先生和妻子静住在一起，没有工作，也几乎不和社会往来，过著隐居般的生活。他学问渊博，却对人保持距离。他每个月都会独自到杂司谷的墓地，去祭拜一位已故的朋友，却从不让「我」陪他去，也不肯说那位朋友是谁。

先生常说一些让「我」听不懂的话。他说自己是一个寂寞的人；他说「恋爱是罪恶」，却又是神圣的；他说世上没有天生的坏人，平常都是好人，一到紧要关头，就会突然变成坏人，所以不能大意。他也说，自己连自己都不信任，因为不信任自己，所以也无法信任别人。

先生的妻子私下告诉「我」：先生从前不是这样的。她隐约觉得，丈夫的转变和那位朋友的死有关，但她也不知道真相。「我」越来越想知道先生的过去。先生终于答应：等时机到了，他会把自己的过去全部告诉他。

「我」大学毕业后回到乡下老家。父亲患了肾脏病，身体一天天衰弱。这时，报纸传来明治天皇病重、驾崩的消息。父亲躺在病床上，看著报纸感叹：天皇陛下也走了，自己恐怕也撑不久了。

父母希望儿子在东京找一份体面的工作，要他写信请先生帮忙。「我」写了信，先生却迟迟没有回音。比起家人，「我」发现自己反而和先生更亲近；乡下家人那种单纯、满足的生活，与先生那种知识分子的苦闷，形成强烈的对比。

不久，报上又登出乃木希典大将在天皇出殡之日自尽殉死的消息。接著，「我」收到先生的电报，要他到东京一趟。父亲已经病危，「我」无法离开，只能回电拒绝。几天后，一封厚厚的挂号信寄来了。「我」翻开信的最后几页，看见一句话：当这封信到你手上时，我大概已经不在这个世上了。「我」丢下垂死的父亲，跳上前往东京的火车，在车上读起这封信。

下篇是先生的遗书全文。先生是乡下的独生子，十几岁时父母相继过世，留下一笔可观的遗产，由叔叔代为管理。他到东京读大学，叔叔却不断劝他娶自己的女儿。后来他才发现，叔叔早已把他的财产挪用去经营失败的生意，侵吞了大半。

先生把剩下的财产处理掉，从此和故乡、亲戚断绝往来。这次背叛让他对人性失去信任：连最亲的叔叔都会为了钱欺骗他，世上还有谁能相信？他在东京一位军人遗孀的家里租了房间，那里只有遗孀、她的女儿和一位女仆。先生对这位小姐一见钟情，却因为心中的猜疑，始终怀疑母女俩是不是也在算计他的财产，迟迟不敢表明心意。

先生有一位从小一起长大的朋友，叫做 K。K 是寺庙住持的儿子，被一户医生人家收养，养父母送他到东京学医，他却瞒著家人改读宗教与哲学。事情被发现后，他被养家断绝关系，生家也和他疏远，生活陷入困顿。K 性格刚毅，严格要求自己，追求精神上的修行，常说：精神上没有上进心的人，是笨蛋。

先生同情 K，说服房东太太让 K 住进来，还请母女俩多和他说话，希望让孤僻的 K 变得温和一些。K 果然渐渐开朗起来。可是，先生看见 K 和小姐越来越亲近，心中开始生出嫉妒与不安。

某年暑假，两人一起到房总半岛旅行。先生好几次想说出自己对小姐的感情，却始终开不了口。回到东京后不久，K 突然向先生坦白：他爱上了小姐。

先生大受打击，却什么也没说。之后，K 向他吐露内心的矛盾：他一生追求克己与修行，现在却陷入爱情，不知道该怎么办。先生看准了 K 的弱点，冷冷地把 K 自己说过的话还给他：精神上没有上进心的人，是笨蛋。K 听了，低声说：我是笨蛋。他陷入了沉默。

先生害怕 K 会下定决心向小姐表白，于是抢先一步，趁 K 不在时直接向房东太太请求把女儿嫁给他。房东太太很爽快地答应了。先生始终没有勇气告诉 K。几天后，K 从房东太太口中得知了这门婚事，表情没有任何变化，只说了一声恭喜。

不久后的一个夜里，K 用小刀割断颈动脉自杀了。先生发现时，第一个念头是去看 K 留下的遗书，害怕里面写著对自己的指责。遗书里却一句责怪的话也没有，只简单地说自己意志薄弱、前途无望，所以决定自杀，并感谢先生一直以来的照顾。最后还有一句，像是后来才补上的：早就该死了，为什么一直活到今天呢？

先生把 K 安葬在杂司谷的墓地，从此每个月都去祭拜。半年后，他和小姐结了婚。可是 K 的死像一道阴影，永远横在两人之间。他爱著妻子，却不敢把真相告诉她，因为他不愿在她纯洁的记忆里留下一点污点。他发现，自己和那个背叛他的叔叔，其实是同一种人。他失去了对别人的信任，现在也失去了对自己的信任。

多年后，先生渐渐明白，K 的死也许不只是因为失恋，而是因为和他一样的孤独。他想过许多次要结束生命，只是为了妻子而一直拖延。直到明治天皇驾崩、乃木大将殉死，他觉得自己是一个活在明治精神里的人，也该随著那个时代一起结束了。

遗书的最后，先生请求「我」：把他的过去当作人生的教训，但只要妻子还活著，就不要让她知道这一切。

本书最核心的主题，是现代人的孤独。先生说，在这个充满自由、独立与自我的现代，孤独是每个人必须付出的代价。先生夹在传统的道德与新的个人主义之间：他为了自己的爱背叛了朋友，又用传统的方式，以死来承担责任。

对于先生自杀的原因，评论家有不同的解读：江藤淳认为，既是想逃离自我的痛苦，也是对明治精神的忠诚；英译者麦克莱伦则强调，比起罪恶感，更深的是哲学意义上的孤立。年轻的「我」对先生的依恋，以及他离开垂死父亲的选择，也让读者看到，下一代同样正走在疏离与孤独的路上。

这部作品曾由市川昆、新藤兼人两度改编成电影，也有电视剧、动画与漫画版本。一百多年来，它的下篇长期被选入日本高中的国语教科书，是许多日本人学生时代必读的作品。