〔11〕起家齐秘书郎，迁太子舍人。出为建安太守，为政有恩信，民不忍欺。每伏腊放囚还家，依期而返。入为尚书三公郎，不拜，迁司徒主簿。注《易》，又解《礼记》，于卷背书之，谓为《隐义》。累迁中书郎、员外散骑常侍、太尉从事中郎、司徒右长史、给事黄门侍郎、太子中庶子、领国子博士、丹阳邑中正。尚书令王俭受诏撰新礼，未就而卒。又使特进张绪续成之，绪又卒；属在司徒竟陵王子良，子良以让胤，乃置学士二十人，佐胤撰录。永明十年492，迁侍中，领步兵校尉，转为国子祭酒。郁林嗣位，胤为后族，甚见亲待。累迁左民尚书、领骁骑、中书令、领临海、巴陵王师。
何胤初入仕途担任齐朝的秘书郎，升任太子舍人。外放为建安太守，为政有恩信，百姓不忍心欺骗他。每到伏日和腊日，他放囚犯回家，囚犯都按期返回。入朝担任尚书三公郎，他不肯就任，改任司徒主簿。他注释《周易》，又解释《礼记》，在书卷背面书写，称为《隐义》。多次升迁为中书郎、员外散骑常侍、太尉从事中郎、司徒右长史、给事黄门侍郎、太子中庶子、兼领国子博士、丹阳邑中正。尚书令王俭受诏撰写新礼，未完成就去世了。又让特进张绪继续完成，张绪也去世了；此事交付给司徒竟陵王萧子良，萧子良让给何胤，于是设置学士二十人，协助何胤撰录。永明十年，升任侍中，兼领步兵校尉，转任国子祭酒。郁林王即位后，何胤是皇后家族的人，很受亲信优待。多次升迁为左民尚书、兼领骁骑将军、中书令、兼领临海王和巴陵王的老师。
〔12〕胤虽贵显，常怀止足。建武初，已筑室郊外，号曰小山，恒与学徒游处其内。至是，遂卖园宅，欲入东山，未及发，闻谢朏罢吴兴郡不还，胤恐后之，乃拜表辞职，不待报辄去。明帝大怒，使御史中丞袁昂奏收胤，寻有诏许之。胤以会稽山多灵异，往游焉，居若邪山云门寺。初，胤二兄求、点并栖遁，求先卒，至是胤又隐，世号点为大山；胤为小山，亦曰东山。
何胤虽然显贵，但常怀知足之心。建武初年，他已在郊外建造了房屋，称作“小山”，经常与学徒在那里交游居住。到这时，他卖掉园宅，想入东山，还没出发，听说谢朏罢免吴兴郡守后不回家，何胤怕落在后面，便上表辞职，不等朝廷批复就离开了。明帝大怒，派御史中丞袁昂上奏逮捕何胤，不久又下诏允许他辞职。何胤认为会稽山有很多灵异之事，便去游历，住在若邪山的云门寺。当初，何胤的两个哥哥何求、何点都已隐居，何求先去世，到这时何胤也隐居，世人称何点为“大山”，何胤为“小山”，也称“东山”。
〔13〕永元中，征太常、太子詹事，并不就。高祖霸府建，引胤为军谋祭酒，与书曰：“想恒清豫，纵情林壑，致足欢也。既内绝心战，外劳物役，以道养和，履候无爽。若邪擅美东区，山川相属，前世嘉赏，是为乐土。仆推迁簿官，自东徂西，悟言素对，用成睽阕，倾首东顾，曷日无怀。畴昔欢遇，曳裾儒肆，实欲卧游千载，畋渔百氏，一行为吏，此事遂乖。属以世道威夷，仍离屯故，投袂数千，克黜衅祸。思得瞩卷谘款，寓情古昔，夫岂不怀，事与愿谢。君清襟素托，栖寄不近，中居人世，殆同隐沦。既俯拾青组，又脱屣朱黻。但理存用舍，义贵随时，往识祸萌，实为先觉，超然独善，有识钦嗟。今者为邦，贫贱咸耻，好仁由己，幸无凝滞。比别具白，此未尽言。今遣候承音息，矫首还翰，慰其引领。”胤不至。
永元年间，朝廷征召何胤为太常、太子詹事，他都不去就任。高祖设立霸府时，征召何胤为军谋祭酒，写信给他说：“想来你常清静安逸，纵情山林，足够快乐。既然内心断绝了争斗，外表又不受物役，以道养和，顺应时节没有差错。若邪山独擅东方之美，山川相连，前世嘉赏，是一片乐土。我辗转担任卑微官职，从东到西，畅谈往事，竟成暌隔，倾首东望，哪一天不怀念你？往昔欢乐的相遇，曳裾在儒门，真想卧游千载，研读百家，一旦做了官吏，这些事就违背了。适逢世道衰微，仍遭屯难，我投袂而起，平定祸乱。想得与你展卷咨问，寄情古昔，难道不怀念吗？但事与愿违。你清襟素志，栖寄不近世俗，身处人间，几乎如同隐沦。既已俯拾青绶，又脱履朱黻。但理有进退，义贵随时，往日能预见祸端，实为先觉，超然独善，有识之士都钦佩赞叹。如今治理国家，贫贱者都以此为耻，好仁由己，希望你不要迟疑。近来已分别陈述，这里不能尽言。现在派人等候你的消息，翘首期盼回信，以慰藉我的引领之望。”何胤没有去。
〔14〕高祖践阼，诏为特进、右光禄大夫。手敕曰：“吾猥当期运，膺此乐推，而顾己蒙蔽，昧于治道。虽复劬劳日昃，思致隆平，而先王遗范，尚蕴方策，息举之用，存乎其人。兼以世道浇暮，争诈繁起，改俗迁风，良有未易。自非以儒雅弘朝，高尚轨物，则汩流所至，莫知其限。治人之与治身，独善之与兼济，得失去取，为用孰多。吾虽不学，颇好博古，尚想高尘，每怀击节。今世务纷乱，忧责是当，不得不屈道岩阿，共成世美。必望深达往怀，不吝濡足。今遣领军司马王果宣旨谕意，迟面在近。”果至，胤单衣鹿巾，执经卷，下床跪受诏书，就席伏读。胤因谓果曰：“吾昔于齐朝欲陈两三条事，一者欲正郊丘，二者欲更铸九鼎，三者欲树双阙。世传晋室欲立阙，王丞相指牛头山云：‘此天阙也’，是则未明立阙之意。阙者，谓之象魏。县象法于其上，浃日而收之。象者，法也；魏者，当涂而高大貌也。鼎者神器，有国所先，故王孙满斥言，楚子顿尽。圆丘国郊，旧典不同。南郊祠五帝灵威仰之类，圆丘祠天皇大帝、北极大星是也。往代合之郊丘，先儒之巨失。今梁德告始，不宜遂因前谬。卿宜诣阙陈之。”果曰：“仆之鄙劣，岂敢轻议国典？此当敬俟叔孙生耳。”胤曰：“卿讵不遣传诏还朝拜表，留与我同游邪？”果愕然曰：“古今不闻此例。”胤曰：“《檀弓》两卷，皆言物始。自卿而始，何必有例。”果曰：“今君遂当邈然绝世，犹有致身理不？”胤曰：“卿但以事见推，吾年已五十七，月食四斗米不尽，何容得有宦情？昔荷圣王眄识，今又蒙旌贲，甚愿诣阙谢恩，但比腰脚大恶，此心不遂耳。”
梁高祖登基后，下诏任命何胤为特进、右光禄大夫。亲笔诏书说：“我侥幸承当此运，接受众人推举，但自视蒙蔽，不明治国之道。虽然每日辛劳到太阳偏西，想达到太平盛世，但先王遗范，尚在典籍之中，举用贤才，在于其人。加上世道浇薄，争诈繁起，改俗迁风，实在不易。除非以儒雅弘扬朝廷，以高尚规范事物，否则随波逐流，不知止境。治人与治身，独善与兼济，得失取舍，哪个用处更多？我虽不学，但颇好博古，向往高洁，常怀击节赞叹之情。如今世务纷乱，忧责在身，不得不委屈你出山，共同成就盛世之美。希望你深体往昔情怀，不吝屈身入仕。现在派领军司马王果宣旨谕意，盼你早日见面。”王果到后，何胤穿着单衣戴着鹿皮巾，手持经卷，下床跪着接受诏书，就座伏读。何胤于是对王果说：“我从前在齐朝想陈奏两三条事：一是想修正郊丘之礼，二是想重新铸造九鼎，三是想树立双阙。世人传说晋朝要立阙，王丞相指着牛头山说：‘这是天阙’，这就不明白立阙的意思。阙，叫做象魏。把法令悬挂在上面，十天之后收起来。象，就是法；魏，是当道高大的样子。鼎是神器，有国者先要重视，所以王孙满斥责楚子，楚子无言以对。圆丘和国郊，旧典不同。南郊祭祀五帝灵威仰之类，圆丘祭祀天皇大帝、北极大星。以往朝代把二者合并，是先儒的大失误。如今梁朝德业刚刚开始，不应沿袭前谬。你应该到朝廷陈奏。”王果说：“我鄙陋浅薄，怎敢轻议国家典制？这应当恭敬地等待像叔孙通那样的贤人。”何胤说：“你难道不能派传诏官回朝上表，留在这里与我同游吗？”王果惊愕地说：“古今没有听说过这样的先例。”何胤说：“《檀弓》两卷，都是讲事物的开端。从你开始，何必一定有先例。”王果说：“如今您真要远绝于世，还有致身朝廷的道理吗？”何胤说：“你只是以事相推，我年纪已五十七，每月吃四斗米都吃不完，哪里还有做官的心思？昔日承蒙圣王赏识，如今又蒙表彰，很愿到朝廷谢恩，只是近来腰脚很不好，这个心愿无法实现罢了。”
〔15〕果还，以胤意奏闻，有敕给白衣尚书禄，胤固辞。又敕山阴库钱月给五万，胤又不受。乃敕胤曰：“顷者学业沦废，儒术将尽，闾阎搢绅，鲜闻好事。吾每思弘奖，其风未移，当扆兴言为叹。本欲屈卿暂出，开导后生，既属废业，此怀未遂，延伫之劳，载盈梦想。理舟虚席，须俟来秋，所望惠然，申其宿抱耳。卿门徒中经明行修，厥数有几？且欲瞻彼堂堂，置此周行。便可具以名闻，副其劳望。”又曰：“比岁学者殊为寡少，良由无复聚徒，故明经斯废。每一念此，为之慨然。卿居儒宗，加以德素，当敕后进有意向者，就卿受业。想深思诲诱，使斯文载兴。”于是遣何子朗、孔寿等六人于东山受学。
王果返回后，把何胤的意思上奏，皇上下诏赐给他白衣尚书的俸禄，何胤坚决推辞。又下诏让山阴县库每月给钱五万，何胤也不接受。于是下诏给何胤说：“近来学业衰败，儒术将尽，民间士绅很少听说有好事。我常想弘扬奖励，但风气未变，对着屏风兴叹。本想委屈你暂时出山，开导后生，但既然学业荒废，这个心愿未能实现，期盼的辛劳，充满梦想。我已备好船只虚席以待，须等到来年秋天，希望你能惠然前来，实现你平素的抱负。你的门徒中经学明通品行端正的，有几人？我想看看那些堂堂之士，放在朝廷之中。你可以把他们的名字报上来，以慰劳望。”又说：“近年学者非常少，确实是因为没有聚徒讲学，所以明经之科荒废。每次想到这些，都为之慨叹。你位居儒宗，加上德素，应当下令后进中有志向的，到你那里受业。希望你能深思教诲，使斯文复兴。”于是派遣何子朗、孔寿等六人到东山从何胤学习。
〔16〕太守衡阳王元简深加礼敬，月中常命驾式闾，谈论终日。胤以若邪处势迫隘，不容生徒，乃迁秦望山。山有飞泉，西起学舍，即林成援，因岩为堵。别为小阁室，寝处其中，躬自启闭，僮仆无得至者。山侧营田二顷，讲隙从生徒游之。胤初迁，将筑室，忽见二人著玄冠，容貌甚伟，问胤曰：“君欲居此邪？”乃指一处云：“此中殊吉。”忽不复见，胤依其言而止焉。寻而山发洪水，树石皆倒拔，唯胤所居室岿然独存。元简乃命记室参军钟嵘作《瑞室颂》，刻石以旌之。及元简去郡，入山与胤别，送至都赐埭，去郡三里，因曰：“仆自弃人事，交游路断，自非降贵山薮，岂容复望城邑？此埭之游，于今绝矣。”执手涕零。
太守衡阳王萧元简对何胤深加礼敬，每月常备车驾到他的居所拜访，谈论终日。何胤因若邪山地方狭窄，不能容纳学生，便迁到秦望山。山上有飞泉，他在西边建起学舍，依凭树林为援，就着岩石作墙。另外建了小阁室，在其中寝处，亲自开关门窗，僮仆不得进入。在山侧营田二顷，讲学间隙与学生一起游玩。何胤刚迁居时，将要筑室，忽然看见两个人戴着黑色帽子，容貌很伟岸，问何胤说：“你想住在这里吗？”于是指着一处说：“这里很吉利。”忽然不见了，何胤依言在那里定居。不久山洪爆发，树木石头都被倒拔，只有何胤的居室岿然独存。元简于是命记室参军钟嵘作《瑞室颂》，刻石表彰。等到元简离郡，入山与何胤告别，何胤送他到都赐埭，离郡城三里，于是说：“我自从弃绝人事，交游断绝，除非你降贵到山野，否则岂能再望见城邑？这次埭上游玩，从此断绝了。”拉着手流泪。
〔17〕何氏过江，自晋司空充并葬吴西山。胤家世年皆不永，唯祖尚之至七十二。胤年登祖寿，乃移还吴，作《别山诗》一首，言甚凄怆。至吴，居虎丘西寺讲经论，学徒复随之，东境守宰经途者，莫不毕至。胤常禁杀，有虞人逐鹿，鹿径来趋胤，伏而不动。又有异鸟如鹤，红色，集讲堂，驯狎如家禽焉。
何氏家族过江后，从晋司空何充开始都葬在吴地西山。何胤家族世代寿命都不长，只有祖父何尚之活到七十二岁。何胤活到祖父的年龄时，便移居回吴地，作了一首《别山诗》，言辞非常凄怆。到了吴地，住在虎丘西寺讲经论，学生又跟着他，东部地区的守宰经过此处，没有不来的。何胤常禁杀生，有个猎户追赶鹿，鹿直接跑到何胤面前，伏着不动。又有一种像鹤的异鸟，红色，聚集在讲堂，驯顺如同家禽。
〔18〕初，开善寺藏法师与胤遇于秦望，后还都，卒于钟山。其死日，胤在般若寺，见一僧授胤香奁并函书，云“呈何居士”，言讫失所在。胤开函，乃是《大庄严论》，世中未有。又于寺内立明珠柱，乃七日七夜放光，太守何远以状启。昭明太子钦其德，遣舍人何思澄致手令以褒美之。
当初，开善寺的藏法师与何胤在秦望山相遇，后来回都城，死在钟山。他死的那天，何胤在般若寺，看见一个僧人送给何胤一个香奁和函书，说“呈给何居士”，说完就不见了。何胤打开函书，原来是《大庄严论》，世间没有的。又在寺内立了明珠柱，竟七日七夜放光，太守何远把情况上报。昭明太子钦佩他的德行，派舍人何思澄送去手令褒美他。