〔1〕羊祜，字叔子，泰山南城人也。世吏二千石，至祜九世，并以清德闻。祖续，仕汉南阳太守。父衟，上党太守。祜，蔡邕外孙，景献皇后同产弟。祜年十二丧父，孝思过礼，事叔父耽甚谨。尝游汶水之滨，遇父老谓之曰：“孺子有好相，年未六十，必建大功于天下。”既而去，莫知所在。及长，博学能属文，身长七尺三寸，美须眉，善谈论。郡将夏侯威异之，以兄霸之子妻之。举上计吏，州四辟从事、秀才，五府交命，皆不就。太原郭奕见之曰：“此今日之颜子也。”与王沈俱被曹爽辟。沈劝就征，祜曰：“委质事人，复何容易。”及爽败，沈以故吏免，因谓祜曰：“常识卿前语。”祜曰：“此非始虑所及。”其先识不伐如此。
羊祜，字叔子，是泰山郡南城县人。他家世代担任二千石级别的官职，到羊祜已经是第九代，都以清廉的德行闻名。祖父羊续，曾任汉朝南阳太守；父亲羊衟，曾任上党太守。羊祜是蔡邕的外孙，景献皇后的同母弟弟。羊祜十二岁时父亲去世，他守孝超过礼制，侍奉叔父羊耽非常恭敬。他曾在汶水边游玩，遇到一位老人对他说：“这孩子有富贵相，不到六十岁，一定会在天下建立大功。”说完就离开了，不知道去了哪里。等到长大，羊祜博学多才，善于写文章，身高七尺三寸，眉毛胡须长得好看，善于言谈。郡将夏侯威认为他不同寻常，把哥哥夏侯霸的女儿嫁给他。他被举荐为上计吏，州里四次征召他做从事、秀才，五府都征召他，他都不去就任。太原郭奕见到他说：“这是当今的颜回啊。”他和王沈一起被曹爽征召。王沈劝他应征，羊祜说：“委身去侍奉别人，谈何容易。”等到曹爽失败，王沈因为曾是旧部被免职，于是对羊祜说：“我常常记得你以前说的话。”羊祜说：“这也不是我当初能预料到的。”他就是这样有先见之明而不自夸。
〔2〕夏侯霸之降蜀也，姻亲多告绝，祜独安其室，恩礼有加焉。寻遭母忧，长兄发又卒，毁慕寝顿十余年，以道素自居，恂恂若儒者。
夏侯霸投降蜀汉时，他的姻亲大多与他断绝关系，只有羊祜独自安抚他的家人，恩惠和礼遇更加周到。不久羊祜遭遇母亲去世，大哥羊发也去世了，他哀伤过度，卧床不起十多年，以清贫淡泊自守，谦恭谨慎像个儒生。
〔3〕文帝为大将军，辟祜，未就，公车征拜中书侍郎，俄迁给事中、黄门郎。时高贵乡公好属文，在位者多献诗赋，汝南和逌以忤意见斥，祜在其间，不得而亲疏，有识尚焉。陈留王立，赐爵关中侯，邑百户。以少帝不愿为侍臣，求出补吏，徙秘书监。及五等建，封钜平子，邑六百户。钟会有宠而忌，祜亦惮之。及会诛，拜相国从事中郎，与荀勖共掌机密。迁中领军，悉统宿卫，入直殿中，执兵之要，事兼内外。
文帝司马昭担任大将军时，征召羊祜，他没有去。后来朝廷用公车征召他，任命为中书侍郎，不久升任给事中、黄门郎。当时高贵乡公曹髦喜欢写文章，在位的官员多献上诗赋，汝南人和逌因为违背旨意被斥退，羊祜在这群人中间，既不亲近也不疏远，有识之士都推崇他。陈留王曹奂即位后，赐给羊祜关中侯的爵位，食邑一百户。因为少帝不愿意做侍臣，羊祜请求外出补任地方官，改任秘书监。等到五等爵制建立，他被封为钜平子，食邑六百户。钟会得到宠幸而嫉妒他人，羊祜也忌惮他。等到钟会被诛杀，羊祜被任命为相国从事中郎，与荀勖共同掌管机密。升任中领军，统领所有禁卫军，入宫值班，掌握兵权要务，兼管内外事务。
〔4〕武帝受禅，以佐命之勋，进号中军将军，加散骑常侍，改封郡公，邑三千户。固让封不受，乃进本爵为侯，置郎中令，备九官之职，加夫人印绶。泰始初，诏曰：“夫总齐机衡，允厘六职，朝政之本也。祜执德清劭，忠亮纯茂，经纬文武，謇謇正直，虽处腹心之任，而不总枢机之重，非垂拱无为委任责成之意也。其以祜为尚书右仆射、卫将军，给本营兵。”时王佑、贾充、裴秀皆前朝名望，祜每让，不处其右。
晋武帝司马炎接受禅让登基，因为羊祜有辅佐创业的功劳，晋升他为中军将军，加官散骑常侍，改封为郡公，食邑三千户。羊祜坚决推让封爵不接受，于是晋升他原来的爵位为侯，设置郎中令，配备九卿的官职，加赐夫人印绶。泰始初年，皇帝下诏说：“总揽朝政机要，妥善处理六曹事务，这是朝政的根本。羊祜品德高尚，忠诚正直，文才武略兼备，刚正不阿，虽然身处心腹之任，却没有总管枢机要务，这不符合我垂拱无为、委任责成的本意。任命羊祜为尚书右仆射、卫将军，配给本营的兵力。”当时王佑、贾充、裴秀都是前朝有名望的大臣，羊祜常常谦让，不居于他们之上。
〔5〕帝将有灭吴之志，以祜为都督荆州诸军事、假节，散骑常侍、卫将军如故。祜率营兵出镇南夏，开设庠序，绥怀远近，甚得江汉之心。与吴人开布大信，降者欲去皆听之。时长吏丧官，后人恶之，多毁坏旧府，祜以死生有命，非由居室，书下征镇，普加禁断。吴石城守去襄阳七百余里，每为边害，祜患之，竟以诡计令吴罢守。于是戍逻减半，分以垦田八百余顷，大获其利。祜之始至也，军无百日之粮，及至季年，有十年之积。诏罢江北都督，置南中郎将，以所统诸军在汉东江夏者皆以益祜。在军常轻裘缓带，身不被甲，铃阁之下，侍卫者不过十数人，而颇以畋渔废政。尝欲夜出，军司徐胤执棨当营门曰：“将军都督万里，安可轻脱！将军之安危，亦国家之安危也。胤今日若死，此门乃开耳。”祜改容谢之，此后稀出矣。
皇帝有灭吴的志向，任命羊祜为都督荆州诸军事、假节，散骑常侍、卫将军的职务不变。羊祜率领营兵出镇南方夏口，开办学校，安抚远近百姓，深得江汉地区的人心。他对吴人广施信义，投降的人想离开的也都听任他们。当时地方长官去世，继任者厌恶旧官署，大多毁坏旧府，羊祜认为死生有命，不在于房屋，于是下文到各征镇，普遍禁止这种做法。吴国石城守军距离襄阳七百多里，经常成为边境祸害，羊祜很忧虑，最终用计谋让吴国撤除了守军。于是边境巡逻的士兵减少一半，分出来垦田八百多顷，获得很大收益。羊祜刚到时，军中只有不到百天的粮食，到了后期，已经有十年的积蓄。皇帝下诏撤销江北都督，设置南中郎将，把原来统领的在汉东江夏的各军都划归羊祜。他在军中经常穿着轻暖的皮衣，系着宽缓的带子，身上不披铠甲，在铃阁之下，侍卫不过十几个人，却常常因为打猎捕鱼而荒废政务。他曾想夜里外出，军司徐胤拿着戟挡在营门口说：“将军都督万里之遥，怎能这样轻率！将军的安危，也就是国家的安危。今天我徐胤如果死了，这门才能打开。”羊祜改变脸色向他道歉，此后很少外出了。
〔6〕后加车骑将军，开府如三司之仪。祜上表固让曰：“臣伏闻恩诏，拔臣使同台司。臣自出身以来，适十数年，受任外内，每极显重之任。常以智力不可顿进，恩宠不可久谬，夙夜战悚，以荣为忧。臣闻古人之言，德未为人所服而受高爵，则使才臣不进；功未为人所归而荷厚禄，则使劳臣不劝。今臣身托外戚，事连运会，诫在过宠，不患见遗。而猥降发中之诏，加非次之荣。臣有何功可以堪之，何心可以安之。身辱高位，倾覆寻至，愿守先人弊庐，岂可得哉！违命诚忤天威，曲从即复若此。盖闻古人申于见知，大臣之节，不可则止。臣虽小人，敢缘所蒙，念存斯义。今天下自服化以来，方渐八年，虽侧席求贤，不遗幽贱，然臣不尔推有德，达有功，使圣听知胜臣者多，未达者不少。假令有遗德于版筑之下，有隐才于屠钓之间，而朝议用臣不以为非，臣处之不以为愧，所失岂不大哉！臣忝窃虽久，未若今日兼文武之极宠，等宰辅之高位也。且臣虽所见者狭，据今光禄大夫李憙执节高亮，在公正色；光禄大夫鲁芝洁身寡欲，和而不同；光禄大夫李胤清亮简素，立身在朝，皆服事华发，以礼终始。虽历位外内之宠，不异寒贱之家，而犹未蒙此选，臣更越之，何以塞天下之望，少益日月！是以誓心守节，无苟进之志。今道路行通，方隅多事，乞留前恩，使臣得速还屯。不尔留连，必于外虞有阙。匹夫之志，有不可夺。”不听。
后来加封羊祜为车骑将军，开府仪同三司（享受与三公相同的礼仪）。羊祜上表坚决推辞说：“我恭敬地看到恩诏，提拔我使之与三公同列。我自从出仕以来，才十多年，在外在内任职，常常担任极显要重要的职务。我常认为智力不能一下子提高，恩宠不能长期错受，日夜战战兢兢，把荣耀当作忧虑。我听说古人的话，德行没有被人们佩服却接受高爵，就会使有才能的臣子不愿进取；功劳没有被人们归服却享受厚禄，就会使劳苦的臣子得不到鼓励。如今我身为外戚，事情又逢时运，应当警惕的是过分受宠，不担心被遗忘。但陛下却降下发自内心的诏书，加给我超越等级的荣耀。我有什么功劳可以担当，有什么心思可以安心。身居高位而受辱，倾覆很快就会到来，我宁愿守护先人的破旧房屋，难道能办到吗！违抗命令确实忤逆天威，但顺从了就会像这样。我听说古人被知己者重用，大臣的节操，不行就停止。我虽然是小人，但敢凭借所受的恩遇，心中存有这种道义。现在天下自从归顺教化以来，才将近八年，虽然陛下侧席求贤，不遗漏隐僻贫贱的人，但我不能推举有德之人，荐达有功之人，使陛下知道比我强的人很多，没有被发现的人也不少。假如有遗落在版筑之下的贤德，有隐藏在屠夫渔夫之间的人才，而朝廷议论用我不认为不对，我身处其位也不觉得惭愧，那损失难道不大吗！我愧居官位虽然很久，但不如现在兼有文武的极宠，等同于宰辅的高位。况且我虽然见识狭窄，但如今光禄大夫李憙节操高尚，在朝廷公正严明；光禄大夫鲁芝洁身自好，清心寡欲，和睦而不苟同；光禄大夫李胤清亮简朴，立身朝中，都服务到头发花白，以礼始终。他们虽然历任内外官职，受宠却不异于寒贱之家，却还没有蒙受这样的选拔，我反而超越他们，凭什么来满足天下的期望，稍微增益日月的光辉！因此我发誓坚守节操，没有苟且进升的志向。如今道路通畅，边境多事，请求收回先前的恩命，让我能迅速返回驻地。如果不能这样拖延，必然对边境外患有所缺失。匹夫的志向，是不能被夺走的。”皇帝没有听从。
〔7〕及还镇，吴西陵督步阐举城来降。吴将陆抗攻之甚急，诏祜迎阐。祜率兵五万出江陵，遣荆州刺史杨肇攻抗，不克，阐竟为抗所擒。有司奏：“祜所统八万余人，贼众不过三万。祜顿兵江陵，使贼备得设。乃遣杨肇偏军入险，兵少粮悬，军人挫衄。背违诏命，无大臣节。可免官，以侯就第。”竟坐贬为平南将军，而免杨肇为庶人。
等到羊祜回到驻地，吴国西陵督步阐率全城来投降。吴将陆抗猛烈地攻打他，皇帝下诏让羊祜迎接步阐。羊祜率兵五万从江陵出发，派荆州刺史杨肇攻打陆抗，没有取胜，步阐最终被陆抗擒获。有关部门上奏说：“羊祜统领八万多人，敌军不过三万。羊祜在江陵按兵不动，使敌人得以设置防备。又派杨肇这支偏师进入险地，兵少粮缺，军队受挫。违背诏命，没有大臣的节操。应该免去他的官职，以侯爵的身份回家。”最终羊祜因此被贬为平南将军，而杨肇被免为平民。