贞观十五年，遂良迁任谏议大夫，兼任起居事，太宗曾经问他说：“你担任起居，记录什么事，大概人君能够看到它吗？”遂良回答说：“现在的起居，就是古代的左右史，写人君的言行事迹，而 且记录善恶，作为鉴戒，也许可以令人主不做非法的事，没有听说帝王亲自看史的。”太宗说：“朕有不好的事。你也必定记下它吗？”遂良说：“遵守道德不如遵守自己的职责，臣的职责应当记载笔录，君王的举动必定记下来。”
贞观十八年(644)，拜遂良为黄门侍郎，参与总揽朝政。…遂良前后谏奏及陈有利于治国，合乎时宜的建议数十以上，多被太宗采纳。贞观二十一年(647)，遂良以本官的身份检校大理卿，不久为父亲居丧期满。第二年，起用他恢复旧职，接着被拜为中书令。
贞观二十三年(649)，太宗病危，召遂良及长孙无忌进入他的卧室，对他们说“：你们忠直刚烈，朕都记在心里。从前汉武帝委托霍光，刘备委托诸葛亮，朕的后事一切都委托你们。太子仁义忠孝，是你们全都知道的，必须竭诚尽力辅佐太子，永远保住宗庙社稷。”又回头对太子说：“无忌、遂良在，国家的事，你不用担心了。”于是命遂良草拟诏书。
高宗即位后，赐遂良河南县公的爵位。
永徽六年(655)，高宗准备废黜王皇后，册立昭仪武氏则天为皇后，召太尉长孙无忌、司空李责力、及遂良一起策划这事。遂良说：“皇后出自名家，先朝的时候所娶，服侍先帝，妇德没有过失。先帝没有犹豫，拉着陛下的手，对臣说过这话：‘我好儿好妇，现在准备托付给你。’陛下亲耳听到先帝的善言，言犹在耳。皇后从此没有听说有过失，恐怕不能废黜。臣今天不敢曲从，上违先帝的遗命，只希望请陛下再三思考审察。愚臣触犯了圣上的尊严，罪该万死，只愿不辜负先朝的厚恩，哪里还顾性命。”遂良把上朝时执的手板放到殿前的台阶上，说：“还陛下这个手板。”多次解下头巾叩头流血。高宗大怒，命令带遂良出殿。长孙无忌说：“遂良受先朝遗诏为顾命大臣，即使有罪也不宜施加刑法。”第二天，高宗才册立昭仪为皇后，降任遂良为潭州都督。显庆二年(657)，转任桂州都督。没有多久，又被贬为爱州刺史，第二年，遂良死在任上，终年六十三岁。
本文来源：http://www.010zaixian.com/gushiwen/guji/647995.htm