太宗想亲自去征讨辽东，此事就遭到了褚遂良的坚决反对，但是太宗强硬的态度却使褚遂良感到恐惧，他没有再坚持，并跟随唐太宗远征辽东，但是后来事态的发展，证实了褚遂良的话是对的。
贞观十八年，作为黄门侍郎的褚遂良开始参预朝政。随后，他被太宗派往全国各地，巡察四方，直接可以黜涉官吏。正在此时，他父亲褚亮死了，他不得不暂时辞去黄门侍郎之职。
其后房玄龄病故，经由杜睿的推荐，褚遂良才被起复，一跃成为了尚令，或许褚遂良的政治敏锐度，照比杜睿要差很多，但是褚遂良的为人，他的耿直，确实杜睿都要自叹不如的，这样一个人担任宰相的职位，可以起到规劝君主，统驭百官的职司。
在原本的历史上，当太宗在病重，弥留之际，将长孙无忌与褚遂良召入卧室，对二人说：“卿等忠烈，简在朕心。昔汉武寄霍光，刘备托诸葛，朕之后事，一以委卿。太子仁孝，卿之所悉，必须尽诚辅佐，永保宗社。”
他又对当时任太子的李治说：“无忌、遂良在，国家之事，汝无忧矣。”
于是命令褚遂良起草诏。
八年后，被黜的褚遂良写给高宗的信中曾提到：“当受遗诏，独臣与无忌二人在，陛下方草土号恸，臣即奏请即位大行柩前。当时陛下手抱臣颈，臣及无忌请即还京，发于大告，内外宁谧。”事实也确是如此，高宗登上皇位，褚遂良功莫大焉！
贞观二十三年阴历六月，李治继皇帝位，年仅二十一岁。高宗即位后，就封褚遂良为河南县公，次年，又升为河南郡公。
但是在实际上，李治可能并不喜欢褚遂良这位托孤大臣，所以后来借故把他贬为同州刺史，可三年后，高宗又把他召回身边，征拜为吏部尚，同时监修国史，加光禄大夫，又兼为太子宾客。随后又升为尚右仆射，执掌朝政大权。
在高宗统治初期，李治刻意效仿太宗的所做所为，褚遂良他们确实取得了一些可观的成就。但是，不久，他和胆小懦弱的高宗皇帝一起，正面对着一个更为强大、机敏和肆无忌惮的对手武媚娘，在这场权力斗争中，他们都成了失败者。
在公元640年，只有十几岁的武媚娘进入后宫，成为太宗的“才人”。她的美貌与才情不仅得到了年老的太宗的喜爱，似乎在同时也得到了年轻的太子的爱情。太宗死后，公元654年左右，曾经一度削发为尼的武媚娘成为李治的妃嫔，并被封为“昭仪”，得到高宗的宠信，也得到一些大臣的支持。
在是否立武昭仪为皇后的斗争中，褚遂良与另一位元老重臣长孙无忌强烈反对任何废黜王皇后的企图。
根据新、旧《唐褚遂良传》的记载，高宗召太尉长孙无忌、司空李绩、尚左仆射于志宁以及褚遂良进官商议废后立后之事。
褚遂良发了一通议论，给皇帝泼了一瓢冷水。而他的那种不要命的态度，将官笏放在台阶上，同时也把官帽摘下，叩头以致于流血，更使皇帝大为恼火，让士兵把他强行拉了出去。
而坐在皇帝后边的武媚娘则恨不得立刻将他处死。在关键的时候，善于迎合旨意的李绩却说了一句话：“此乃陛下家事，不合问外人。”
这一来既改变了唐王朝的命运，也将褚遂良等人推入了悲剧的深渊。
这场斗争，在中国历史上有着举足轻重的关系。根据后世陈寅恪的研究，对立的两派，分别代表了不同地区的贵族利益集团。
李唐家族从兴起之时，就与集中于中国西北地区的许多大家族建立婚姻纽带，形成所谓“关陇集团”，而他们自西魏以来，就已在北方形成统治阶级的核心。
像反对废后的长孙无忌、褚遂良、韩瑗等人，便是关陇集团中的成员。而支持武则天的那一帮人，却出身于其他地区，或是商人，或通过科举制度而进入官场，他们是被称之为“山东集团”的成员。
这样，武则天与王皇后之间的争斗，就不仅仅是宫廷内部的简单争斗，而是反映了两个政治集团之间争夺最高政治权力之间的斗争。
此后，武媚娘终于还是被册封为皇后，褚遂良也被新皇后赶出朝廷，到潭州任都督。第二年元旦，武后的儿子李弘被立为太子。
新册封的皇后，不失时机地向反对她的人进行打击报复。王皇后与萧淑妃被残忍地害死了。褚遂良被调到离京师极远的今广西的一个州去任都督。而同年晚些时候，武媚娘则与许敬宗、李义府一起，诬告中令来济、门下侍中韩缓与在广西的褚遂良共谋反叛。
晚年的褚遂良又一次被贬，这一次是被贬到中国本土以外的越南河内西南一带，褚遂良在绝望之中，写了一封信给高宗，向他求情诉说自己曾长期为高祖与太宗效劳，最坚决的支持高宗继位等等，结果仍是无济于事。
公元659年，禇遂良在流放之中孤独地死去，时年六十三岁，在他死后的两年多时间里，武媚娘等人还没有放过他，一方面把他的官爵削掉，另一方面把他的子孙后代也流放到他死的地方。
直到神龙元年，褚遂良死后四十六年，他才得到了平反，天宝六年，他作为功臣，得以配祀于高宗庙中，德宗贞元五年，皇帝下诏，将褚遂良等之上，以示他与唐