王允为了稳定政局，消除混乱，王允和朝中其他忠臣良将一道出谋划策，重新树立皇帝的绝对权威。
公元191年「初平二年」，董卓封王允为温侯，食邑五千户。王允想拒绝，士孙瑞对他说:“在大事没成功之前，不能有丝毫破绽，您与董卓加官进爵，朝廷百官都瞻仰您的崇高品节，何乐而不为呢?不要因意气而误了大事啁!“王允一听有道理，便受命听封。
公元192年「初平三年」春天，天下遭受严重的自然灾害，连续下了两个多月的雨。王允和士孙瑞、杨瓒等人借登台祭祀乞神降雨之机，紧急商议谋杀董卓的行动方案。士孙瑞严肃地对他们说:“自从去年岁末以来，太阳阴晦不照，淫雨连绵不断，这种暗无天日的日子应该有个尽头。现在我们时机已基本成熟，如果不把握天机，先发制人，恐怕以后后患无穷啊!请你们认真考虑考虑。“王允很赞同士孙瑞的意见，决定伺机尽早行动，以图董卓。可是，董卓爪牙密布，戒备森严，而且他本人力大无比，凶残毒辣，如果不采取万全之策，一旦失手，恐怕后果难以设想。王允提议，可以安插内应，里应外合，杀他个措手不及。王允获悉董卓与他的心腹吕布之间存在很深的矛盾，便秘密召见吕布。正好吕布也有反董卓之意。
于是，王允便把诛杀董卓的计划全部告诉吕布，并委他作内应。起初，吕布碍于自己是董卓的义子，不便在内部亲自下手。王允对吕布说:“你姓吕，奸贼姓董，父子只是名义上的，并非骨肉亲情，况且董卓现在已是众叛亲离，你难道还认贼作父吗“吕布与董卓爱妾私通，怕董卓发现报复，于是便答应下来。
这年四月，正当王允等人准备采取行动的时候，正逢天子大病初愈。朝廷百官在未央宫集合，恭祝天子龙体安康。事前，吕布派同郡骑都尉李肃等人带领十多名心腹亲兵，穿上宫廷侍卫的服装，潜伏在宫殿侧门两边。当董卓大摇大摆地出现在侧门外时，立即遭到潜伏在门后的李肃等人的突然袭击。董卓急呼吕布，吕布手捧圣旨，大呼:“奉旨杀贼!“董卓在绝望中被吕布所杀，并且株连三族。
董卓被杀，朝廷上下一片欢腾。董卓祸国殃民的行径，激起了天下人们的极度痛恨，铲除董卓，不仅顺应时代潮流，而且合乎天下民心。它的意义不仅仅只在于谋杀董卓一名国奸臣，而且还深刻影响着东汉末年的历史进程。司徒王允，用自己对朝廷的赤诚和一身正气赢得了铲除董卓斗争的胜利和世人的称赞。
董卓被杀后，王允“录尚书事，总朝政，遣使张种抚慰山东“。
董卓死后，王允在如何安排和处理他的旧部时，反复无常，态度极不慎重，而这正是王允最后走向灭亡的最重要和最直接的原因。他先是想全部赦免董卓的部下，可继而又对群臣解释说:“本来，他们是没有罪的，只是身不由己，跟随董卓，所以不得已听从董卓差遣，犯了错误。现在如果给他们突然加上恶逆的罪名，而且特定赦免他们，恐怕反而使他们猜疑恐惧，心理承受不了，所以，赦免他们无罪不是使他们安心的上上之策，还不如让他们承受惩罚。“凉州兵是董卓的嫡系部队，战斗力强，而且对董卓最忠心。董卓死后，如何处置凉州兵，是关系王允本人和东汉政权的大事。王允企图削夺凉州兵将领的兵权，取缔全部凉州兵，并且计划利用关东兵去控制他们。可是后来有人对王允说:“凉州兵素来害怕袁绍，畏惧关东兵，而今，如果派关东兵去解散他们，凉州兵人人都会担心性命不保，这样，很容易引起兵变和混乱。还不如任命皇甫嵩「字义真」为将军，去担任凉州兵的统帅，并让他长期留在那儿，以便安抚军心。“王允坚决反对:“这样绝对不行，关东兵是反董卓的义兵，与我们是同一条路线，现在董卓已死，如果继续把他们屯驻在险恶之地，虽然安抚了凉州兵，但是关东兵将领会疑心我们不重视他们。“
凉州百姓听到王允想解散凉州兵的风声后，便到处传言，说王允要杀掉所有凉州人，一时之间，整个凉州人心惶惶，一片惊慌。凉州兵将领本来就成了惊弓之鸟，对自己的前途深感忧虑，当他们得知王允要削夺他们的军权，解散凉州兵的消息后，更是惊慌。绝望的凉州兵寻思:反正是一死，不如死个痛快。于是他们迅速召集军队，严阵以待，准备见机起事，并且互相传告:蔡邕只不过受了董卓的一点厚遇而已，王允便不分青红皂白地把他杀了。对于我们，不仅没有丝毫赦免的意思，反而想剥夺我们的兵权，置我们于死地。我们除了联合起来，别无选择。
当时，凉州军中最有影响和实力的将领是李傕和郭汜。他们将所有凉州兵集合起来，誓师进发都城长安。东汉官兵不堪一击，不久，李傕、郭汜的部队便攻陷长安。吕布慌忙领兵出逃，在青锁门停住，招呼王允一同逃走。王允断然拒绝，对吕布说:“如果天子祖先在天有灵，能赐福社稷，保佑我们的国家平安无事，我就心满意足了。如果这一愿不能实现，我愿意献出自己的生命，以死来报效朝廷。皇上年纪幼小，少不更事，只能靠我们来辅助他。国家遭受如此灾难，如果弃下皇上，只顾自己逃命，我实在是不忍心。况且，我身为宰相，不仅不能使国家平安无事，反而导致逆贼的反叛，我的责任重大啊!请你出城以后，多多鼓励关东