北宋至道年间，宋太宗自觉身体大不如前，打算给太子找个好宰相，以保证政权平稳过度。当时的宰相是宋太宗钦点的状元吕蒙正，本是个相当不错的人选。但宋太宗心中却另有一人，即时任参知政事的吕端。
和吕蒙正、寇准这些科举出身的能臣相比，吕端有先天的不足：他是荫补为官，不是科举进士。吕端生于公元935年，赵匡胤于960年发动陈桥兵变之时，他已经25岁，且在后周担任清要职务（著作佐郎、直史馆）。入宋后，大宋朝实行以文臣出知州县政策，吕端先后受命担任过知县、通判、知州、知府等职务，仕途似乎还算顺畅（时其兄呂余庆任宰相）。这个时期，史书对他的评价是“为政清简，远人便之”，也就是清静无为，为政不繁琐，当地百姓都很认可他。
吕端的才华得到不少朝臣认可，最突出的莫过于寇准。寇准是太平兴国三年进士，论年龄比吕端小得多（寇准961年生人，比吕端小26岁），年轻气盛，是个恃才傲物的主儿。有关史料记载，寇准曾向太宗推荐过吕端，说他“器识非常”，希望能早日重用他（这是吕端对晚辈寇准一再容让的原因）。但宋太宗很不以为然：“我知道这个人，是个大家子弟，能吃能喝，没什么能耐！”
多年以后，当宋太宗打算任命吕端为相，听到“吕端为人糊涂”的反对声时，太宗却回答：“端小事糊涂，大事不糊涂。”与此前的说法截然相反。后人论及“吕端大事不糊涂”，多引“礼让寇准”、“力保李（继迁）母”、“机智应变（保宋真宗即位）”等事例为证，其实那都是吕端成名以后的事情了。那么，究竟是什么原因，使宋太宗对吕端的看法发生如此大的转变呢？我以为，宋太宗看重吕端，与他两次犯错误的经历有关。
第一次犯错误，是在太平兴国五年，吕端首次担任开封府判官之时。赵光义即位后，因有“兄终弟及”之说，便以四弟赵廷美为齐王（太平兴国四年改秦王）、开封府尹兼中书令，等于向天下宣告赵廷美为准皇储，以平众议。太平兴国三年，吕端从“司门员外郎、知成都府”任上调回，担任“考功员外郎，充开封府判官。”员外郎只是寄禄官（正七品），论级别算是平调。但“开封府判官”却是个很有前途的职位。宋初，赵光义以准皇储尹开封，为一品大员，位在宰相之上。因为是准皇储，只是挂名尹京，故有判官、推官、府院、六曹等属吏替其分理庶务。开封府判官为开封府尹的主要僚佐，地位远在普通的节度判官（从八品）之上，将来晋升机会也大得多。宋太宗尹开封时的判官为程羽，太宗即位后，马上拜为给事中（正五品）、知开封府，后为文明殿学士、兵部侍郎。
赵廷美是亲王，按律可以自辟僚属。因为宋太宗并不看好吕端，吕端任开封府判官很可能是赵廷美的意思。从历史记载看，吕端对赵廷美也算是尽心尽力，为他出了一些好主意。《宋史。吕端传》记载：太平兴国四年（979年）正月，宋太宗率师征讨河东（北汉政权），命赵廷美留守京城，赵廷美欣然应命。吕端劝谏赵廷美说：“主上栉风沐雨，以申吊伐，王地处亲贤，当表率扈从。”他建议赵廷美恳求皇帝收回成命，随军护驾。赵廷美依计而行，宋太宗非常高兴，马上派亲信兼判开封府事。
老到的吕端深知，当下皇帝最不放心的就是眼前这位准皇储兄弟，跟着他早晚要大祸临头。于是，吕端犯了一个很低级的错误：接受王府亲吏乔琏的请托，将王府私自贩运的的秦、陇竹木高价卖予官府（三司），为王府牟取暴利。这件事在当时影响挺大，牵涉到十几个达官显贵，后来都受到了处罚。其中吕端只是向主管官员打过招呼，没有个人利益夹杂在里面。虽然不涉及大的原则性问题，但毕竟违反了国家律令。吕端因此案被贬为商州司户参军（从九品），离开了让他心惊肉跳的京城。这是太平兴国五年八月的事情。
太平兴国七年三月，赵廷美被诬阴谋作乱，罢去开封府尹职务。四月，群臣上奏亲王赵廷美“顾望咒诅，大逆不道，宜行诛灭，以正刑章”。宋太宗法外开恩，赵廷美被降为涪陵县公，迁往房州安置（两年后死在那里，年仅38岁）。他的王府亲吏被全部处斩，并籍没家产。开封府属官也被悉数罢免，贬斥远方。吕端因为犯错误，躲过了一劫。
说来也巧，吕端第二次犯错误，也是在开封府推官的任上。解决了赵廷美，宋太宗开始着力培养自己儿子接班。长子赵元佐天资聪明，善骑射，而且长得很像赵光义，原是皇储的不二人选。但是赵元佐对父亲谋害四叔赵廷美极为不满，忧愤过度以致精神分裂，退出了皇位的争夺。这样，次子赵元僖遂成为储君的最主要人选。雍熙二年（985年），宋太宗任命赵元僖为开封府尹兼侍中，进封许王，成为准皇储。此时，吕端因在地方政绩突出，已经回京升任右谏议大夫（从四品）。宋太宗让吕端屈就开封府判官，可能看中他老成持重，也有为将来的政府储备人才的意思。然而淳化三年（992年）11月，赵元僖上早朝时突发急症，回府后就不治身亡，年仅27岁。
