杨乃武，同治举人，饱读诗书，才华横溢，当时流传“天下文章数浙江，浙江文章数余杭”，而杨乃武的文章又被公认为余杭第一。杨乃武为人刚正不阿，常喜打抱不平，为贫穷百姓写诉状，帮助受欺负的百姓对付恶霸贪官，因而得罪了很多权贵，被他们怀恨在心。
小白菜本名毕秀姑，因容貌俏丽，又喜欢穿白衣绿裤，故人送绰号“小白菜”，后嫁给葛小大，又称葛毕氏。小白菜是杨家帮佣，生性活泼，素来跟杨乃武很谈的来，杨乃武经常教她识字读书。
婚后葛小大在县城豆腐店干活，小白菜仍然不避讳和杨乃武的来往，如此一来，邻里间便有了“羊吃白菜”的说法。日子久了，葛小大也起了疑心，但抓不住两人把柄，只好拿打骂小白菜来消气。后来，葛小大突然因病暴死，但“口鼻流血”。
余杭知县刘锡彤的儿子刘子和早就垂涎小白菜的美色，他趁机挑唆葛小大的母亲葛喻氏：口鼻流血，怕是中毒身亡。葛喻氏因平日也见小白菜与杨乃武过往甚密，故信而不疑，当即报官。
知县刘锡彤当即带领仵作和衙役前去验尸。按照当时的鉴定理论，如果经皂角水擦洗的银针刺入尸体，银针变黑，则说明死者系中毒身亡。而仵作沈祥忙乱中却用未经皂角水擦洗的银针刺入尸体，结果银针变黑，且死者口鼻内有淡血水流入眼耳，腹部有大泡十余个。根据多年经验，沈祥断定葛小大是中毒而死。
刘锡彤对“羊吃白菜”的传言早有耳闻，况且对爱打抱不平的杨乃武早有不满，此刻一听是“中毒身亡”，立刻联想到情杀上。他当即派人把小白菜抓到县衙，逼她说出毒害丈夫的实情。
小白菜大喊冤枉，刘锡彤厉声质问她和杨乃武的关系，得到的回答是杨乃武对葛小大的死并不知情。见小白菜嘴硬，过于自信的刘锡彤决定刑讯逼供。最终，在拶刑、用烧红的铁丝刺双乳、用滚烫的锡水浇背等酷刑的折磨下，小白菜招认了和杨乃武串通毒害亲夫的“实情”。
刘锡彤大喜，当即派人骗杨乃武归案。杨乃武一头雾水，矢口否认，并明确表示案发时间他不在余杭，有大批亲友可为他作证。按《大清律例》：有举人功名者，依律不能上刑。刘锡彤无奈，只好先将杨乃武押入大牢。
第二天一早，他就向杭州知府陈鲁报告此事，请求革去杨乃武举人身份。陈鲁见事关重大，立即呈报给浙江巡抚杨昌浚，由杨昌浚呈报朝廷。
在朝廷批文还未到达之前，杨家人打听到是小白菜供出杨乃武，并称十月初五杨乃武亲自交给她砒霜等等，就联合作证，证明杨乃武初五在南乡为岳父除灵，初六才回余杭县城。刘锡彤于是安排小白菜与杨乃武当堂对峙。可怜的小白菜此时惧怕再受刑，一口咬定原供属实，气得杨乃武破口大骂。刘锡彤以杨家人作伪证为由不再过问。
按照《大清律例》，虽然朝廷批文仍未下达，杨乃武也并未招供，但小白菜所说“合情合理”，依然可以认定结案。但定罪权在于知府，不在知县。为了案件滴水不漏，他擅自将案卷改为“试毒银针已经皂角水擦洗且中毒情形与《洗冤录》所载砒霜中毒一致”，并连同杨乃武、小白菜一起押送杭州。
案件上报给杭州知府陈鲁，陈鲁很快发现纰漏众多。因为杨乃武称刘锡彤审讯时并未传卖砒霜的证人钱宝生上堂。陈鲁于是派人取证。不料刘锡彤一方面派人控制住钱宝生，一方面又派人给陈鲁行贿，希望能够维持原判。
这时朝廷批文已经下来，同治皇帝批准革去杨乃武举人身份，取证不能的陈鲁采用酷刑，最终将杨乃武小白菜屈打成招，并判小白菜凌迟处死，杨乃武斩立决。
关于刘锡彤行贿的原因，历史上说法很多，有的说是刘锡彤为了报私仇一心想置杨乃武于死地，有的说是刘锡彤曾私下对举人杨乃武用刑，有的说是怕翻案之后会失信于民，不管怎样，正是由于刘锡彤的行贿才使得本案一错再错，最终局势难以控制。
就在杨乃武受刑的时候，他的姐姐杨淑英和妻子杨詹氏一直在为他奔走，最终找到了他杭州的好友姚士法。姚士法同浙江巡抚杨昌浚的首席师爷杨同瑞熟识，就找他帮忙。
在杨同瑞的帮助下，浙江巡抚杨昌浚读过案卷，发觉众多纰漏，决定亲审此案。看上去似是峰回路转，不曾想此次局势更糟，知县知府不但掩盖了很多证据和事实，而且联合向巡抚杨昌浚、按察使司贺荪行贿。
杨淑英为救弟弟，特意去省城探监，终于说服小白菜翻供，但杨昌浚为了自己的面子和保住众多官员的顶戴花翎，决定不再提审此案，只将案卷原封不动的上交刑部。师爷杨同瑞愤然离职。
而浙江士绅听闻此事后对杨昌浚非常不满，杨淑英在他们的支持下上京告状，并找到了族叔杨增生，杨增生又找到了翁同龢，在翁同龢的努力周旋下，朝廷终于发下谕旨，要求将此案发回浙江重审。
杨昌浚为了脱离干系，来了个跟其他知府合审。这次审案很是热闹，不仅小白菜翻供，钱宝生也否认杨乃武买砒霜一事，弄得几个知府知县面面相觑，但由于官官相护，在酷刑的折磨下仍然维持了原判。恰巧同治十三年同治皇帝驾崩，朝廷忙着新皇登基之事，就把这事搁在了一边。
后来，在杨增生的努力下，慈禧也觉得这个案子拖的太久了，就于光绪元年（1875年）四月下旨派浙江提督学政胡瑞澜为钦差大臣亲审此案。不料胡瑞澜虽然清正廉明满腹经纶，却对刑审案件不在行。
被寄予厚望的他并没有从源头上去查案，而是在那么多的证词之间来回的游走、推测，更离奇的是杨乃武的有利证人钱宝生突然死了，所以在胡瑞澜看来，杨乃武的好口才好文笔就是在为自己开脱，企图掩盖事实，于是仍然采用逼供的做法屈打成招，并上报刑部审核，维持原判。
事情发展到这一步，已经不仅仅是一个人命官司这么简单了，而是牵扯到了江浙派官员与两湖派官员的政治斗争。审理过这起案子的陈鲁、杨昌浚等人基本都是两湖籍官员，是追随曾国藩的湘军派系官僚，在镇压了太平天国运动之后他们矜功自傲，胡作非为，引起来江浙派官员的强烈不满。
因此在对待杨乃武与小白菜一案上，江浙派官员力主查个水落石出，这关系到浙江人的尊严浙系官员的发展。于是浙江众多官员联名向督察院递交呈词，要求提京重审此案，慈禧最终应允。
历经百折，终于形成了由刑部尚书主审、户部和礼部尚书陪审、醇亲王和刑部侍郎听审的会审局面。经审理证实：卖砒霜给杨乃武的证人钱宝生虽然已经死亡，但此前杨家已经提供了杨乃武不在余杭的证词。
另外，对葛小大开馆验尸，经检验确认尸体中并无有毒成分，故葛小大确属因病而死，杨乃武小白菜无罪释放。于是，涉案的三百多名官员有三十多人被革职、充军或查办，一百多人被革除顶戴花翎，永不续用。
事实上，慈禧太后之所以狠下决心查办这么多官员，并不是因为她真要替杨乃武小白菜做主，而是要削弱两湖官员的势力。两湖派官员在湘军镇压了太平天国运运之后，势力越来越大，已经影响到朝廷的统治，引起了慈禧太后的担心。
因此她早就想削弱他们的势力了，杨乃武与小白菜一案正好给他提供了这样一个机会，于是在醇亲王的坚持下她选择了彻查此案。由此可见，一个普通的人命官司牵连到了两派官员的政治斗争，才是本案成为清末四大奇案之首的关键。
