呂伯奢吩咐完呂曠和呂翔之后，見兩兄弟都騎著戰馬速速地去買酒，也就不糾纏。而是轉頭又勸慰了曹操幾句，然后就徑直地走入了內院，估計是想讓夫人親自下廚，炒幾個好菜來款待曹操這個結義兄弟之子。
曹操本是客人，一時之間看到院子里一下子又沒人了，又是逃難之身，難免有些多想，坐了沒一會兒就有些不安，恰在這時曹操忽然聽到山莊后院里傳來忽隱忽現，一陣又一陣的磨刀之聲。
曹操驚疑不定，心寒不已，又不敢貿然下結論，卻是無法再繼續若無其事地安坐了，只好起身往呂家山莊家后院走去，哪怕有唐突之處，也顧不上了。畢竟弄明白這一聲又一聲的磨刀來源比什么都重要。
曹操內心暗暗打鼓，想道：
“這呂伯奢又不是我的至親至近族人，且閱歷寬廣，非呂曠和呂翔之輩可比，不好忽悠，就連父親曹騰都不敢選擇在呂伯奢這兒避禍，而是選擇遠走陳留，恐怕呂伯奢也并非可托付之人。”
“剛才呂伯奢仍然堅持要深夜派呂曠和呂翔出去買酒，又入了內院極久都不出來，行為極其可疑，若是不慎，未能提前掌握，恐怕會有壞事加身，我為了自保，理當潛入后院，偷偷聽聽這呂伯奢是作何打算，以便做好準備。”
曹操打定主意之后，不再多想，而是放輕腳步，悄悄地潛入山莊后院，一路隱藏在黑暗或是草叢之中，不斷地深入進去。這不去打聽還好，一去還真讓曹操聽到一些悄然私語，曹操靠在墻角的邊緣，只聽到內院有人說道：
“此事不難，綁了就能殺了，你覺得這樣如何？”
曹操仔細一聽，確是呂伯奢的聲音無疑，曹操暗暗慶幸剛才沒有傻傻地坐在客廳那兒等待，不然哪里能探知這呂伯奢竟然在后院里面謀劃想要將曹操給綁起來，然后殺掉。
曹操略一推算，這呂曠和呂翔恐怕買酒是假，應該是回來家中被呂伯奢重新說動，連夜前往縣城引兵前來捉拿曹操才是。想到這里，曹操哪里還能忍耐，當斷不斷，必受其亂。曹操不由內心嘆道：
“呂伯奢啊呂伯奢，縱你是我曹操的伯父，乃是家父曹騰的結義兄弟，然而卻是想謀劃結義兄弟的兒子，是你先不仁，就莫怪我曹操不義。”
況且，呂伯奢想要殺害曹操，已是曹操親身打探到的信息，板上釘釘，曹操打算趁著呂曠和呂翔尚未引兵來到，先下手為強，以免真的被呂伯奢給綁了，再想脫身就難如登天。
畢竟呂伯奢不比兩個兒子，曹操沒有把握說服呂伯奢，再說，要是曹操不知道也就罷，呂伯奢可以慢慢圖謀，多的是方法捉拿孤身一人的曹操，比如在飯菜里下藥，在酒水里下藥等等，甚至是將山莊里面的護院全數集結，一擁而上。
但是曹操既然已是提前得知消息，哪里還會放任呂伯奢施為。曹操拔出隨身一直佩帶的長劍，猛地沖入后院，偷襲連連，見人就殺，不分男女，反正看到就直接一劍砍殺，然后順勢而殺進去。
曹操知道一旦動手起來，山莊里面肯定會混亂，到時一片黑暗之下，難辯敵我，而曹操只是孤身一人最好行動，好在山莊里面并沒有什么武藝高手，皆是一些平常的退伍軍兵，手段有限。畢竟真正有能力的高手也不太可能在這荒林深山里給呂伯奢當看家護院。
曹操一口氣之下，竟然連殺了八人，待山莊里面再無傳來一聲呻吟或是人語，曹操才停了下來，尋了一支火把點燃，到處搜索活口，曹操知道既然動手了，就一定要斬草除根，以免到時傳了出去，一來容易暴露行蹤，二來也對曹操的名聲不好，畢竟父親的結義兄弟呂伯奢好心收留，卻被曹操給滿家滅口。
曹操可不愿被人知道干了這種事情，行刺董卓那是曹操主動宣傳，生怕沒人知，但是現在動手殺呂伯奢一家，那是被迫無奈，非曹操的本愿，僅僅只是為了自保罷了。
曹操殺了呂伯奢等人之后，一路搜查卻是毫無所獲，甚至是搜到廚房的時候，曹操還發現了有一頭豬，此時正被五花大綁，放于廚房里面，旁邊放著一塊磨石和一把剛剛磨過的豬刀。
看到這里，曹操才想起剛才砍殺之后，拿了火把去確認各人的時候，呂伯奢的確被曹操給殺了，但是呂伯奢旁邊同樣被殺的人卻是呂伯奢的夫人，這時曹操方確認是剛才多心了，誤殺了好人。
想必呂伯奢并不是想殺曹操，而是想殺一頭豬，取其肉食來款待曹操，也許是呂伯奢的夫人乃是女子，身體脆弱，力氣太小，無法殺豬，這才找到呂伯奢一起商議該怎么殺豬。正是呂伯奢的夫人找了呂伯奢，導致呂伯奢久久未能回到客廳。
呂伯奢聽到夫人的事情之后，就派山莊里的下人將豬給綁了起來，然后前來告訴夫人這事，卻是被曹操偷聽了去，再對號入座，以為呂伯奢想對曹操下手。
之所以肯定是多心，殺錯好人了，那是因為曹操明白，要是呂伯奢想殺曹操，自然不會跑來跟自家的夫人一起商議，應該是去找山莊的看家護院，聯想之前的磨刀聲和在廚房里看到被綁的豬，曹操一時之間有些后悔。
不過呂伯奢等人已是被殺，人死不能復生，曹操雖是有些責備，但山莊里面濃厚的血腥味刺人心鼻，曹操感到異常的清醒，不得不心狠起來，不斷地暗示自身只是為了自保，并不過分。
一陣又一陣地血腥味傳入了曹操的鼻子里，曹操感到有些難受，這呂家山莊看來不能再繼續待下去了，曹操從廚房里面隨便拿走了一些干糧，然后提著手中的佩劍，就大步出了山莊院門前，騎上絕影馬，快速地離去。
畢竟，曹操只有離開了山莊，才有可能洗清嫌疑，說不定事后還能將黑鍋甩給董卓，說是董卓為了搜查曹操，查到了山莊這里來，然后殺害了呂伯奢一家。