陶谦一死，众人都放声大哭，那哭声，在屋子里回荡，让人听了心里直泛酸。哭完以后，就簇拥着刘玄德，让他接管徐州的事儿。刘玄德还是坚决不答应。
这时候，徐州的老百姓“扑通”一下都跪在地上，哭着说：“刘使君啊，您要是不接管徐州，我们这些老百姓可都得死在那些贼人奸党手里啊！您就可怜可怜我们吧！”刘玄德一看这架势，没办法，只好答应下来，做了徐州牧。他让糜竺、孙乾辅佐自己，陈登做幕官，又把小沛的军马都调到城里，还出了安民告示，让老百姓安心，然后就开始安排陶谦的丧事。
陶谦这一年六十三岁，就这么去世了。刘玄德带着大小军士都披麻戴孝，在灵堂前大设祭仪，还专门写了一篇祭文：（大致意思如下）“哎呀呀，陶使君啊，您就是那侯将军，品德高尚得没法说，文能提笔安天下，武能上马定乾坤。您这人刚直不阿，又温和仁慈，治理徐州和舒州的时候，那是把关爱都给了老百姓啊。不管是幽州还是徐州，您都把好处公平地分给大家。
那些外族部落，都靠您才过上太平日子；那些妖魔鬼怪一样的贼寇，只要您在，就不敢兴风作浪。老天爷都念着您的功劳，给您封官赐爵，又是当州牧，又是封侯，还在梁阳给您封地。后来您还当上了上将，被封为安东将军，一心想着平定国家的危难，那是把国家大事看得比啥都重。
可谁知道您命不长啊，就这么突然走了，就像我们失去了依靠，老百姓都陷入了困苦之中。您这一走，还不到一个月，徐州周围的五个郡都乱套了。我们这些老百姓啊，以后可指望谁呢？想您想得不行了，只能仰天长叹，老天爷啊！哎呀，太伤心了，太伤心了！”
祭文念完，那声音仿佛还在空气中回荡，带着无尽的悲痛。众人便将陶谦葬在了黄河边。黄河水悠悠流淌，似乎也在为这位逝去的州牧默哀。葬完陶谦后，又赶忙把陶谦给朝廷的遗表，派人快马加鞭送去上奏。
曹操在鄄城听闻陶谦死了，刘玄德竟然当上了徐州牧，这消息就像一道惊雷在他头顶炸开，气得他暴跳如雷，大骂道：“这仇还没报呢，刘备这小子居然不费吹灰之力就得了徐州！我非得先把刘备杀了，再去挖了陶谦的尸体，才能给我爹报仇雪恨！”当下就怒气冲冲地传下号令，吩咐下