陈伯之，北齐济阴睢陵（今江苏睢宁）人，幼有膂力，少小无赖，家中贫穷，以盗劫为生。后跟随同乡车骑将军王广之征讨齐安陆王萧子敬有功，升迁为冠军将军、骠骑司马，封鱼复县伯，食邑500户。天监四年（公元505年），梁武帝命临川王萧宏领兵北伐，陈伯之屯兵寿阳与梁军对抗，萧宏命记室丘迟以个人名义写信劝降陈伯之。