События Mafia II разворачиваются в 1943—1951 годах в вымышленном американском городе Эмпайр-Бэй. В городе заправляют три основные мафиозные семьи: Винчи, Клементе и Фальконе.
Главный герой, Вито Скалетта, в детстве переехал вместе со своей семьёй из Сицилии в США. Будучи мальчишкой, Вито думал, что в Америке все его мечты станут реальностью, однако на деле все оказалось иначе. В школе Вито подружился с другим мальчишкой, Джо Барбаро — известным в округе хулиганом. Оба они были из бедных семей, поэтому, став лучшими друзьями, быстро пристрастились к основам бандитизма — карманным кражам и грабежам.