A Mafia 2 az 40-es és 50-es évek fordulójára kalauzolja el a játékost, és egy Vito Scaletta nevű kisstílű gengszter karrierjét mutatja be, kezdve az első pár apró-cseprő balhétól, egészen a kőkemény bűnözők vérben ittas üzleti életéig.
A játék helyszíne a fiktív Empire Bay nevű városban játszódik, ami jórészt szabadon bejárható. Ellenben a küldetések szigorú sorrendben követik egymást, szó sincs tehát GTA-szintű szabadságról. A történet antihőse a már említett Vito, aki jóravaló fiúból lesz kegyetlen gengszter, míg rá nem ébred, hogy a bűnözők világában nem létezik igaz barátság. Addig persze jó sokat lő, autózik, bunyózik és robbantgat -- tehát remekül érzi magát és segít levezetni a feszültséget. A Mafia 2 nem túl hosszú, de annál velősebb akció-kalandjáték, ami ráadásul brutálisan szép.