Mafia III foregår i et nyt New Orleans i 1968, et af de mest turbulente år i USA's historie. Denne version af New Orleans er fyldt med aktivitet, komplet med tidsinspirerede biler, mode og musik. I denne turbulente tid hænger der en sky af korruption i luften, og byen er blevet et fristed for organiseret kriminalitet. Den italienske mafia kontrollerer ulovligt spil, stoffer og prostitution, mens korrupte politifolk og politikere fylder deres lommer med udbyttet.

Mafia III følger historien om Lincoln Clay, en rettighedsløs Vietnam-veteran, der vender tilbage fra kamp og leder efter et hjem og et sted at høre til. Lincoln, der blev forældreløs som barn, opnår endelig en form for familie med byens sorte mafia og finder den surrogatfar og bror, han har længtes efter. Men da Lincolns nye familie bliver forrådt og slagtet af den italienske mafia, bliver han fikseret på hævn og fører en brutal krig mod italienerne, hvilket forstyrrer magtbalancen i New Orleans' snuskede underverden. Som historien skrider frem, allierer Lincoln sig med andre kriminelle og opbygger et imperium og sin egen nye familie, som forvandler byen.

I løbet af den medrivende historie i Mafia III vælger spillerne deres vej til hævn og opbygger deres eget forbryderimperium ved hjælp af list, forfølgelse og bedrag eller gennem overvældende styrke og ildkraft
og ildkraft. Mafia III kombinerer det bedste fra filmisk historiefortælling med en dynamisk fortællestruktur, der reagerer på spillerens valg, og foregår i en levende by, der reagerer på Lincolns handlinger.