Yakuza 2 heittää pelaajan japanilaisen alamaailman väkivaltaiseen pyörteeseen, keskelle yakuzaa ja sen sisäistä välienselvittelyä, jossa kunnioitus ja kunnia ovat kaikki kaikessa. Brutaaleissa yhteenotoissa niin poliisi, kilpailevat rikollisjengit kuin korealainen mafia selvittävät välejään. Pelaaja ohjastaa Kazuma Kiryua, sankaria alkuperäisestä Yakzua-pelistä, selvittäen tietään Tokiossa ja Osakassa.