Phil et son frère Leonard arrive aux Etats-Unis en 1928, ils rejoignent leur père installé dans le quartier juif de Chicago. Ils ouvrent d’abord un magasin d’alcool puis un club de jazz dans le south side en 1938, baptisé le « Mocamba Lounge ». Dans l’objectif de produire les artistes qui jouent dans leur club, ils achetent des parts du label indépendant « Aristocrat », avant de le racheter complétement et d’en changer le nom en 1950, il devient « Chess ».
Le premier succès de la maison de disque fut "I can't be satisfied" par Muddy Waters en 1951. Outre Muddy Waters, Chess enregistra notamment Howling Wolf, Buddy Guy ou encore Koko Taylor. Le rôle de Willie Dixon au niveau artistique y fut déterminant, c'est lui qui dirigeait les séances d'enregistrement.
Presque 20 ans plus tard, en 1969, Leonard Chess vend le label à GRT Corporation pour près de 10 millions de dollars, avant de mourir quelques mois plus tard d’une crise cardiaque à 52 ans. Son frère Phil, quitte le label peu de temps après la perte de son frère en 1971.
Le label Chess a joué un rôle considérable pour le blues de Chicago, à une époque où il connaissait un virage important: l'électrification. Il en reste un catalogue d'une qualité exceptionnelle avec des artistes comme : Chuck Berry, Willie Dixon, Buddy Guy, John Lee Hooker, Billy « The Kid » Emerson, Etta James, Albert King, Otis Rush, Billy Stewart, Little Walter, Muddy Waters…