Gable era filho do fazendeiro e perfurador de petróleo William Henry Gable,[2][3] e de Adeline Hepshelman, descendente de alemães e irlandeses.[4]

Com alguns meses de vida, Clark perdeu sua mãe, devido à fragilidade, às condições do parto que a debilitaram, e à epilepsia; há a probabilidade de ela ter falecido de um tumor cerebral. Antes de morrer, a mãe o batizou na religião católica, mas após sua morte, o lado paterno da família não aceitou tal batismo, criando problemas com a família de Adeline, problemas esses que só foram resolvidos quando o pai o mandou para morar com o tio materno, Charles Hershelman, em Vernon, na Pensilvânia. Até os dois anos, Clark esteve sob cuidados dos tios maternos, e então seu pai o levou de volta para Hopedale, Ohio. O pai casara novamente, em abril de 1903, com a chapeleira Jannie Dunlap, mulher culta e gentil que criou Clark como se fosse seu filho.

Gable cursou a Hopedale Grade School, depois a Edinburg High School. Fazia parte de um time esportivo, além de tocar trompete no colégio. Um de seus amigos, Andy Means, conseguira emprego em uma fábrica de pneus, B. F. Goodrich, em Akron, e Gable resoveu acompanhá-lo, abandonando os estudos aos dezesseis anos.

Em Akron, assistiu à peça "The Bird of Paradise", e decidiu que queria ser ator; conseguiu um pequeno trabalho, à noite, na companhia teatral, como "moço de recados". Após um ano, sua madrasta morreu e Clark, acompanhado do pai, foi a contragosto para os campos petrolíferos de Tulsa. Chegou a trabalhar com petróleo, e como domador de cavalos, mas não deixou de lado sua ideia de se tornar ator. Aos 21 anos, herdou do avô 300 dólares, e abandonou os negócios do pai, indo para Kansas City. O pai, frustrado, chegou a ficar 10 anos sem falar com Clark.

Em Kansas City, Clark se filiou a uma companhia de teatro ambulante, a Jewell Players, que acabou se dissolvendo após 2 meses; então, partiu para o Oregon, e no caminho chegou a ser vendedor de gravatas numa loja de departamentos, Meier & Frank. Um colega da loja, Earle Larrimore, estava para se juntar a um pequeno grêmio teatral de partida para Astoria, e Gable os acompanhou. Uma das integrantes do grupo, a atriz Franz Dorfler, apaixonou-se por ele, e chegaram a ficar noivos, não chegando a casar. Posteriormente, Dorfler escreveria um artigo denominado "Eu fui namorada de Billy Gable",[5] publicado no livro "The Films of Clark Gable", de Gabe Essoe.

Em Portland, no Oregon, Gable trabalhou para um jornal e para a companhia telefônica, enquanto tomava lições de canto. Filiou-se a outro grupo de teatro, dirigido pela ex-atriz Josephine Dillon, 14 anos mais velha que ele, mas que o influenciaria muito. Josephine ensinou-lhe postura, entonação, representação, pagou para arrumar seus dentes e seu estilo de cabelo, preparando-o para a carreira cinematográfica.