Nasce a San Francisco (California, USA) il 4 luglio 1883. Si laurea in ingegneria mineraria, ma i disegni pubblicati sull'annuario e sul giornalino curato dagli studenti gli aprono la porta del
San Francisco Chronicle, dove è assunto nel 1904 come vignettista sportivo. Nel 1907 crea per la World Color Printing Company di Saint Louis il suo primo fumetto,
"The Look-A-Like Boys", incentrato sulle buffe disavventure di due nani gemelli che in un primo tempo si chiamano
Tom e Jerry e in seguito sono ribattezzati
Mike e Ike. Visto l'insuccesso della serie, che non dura neppure un anno, riprende a fare vignette sportive per il
New York Evening Mail, alternando per qualche tempo questa attività a quella di attore e di chiromante!
Nel 1914 crea le geniali
Inventions of Professor Lucifer Gorgonzola Butts, serie incentrata su incredibili e strampalati macchinari, che continuerà fino al 1964. Nel 1915 dà vita a
Boob McNutt, che a partire dal 1918 viene distribuito dal King Features Syndicate.
Autore assai prolifico, Goldberg realizza numerosi altri personaggi e fonda la National Cartoonist Society (di cui è il primo presidente). Vince il premio Pulitzer nel 1948. In seguito a una ricca eredità, abbandona i fumetti a metà degli anni Sessanta per dedicarsi a tempo pieno alla scultura e al golf.
Muore a New York (USA) il 7 dicembre 1970.