Smise poco dopo il dramma di Benny "Kid" Paret

Il primo match da arbitro è del 1942 quando era sotto le armi in guerra e fu, per noi curiosamente, fra un pugile italiano, il peso welter Francesco Montanari residente a New York e l'italoamericano di Brooklyn Jerry Fiorello. Per la cronaca vinse ai punti Fiorello in 8 riprese.

Goldstein arrivò presto ad arbitrare pugili importanti e il suo primo campionato del mondo, sia pure valido solo per la NYSAC (Commissione atletica dello stato di New York) fu quello che vide il campione del mondo dei leggeri Bob Montgomery prevalere su Allie Stolz. per K.O. al 13° round. Innumerevoli sono stati gli incontri storici da lui diretti, citiamo solo i più importanti: il primo Zale-Graziano, il primo Louis-Walcott, Gavilan-Williams, il primo Pep-Saddler, Charles-Lesnevich, Pep-Famechon, il terzo Pep-Saddler, Charles-Oma, Gavilan-Bratton, il secondo Robinson-Turpin, Louis-Marciano, Maxim-Robinson, il secondo Marciano-La Starza, il primo Carter-De Marco, il primo Marciano-Charles, Olson-Moore, il primo Robinson-Fullmer, Patterson-Jackson, il primo Patterson-Johansson, Moore-Rinaldi, il terzo Griffith-Paret e credeteci che abbiamo fatto fatica a lasciarne fuori almeno altrettanti...

La fama di Goldstein crebbe ulteriormente quando dopo il primo Louis-Walcott, a Joe Louis fu chiesto cosa ne pensasse del fatto che Goldstein, come la maggioranza degli osservatori, in qualità di arbitro/giudice lo aveva visto sconfitto (ricorderete che Louis mantenne il titolo dei pesi massimi con una split  decision molto criticata). Louis, che sapeva benissimo di avere in realtà perso, rispose: "Conosco Ruby, lui giudica quello che ha visto".

Goldstein era il terzo uomo nel match Robinson-Maxim in quella notte terribilmente afosa delgiugno 1952 in cui Robinson fu vinto dalla disidratazione al 14° round. Ebbene Goldstein cedette prima di lui e dovette essere rimpiazzato da Ray Miller al 10° round.

Qualche volta Goldstein attendeva un po' troppo prima di fermare un pugile in difficoltà. Gli capitò senza conseguenze nel primo Patterson-Johansson quando avrebbe dovuto fermare prima lo statunitense senza attendere ben 7 atterramenti in 3 round. Purtroppo le conseguenze, irrimediabili, vi furono il 24 marzo 1962 al Madison Square Garden quando Goldstein non intervenne in tempo a fermare Emile Griffith che stava martellando in  un angolo il cubano Billy "Kid" Paret la cui testa sbatteva su un sostegno metallico. Paret sarebbe morto il 3 aprile seguente. Goldstein non superò mai questo trauma e arbitrò da allora solo il match fra Luis Rodriguez e Holly Mims un anno dopo.

Morto nel 1984, Goldstein sarebbe entrato 10 anni dopo nella International Hall of Fame di Canastota.