John Joseph Gotti Jr. voit le jour le 27 mars 1940 dans le Bronx à New York. Ses parents sont John Gotti Sr. et Philomena « Fannie » Gotti , Il était le cinquième enfant. Quand Gotti avait douze ans sa famille s'est déplacé au compartiment de Sheepshead, Brooklyn, un voisinage italien très dur alors. En tant que jeune garçon, Gotti avait une trempe rapide et a dédaigné ceux qui étaient plus chanceux financièrement, mais au lieu de vouloir s'améliorer par des manières plus traditionnelles, il a tout fait pour être l'un des truands qu'il a toujours vu dans le voisinage. Avec ses frères Peter et Richard il a créé une troupe locale de rue qui a couru des courses pour les wiseguys locaux. Gotti s'est concentré plus sur son éducation de rue et moins sur son éducation formelle. Il était constamment absent à l'école et quand il y était, c'était le cancre. Il était un problème si courant de discipline que l'école a montré un intérêt très petit pour son absentéisme. En début de l'été de 1954, Gotti et quelques autres capots ont participé à un vol d'un chantier de construction. Tout en essayant de voler un mélangeur de ciment, le mélangeur a incliné et concassent les orteils de Gotti. Il a passé la majorité de l'été à l'hôpital. Quand Gotti avait seize ans il a stoppé l'école pour de bon et rejoint les garçons de Fulton-Rockaway, une troupe d'adolescents locale qui ont volé des automobiles, les marchandises volées clôturées, et les drunks roulés. Il était à ce moment dans sa vie où il s'est associé à Angelo "Quack-Quack" Ruggiero et Wilfred "Willy Boy" Johnson. Pendant son temps avec les garçons de Fulton-Rockaway, Gotti a été arrêté cinq fois. Tous frais ont été par la suite écartés ou réduits aux phrases de probation.