En 1976, ils enregistrèrent leur premier album (Ramones) qui attira l'attention des critiques, en plus d'atteindre le #111 aux USA. Cet album allait devenir la référence dans le milieu punk, autant aux États-Unis qu'en Angleterre. Le 4 juillet, ils firent leurs débuts en Angleterre où ils étaient en train de devenir une grosse influence pour la nouvelle génération de groupes. Leur album suivant, "Leave Home", allait d'ailleurs atteindre le #48 en Angleterre au printemps 1977. Avec les Sex Pistols, ils étaient considérés comme les groupes clés de la révolution punk, mais alors que les Sex Pistols allaient mourir rapidement après, les Ramones ont tourné sans arrêt pendant les 20 années suivantes.
Tommy Ramone a quitté le groupe au printemps 1977 et il a été remplacé par Voidoid Marc Bell, alias Marky Ramone, à la batterie. Le premier album enregistré par celui-ci (Road To Ruin), paru à l'automne, se voulait une tentative de changement de son (plus années 60, surf) et était leur premier album à dépasser les 30 minutes. Même si leur nouveau 'style' se voulait plus pop, ils n'obtinrent plus jamais les succès des débuts, sauf avec "End Of The Century" en 1980 qui atteint le top 10 en Angleterre et le #44 aux États-Unis.
Les années 80 furent une décennie de mauvais albums et tournées incessantes. Le groupe commença à se désagréger alors que Marky Ramone quitta le groupe en 1983. Il fut remplacé par Richard Beau, alias Richie Ramone, un ex-membre des Velveteens. Il allait à son tour quitter en 1987 et Marky Ramone décida de revenir. En 1989, après la sortie de "Brain Drain" qui contenait la chanson thème du film Pet Semetary de Stephen King, Dee Dee Ramone quitta le groupe pour poursuivre une carrière de rapper sous le nom de Dee Dee King, qui subit un échec énorme avant de former le groupe Chinese Dragons. Il fut remplacé par Christopher John Ward, alias C.J. Ramone, au sein des Ramones.
Au début des années 90, Joey et Marky allèrent en cure de désintoxication pour surmonter leur problème d'alcool. Leurs succès sur albums ne s'améliorèrent pas avec "Mondo Bizarro" et l'album de reprises "Acid Eaters", mais suite à celui-ci une nouvelle vague de groupes punks envahit l'Amérique avec en tête Green Day et The Offspring. Les Ramones sautèrent sur l'occasion pour faire paraître "Adios Amigos" qui connut un certain succès alors qu'ils annoncèrent leur retraite suite à la prochaine tournée. Ils étaient supposés se retirer au début de 1996, lorsqu'ils se sont fait offrir de faire partie du festival Lollapalooza. Ils tournèrent donc encore tout l'été avant de tirer leur révérence 20 ans après le lancement de leur premier album.

