Im späten 19. Jahrhundert gründeten einige Jugendliche in Wien den 1. Wiener Arbeiter Fußball-Club im Jahr 1897. Der Verein wurde offiziell am 22. Juli 1897 registriert. In den Anfangsjahren spielte der Club auf dem Schmelzer Exerzierfeld, erzielte jedoch nur wenige Erfolge. Im Januar 1899 fand die erste Krisensitzung statt.
Die Spieler des Clubs nahmen die Situation ernst und änderten den Vereinsnamen in “Sportklub Rapid” am 8. Januar. In den folgenden Jahren spielte Rapid Freundschaftsspiele und Turniere, bevor der Rapid-Platz in Rudolfsheim 1903 eröffnet wurde. 1906 änderte der Verein seine Farben zu Grün und Weiß.
Rapid stieg 1903 in die höchste Spielklasse auf und expandierte weiter. 1911/12 gewann der Club seinen ersten offiziellen Meistertitel unter der Leitung von Dionys Schönecker. Schönecker rettete den Verein, als die Stadt Wien den Pachtvertrag für den Sportplatz kündigte, und führte Rapid zu diesem Erfolg.