Erstmals um 1100 nach Christus wurde in einer Schenkung an das Kloster Hirsau Degerloch urkundlich erwähnt. Besiedelt wurde das Fleckchen Erde wohl 600 Jahre zuvor. Das kleine Bauernvolk lebte seither relativ eigenständig auf der Filderebene.

In den Degerlocher Bauernfamilien mussten alle mithelfen. Knechte und Mägde konnten sich nur die wenigsten leisten. So wurde sechs Tage die Woche auf den umliegenden Felder gearbeitet. Sonntags traf man sich in der Kirche. Danach verbrachten die Männer ihre Zeit oft im Männergesangsverein, im Turnverein oder im Rössle. "Die Frauen nutzten den Sonntagnachmittag, um in die "Stunde" zu gehen, worunter man eine pietistische Versammlung im Vereinshaus in der heutigen Erwin-Bälz-Straße verstand", schreibt Siegfried Schoch im Heimatbuch "Liebes altes Degerloch". Mitte des 19. Jahrhunderts erlangte der Ort sogar das Prädikat "Höhenluftkurort", als die ersten Villen an der Weinsteige entstanden.

Flächenmäßig erweitert wurde Degerloch im 20. Jahrhundert durch die Falterau. Die Siedlung, um 1911 geschaffen und noch in Abstand zum Ortskern gebaut, ist seit den 30er-Jahren immer mehr mit Degerloch zusammen gewachsen. Laut Schoch waren es nicht die Ärmsten, sondern vielmehr "der gehobene Arbeiterstand, der hier in einer auch damals nicht billigen Lage baute". Zu sehen auch an dem Bad- und Dampfhaus, das an der Stelle des heutigen Naturfreunde-Hauses stand. Wer also etwas auf Körperpflege hielt, ging in die Bad- beziehungsweise in die heutige Roßhaustraße, um ein Bad zu nehmen.

Ab Mitte der 1950er kam noch das so genannte "Neu-Berlin" hinzu. Angesichts der verheerenden Wohnungsnot nach dem Zweiten Weltkrieg gründeten im Mai 1948 einige Männer, überwiegend aus Schlesien, in Degerloch eine Flüchtlingswohnungsbaugenossenschaft, die heute noch hier ansässige Flüwo. Nach einigen Anfangsschwierigkeiten war Degerloch schließlich einer der ersten Stadtbezirke, der gleich nach der Währungsreform im Juni 1948 ein größeres Neubaugebiet erhielt. Insgesamt wurden rund 800 Wohnungen in dem Quartier zwischen der Schöttlestraße, der Albstraße und der Albschule relativ zügig aufgebaut. Im Volksmund nannte man den Teil "Neu-Berlin", weil die Bewohner hier häufiger als bei den Degerlochern üblich eher "hochdeutsch" sprachen. Heutzutage ist der Bezirk eine begehrte Wohngegend, mit genug Einkaufs- und Arbeitsmöglichkeiten und einer völlig gemischten Bevölkerung.