Nazwa miejscowości wywodzi się najprawdopodobniej od słupa drogowego, stojącego na wejściu do Przełęczy Jeleniowskiej. Dawniej sądzono, że w miejscowości mogła stać rycerska wieża mieszkalna,, jednak badania m.in. K.Bielenina nie potwierdziły tej hipotezy. Podczas prac archeologicznych prowadzonych w latach 50 i 60 ubiegłego wieku odkryto w sumie 11 stacji hutniczych datowanych na okres wpływów rzymskich. Z tamtych czasów pochodzi także znaleziony denar Faustyny Starszej z okresu po 141 r.

Z przekazów historycznych z których pierwsze datowane są na rok 1269 rok, możemy się dowiedzieć, że Słupia była dwukrotnie niszczona przez Tatarów i Mongołów. W XV wieku powstał drewniany kościółek pod wezwaniem św. Wincentego, ufundowany przez benedyktynów. W średniowieczu były tutaj dwie karczmy trzy młyny.

W 1782 roku dla Jana Nepomucena Niegolewskiego wybudowano parterowy dwór z wystawką, piętrowym ryzalitem od ogrodu i gankiem od frontu. Przebudowany w 1902 roku uchował się do dzisiejszych czasów. Do tej pory w jego pobliżu znajduje się roślinność z XVIII założeń parkowych.

W początkach XX rozpoczęto działania mające na celu utworzenie szkoły. W 1905 roku, gdy Michał Karbowniczek założył tajną szkółkę, a w 1913 mieszkańcy otrzymali pozwolenie na otwarcie placówki. W 1927 dziedziczka majątku w Jeleniowie – Zofia Konarska, założyła Koło Gospodyń Wiejskich.

Ze Starej Słupi pochodzi kilku znamienitych ludzi. Jest wśród nich Franciszek Jop, biskup Sandomierski i Opolski, Antoni Radziszewski, powstaniec z 1794 roku, który podczas bitwy pod Szczekocinami oddał swojego konia Tadeuszowi Kościuszce. W powstaniu styczniowym, u boku Mariana Langiewicza brał udział Antoni Szelagowicz. Tutaj urodził się reżyser Jerzy Burdel.

Chociaż Słupia leży w cieniu swojej młodszej siostry, wieś się zmienia. Odnowione zostały m.in. budynki Nidy, gdzie otworzono rozlewnię miodu, czy dawny budynek Kasy Stefczyka z 1935 roku. W planach jest wybudowanie chodnika do Nowej Słupii.