Problem smarowania urządzeń składających się z ruchomych części jest niemal tak stary jak cywilizacja – np. w wozach ciągniętych przez konie trzeba było zapewnić gładką współpracę drewnianej piasty z osią. Oczywiście pierwsze środki smarne były bardzo prymitywne, miały pochodzenie naturalne – wykorzystywano głównie tłuszcze zwierzęce i roślinne. W sumie cokolwiek, aby tylko było śliskie.
Rozwój przemysłu w XIX wieku przyniósł postęp w technikach smarowania. W 1859 r. w Oil Creek w Pensylwanii Edwin L. Drakę otworzył pierwszy wiercony szyb naftowy. Zapoczątkowało to współczesną erę ropy naftowej. Co prawda wcześniej też wykorzystywano ów produkt, zwany olejem skalnym (w wielu celach, nawet leczniczych), ale pochodził on tylko z tych obszarów, w których samoistnie wydostawał się na powierzchnię.
Szybko rozwijał się przemysł przetwarzania ropy naftowej. Produktem destylacji była jednak przede wszystkim nafta wykorzystywana do oświetlenia. Bodźcem do gwałtownego rozkwitu przemysłu naftowego był rozwój motoryzacji. Na przełomie XIX i XX w. powstały największe znane dziś kompanie naftowe – Royal Dutch/ Shell, ARCO/Burmah/Amoco/BP (tworzące dziś jedną grupę wraz z przejętym Castrolem), Standard Oil Trust/Vacuum Oil Company/Standard Oil Company of New York (dziś Exxon-Mobil). Początki współczesnych olejów i środków smarnych wiążą się z utworzoną w 1899 roku przez Charlesa Wakefielda firmą Ca-strol. Nazwa wzięła się od oleju rycynowego – castor oil. Już dziesięć lat po powstaniu Castrol dostarczał nowoczesne środki smarne na bazie oleju mineralnego i rycynowego. W 1930 r. oleje Castrola stały się zupełnie mineralnymi, a pięć lat później pojawił się pierwszy na świecie olej wzbogacony dodatkami uszlachetniającymi zwiększającymi trwałość silnika. Rozwój motoryzacji niósł za sobą dalsze modyfikacje olejów mineralnych.
Co ciekawe, niemal równie długą historię mają – uznawane za synonim nowoczesności – oleje syntetyczne. Syntetyczne węglowodory uzyskano już w 1877 r. Pierwsze, co prawda nieudane, próby wprowadzenia ich na rynek nastąpiły już w latach 20. ubiegłego wieku. Pracę nad technologią syntetyczną przejął przed drugą wojną światową przemysł lotniczy. W 1958 r. opatentowano olej syntetyczny do silników odrzutowych i rozpoczęto prace nad produktem odpowiednim dla jednostek samochodowych. Pierwszy taki olej zgodny z klasyfikacją API powstał w 1972 r. w firmie Amzoil. W połowie lat 70. Castrol wprowadził na rynek olej Castrol RS, a firma Mobil rozpoczęła sprzedaż oleju Mobil 1 – obie marki są bardzo dobrze znane także dziś. Ale trzeba przyznać, że początkowo traktowano oleje syntetyczne z pewnym dystansem – przez częste wycieki spowodowane niedostosowaniem uszczelnień silników do tych produktów. Dopiero kilkanaście lat temu, gdy technologię dopracowano, a producenci położyli duży nacisk na wydłużenie okresu między przeglądami i wymianami olejów oraz na pełną wielosezonowość środków smarnych, produkty syntetyczne zaczęły wypierać oleje powstałe z przetworzania ropy naftowej.