Historia przedsiębiorstwa sięga początków XX w., kiedy to w styczniu 1901 William Sylvester Harley i Arthur Davidson przymocowali cztery silniki do ramy rowerowej. Silniki te wymagały jednak poprawek w sposobie dostarczania mieszanki paliwowej. Prace te odbywały się w małej komórce za domem Davidsonów. Miała ona powierzchnię wielkości ok. 3 na 4 metry. W 1903 r. w tym samym miejscu William Harley wraz z braćmi Davidson: Arthurem, Williamem, oraz Walterem stworzyli pierwszy model przeznaczony na sprzedaż – Silent Grey Fellow z jednocylindrowym silnikiem o pojemności 410 cm³. Za datę stworzenia nieoficjalnej jeszcze spółki uznaje się 28 sierpnia 1903 r. Wkrótce potem bracia opracowali też model o pojemności 494 cm³. W 1904 r. powstało 8 maszyn, zaś do 1906 r. poziom produkcji wzrósł do ok. 50 motocykli. Rok później wybudowano nowy gmach o powierzchni 260 m² i oficjalnie uzyskano status przedsiębiorstwa, gdyż wpisano firmę do amerykańskiego rejestru przedsiębiorstw handlowych i przemysłowych (17 września 1907). Prezesem spółki został Walter Davidson. Do dziś siedziba przedsiębiorstwa mieści się w tym miejscu, przy Chestnut Street (ówczesnej Juneau Avenue). Już wtedy powstał nowy prototyp silnika dwucylindrowego w układzie V, który zaprezentowano na wystawie motocyklowej, jednakże jeszcze przez dwa lata motocykle Harley-Davidson miały montowane tylko jednocylindrowe silniki. Niektóre źródła podają także, że w 1907 r. spółka sprzedała jeden egzemplarz policji.