W latach 1867-1871 uczęszczał do warszawskiej Klasy Rysunkowej i prywatnej pracowni Wojciecha Gersona. W 1872 kontynuował naukę w monachijskiej Akademii Sztuk Pięknych pod kierunkiem H. Anschütza i A. Strähubera. Związał się też ze środowiskiem polskich monachijczyków, przede wszystkim ze Stanisławem Witkiewiczem, Józefem Brandtem, Maksymilianem Gierymskim i Adamem Chmielowskim; został przyjęty w poczet członków Kunstvereinu, z którym wystawiał.
W 1874 wyjechał na Ukrainę, skąd powrócił do Warszawy. Podtrzymał bliskie kontakty z Witkiewiczem i Chmielowskim dzieląc z nimi wynajmowaną w gmachu Hotelu Europejskiego pracownię. W latach 1872 i 1874-75 odbył kilka podróży na Podole i Ukrainę, których reminiscencje odegrają ważną rolę w kształtowaniu się jego postawy twórczej.
Rysownik paryskiego "Le Monde Illustré"
Rozgoryczony negatywnym stosunkiem krytyki artystycznej do prezentowanej przez niego formuły malarstwa realistycznego, wyjechał w 1875 do Paryża. Tam zdobył uznanie krytyki i publiczności eksponując na Salonach rodzajowe obrazy z życia polskiej wsi i przedstawienia końskich zaprzęgów - słynnych "Trójek" i "Czwórek" - pędzących na tle stepowego krajobrazu lub przebijających się przez śniegi. Dzieła te były chętnie kupowane przez europejskich i amerykańskich kolekcjonerów. Rozgłos i finansowy sukces zapewnił Chełmońskiemu także stały kontrakt podpisany ze znanym paryskim marszandem A. Goupilem. W latach 1884-1892 artysta współpracował ponadto jako rysownik-ilustrator z paryskim "Le Monde Illustré".
W okresie paryskim nasiliły się w jego sztuce reminiscencje monachijskich kontaktów środowiskowych; nastąpiła zmiana sposobu "reżyserowania" i komponowania przedstawianych scen. Dynamika końskiego galopu, brawurowy pęd zaprzęgów, witalność chłopa próbującego okiełznać rozpędzone konie, podobnie jak naturalistyczny iluzjonizm, skomplikowane skróty perspektywiczne w ujęciu zwierzęcych sylwetek i ludzkich postaci - to wyróżniki obrazów Chełmońskiego cenionych przez paryską krytykę, poszukiwanych przez marszandów i wyróżniających się w oczach publiczności swoistą "egzotyką" ("Próba czwórki", 1878). W rozgrywających się na wiejskich podwórkach, przed karczmą i podczas wyjazdów na polowanie epizodach artysta zręcznie budował wielowątkową narrację, akcentował swojski obyczaj, stroje i typy wieśniaków ("Oberek", 1878).
Akompaniamentem potocznych zdarzeń stawał się najczęściej słotny dzień z mżącym, rozproszonym światłem wtapiającym w przestrzeń pejzażu sylwety chałup, postacie ludzi i zwierząt. To światło właśnie, podobnie jak jego refleksy na błotnistej ziemi, stanowiło kwintesencję przywołanego z pamięci rodzimego krajobrazu; to ono gasiło barwy natury zawężając je do gamy brązów i szarości. Jakby dla dekoracyjnego ożywienia kompozycji malarz wprowadzał niewielkie akcenty czerwieni, oranżów i zmąconych bieli ("Przed karczmą", 1877). Obrazy wiejskich rozrywek, targów i jarmarków, prezentowały szeroką gamę dosadnie scharakteryzowanych postaci wywodzących się z różnych warstw społecznych, od kupującej konie szlachty poprzez energicznych ekonomów i handlujących Żydów po natrętnych żebraków i dziadów ("Targ wiejski", 1882).
Osiągnąwszy techniczną wirtuozerię i swój specyficzny styl malowania Chełmoński popadł w manierę; pozbawiony bezpośredniego kontaktu z ojczystym krajem wspomagał pamięć fotografiami, szkicami i notatkami sprzed lat ("Wspomnienie z podróży po Ukrainie", 1877). Powstały jednakże w okresie paryskim dzieła należące do kanonu polskiego realizmu, takie jak nostalgiczna w wyrazie "Noc na Ukrainie zimą" (1877), bezbłędnie zakomponowany "Targ na konie w Bałcie" (1879) i zmonumentalizowana, pędząca wprost na widza "Czwórka. Po stepach" (1881).
W 1887 powrócił do kraju i zamieszkał w Warszawie. Pod koniec 1889 osiadł we wsi Kuklówka koło Grodziska Mazowieckiego, gdzie prowadził gospodarstwo rolne.