Był synem Jana Jakuba Simmlera i Anny Katarzyny Barbary z Simmlerów. Miał dwóch braci, starszego Karola i młodszego Juliana. Swe pierwsze lekcje rysunku pobierał w Warszawie u Józefa Richtera, a po 1837 roku u Bonawentury Dąbrowskiego. Zachował się jeden z jego pierwszych portretów z 1841 roku, przedstawiający Teresę Kicką, malowany olejem na blasze. W tym samym roku Simmler wyjechał do Drezna, na studia artystyczne. Odniósł tam sukces, otrzymując w pierwszym roku edukacji srebrny medal za rysunek. Chciał się kształcić w pracowni Eduarda Bendemanna, zajmującego się malarstwem historycznym i portretowym, kontynuatora tradycji nazareńczyków, ale ten zawiesił swą działalność pedagogiczną.
Simmler opuścił Drezno i pod koniec 1841 roku udał się do Monachium, by tam kontynuować artystyczną edukację. Jednak w kolejnym roku przerwała ją choroba. Po ciężkim zapaleniu opon mózgowych artysta udał się do rodziny w Szwajcarii na rekonwalescencję. Po powrocie do Monachium starał się o przyjęcie do pracowni Juliusa Schnorra von Carolsfelda. W 1843 roku został członkiem monachijskiego Kunstevereinu, w latach 40. figurował jako członek zagraniczny towarzystwa. W 1844 roku powrócił do Drezna, by zrealizować plan nauki u Bendemanna. W 1845 roku wziął udział w Wystawie Publicznej Szkoły Sztuk Pięknych w Warszawie, gdzie pokazał obraz historyczny "Józef i Putyfara" (zaginiony).
W 1845 roku Józef Simmler wrócił do Warszawy, ponieważ nie przedłużono mu paszportu. Jego prace z drugiej połowy lat 40. wykazują związki z niemieckim biedermeierem, są kameralne w tematyce i nastroju. Przeważają wśród nich portrety bliskich: matki, ojca i braci. Uważa się, że w sierpniu 1847 roku Simmler wyjechał do Paryża, a jego biograf, Wojciech Gerson, wspomina o kontaktach z Paulem Delarochem. Artystę fascynowało również malarstwo Charlesa Gleyre'a, uczył się dużo studiując dzieła w Luwrze i Galerii Luksemburskiej. Z tego okresu zachowała się między innymi kopia obrazu Delaroche'a "Dzieci króla Edwarda". Wykonywał też rysunki ołówkiem i piórkiem, między innymi szkice do poematu Maria Antoniego Malczewskiego. Z serii planowanych sześciu obrazów powstały dwa, z czego zachował się do dziś tylko jeden, "Pożegnanie Wacława z Marią".
Mimo iż podawane przez Wojciecha Gersona w biografii Simmlera daty nie zawsze są precyzyjne, pewne jest, że podczas swych podróży artysta często odwiedzał Monachium, o czym świadczą sygnatury na wielu rysunkach. Wpływ na to miała zapewne bliska znajomość z mieszkającą w Monachium Julią Hoegensteller, przyszłą żoną artysty.
Na początku 1849 roku Simmler po pobycie w Paryżu powrócił do Warszawy, a o jego znaczącej pozycji świadczyć może fakt, że został zaproszony przez Szkołę Sztuk Pięknych jako rzeczoznawca do oceny prac uczniów i przyznawania patentów. Na tworzonych wtedy portretach uwieczniał członków swej rodziny i przyjaciół. Malował też portrety par małżeńskich, między innymi Ferdynanda i Karoliny Galle z 1850 roku. W tym samym roku ożenił się w Monachium z Julią Hoegensteller. Zamieszkali razem w domu rodzinnym artysty w Warszawie przy ulicy Mazowieckiej.
W latach 50. XIX wieku Simmler malował głównie portrety, indywidualne i zbiorowe, na które mimo rosnącej popularności dagerotypu miał wiele zamówień. Przedstawiał najczęściej modela na ciemnym, jednolitym tle, z wielką dbałością o szczegóły stroju i podobieństwo fizjonomiczne. Cały warsztat malarza doskonalony był w kierunku możliwie najdokładniejszego naśladowania detalu, łudzącego podobieństwa faktur materii, iluzji przedmiotów. Wśród powstałych wówczas płócien są między innymi portrety mieszczan: "Portret Ksawerego Skrzyńskiego" (1852), "Portret panny Pisarzowskiej" (1852), "Portret pani Skwarcow" (1855), a także wizerunki artystów: "Portret Deotymy - Jadwigi Łuszczewskiej" (1855), "Portret Edwarda Petzeolda" (1856). Malował również pośmiertne konterfekty, zapewne na podstawie fotografii, jak na przykład "Portret doktora Wilhelma Malcza" (1853).
Oprócz portretów ważną dziedzinę twórczości Simmlera stanowiło malarstwo historyczne. Malował sceny biblijne, m.in. "Złożenie do grobu" (1850) oraz "Zuzanna i starcy" (1853). W 1856 roku wraz żoną odbył roczną podróż do Włoch. Jechali przez Szwajcarię, potem przebywali dłuższy czas we Florencji, Wenecji i Rzymie. Simmler odwiedzał muzea i kopiował dzieła dawnych mistrzów. Robił także szkice z natury. Namalował tam dwa obrazy: "Święty Jan Chrzciciel" oraz "Dwaj piferari włoscy".
W 1860 roku Simmlerowie zamieszkali we własnym domu przy ulicy Chmielnej w Warszawie, gdzie znajdowała się również pracownia artysty. Liczne zamówienia na portrety umożliwiały rodzinie dostatnie życie, a pozycja Simmlera gwarantowała prestiż społeczny. Malarz należał do grona artystów skupionych wokół Wojciecha Gersona, zabiegających o powołanie stowarzyszenia, którego celem byłaby organizacja wystaw sztuki. Wskutek ich starań Rada Administracyjna Królestwa Polskiego zatwierdziła w 1860 roku ustawę o utworzeniu Towarzystwa Sztuk Pięknych. Simmler wszedł do Komitetu, stanowiącego zarazem Zarząd Towarzystwa, i pozostał jego członkiem do końca życia.
Lata 60. to także okres niebywałego rozkwitu twórczości artysty. Do jego rozległej klienteli należała wówczas nie tylko burżuazja warszawska, ale także arystokracja i mieszczaństwo. Malowane przezeń reprezentacyjne portrety miały najczęściej wielkie formaty, prezentowały modeli w pełnej postaci, w tle ukazując fragmenty wnętrz. Z tego okresu pochodzi między innymi "Portret złotnika warszawskiego Karola Malcza" (1860), "Portret pułkownika Konstantego Fiszera" (1863), czy "Portret Emilii Włodkowskiej" (1865). Ten ostatni przedstawia właścicielkę domu mody w Warszawie, a jego głównym tematem wydaje się bogata suknia ze złotego atłasu, zdobiona misternie czarną koronką.
Malował też wizerunki wyższych urzędników carskich mieszkających w Warszawie i ich bliskich, jak "Portret generałowej Aleksandry Zatler" (1862). O sławie i prestiżu Simmlera świadczy też fakt zamówienia u niego dwóch oficjalnych portretów namiestnika Królestwa Polskiego hr. Teodora Berga (1866, 1867). W tym wyjątkowo intensywnym twórczo okresie powstawały nadal portrety rodzinne, między innymi córek artysty, trzyletniej Jadwigi (1854) oraz pięcioletniej Julii (1864), a także bratowej - Ludwiki Simmlerowej (1855).
Do ciekawych, alegorycznych prac należy "Szlachcic z papugą" (1859), do którego pozował brat artysty Julian Erhard Simmler. Płótno przedstawia młodego, zamyślonego szlachcica w stroju polskim, z barwną papugą na ręku. Zdaniem niektórych interpretatorów obraz nawiązuje do słów poematu "Grób Agamemnona" Juliusza Słowackiego:
Pawiem narodów byłaś i papugą
A teraz jesteś służebnicą cudzą
Do prac o wymowie alegorycznej zaliczyć można także obraz "Safona na szczycie Leukatei" (1863), do którego pozowała żona artysty w stroju Greczynki. Dziś jego pierwotne znaczenie nie jest czytelne, gdyż po upadku powstania styczniowego artysta przemalował dzieło, zmieniając strój grecki na szaty żałobne oraz dodając burzliwy pejzaż w tle dla zbudowania dramatycznego nastroju. Tematyka martyrologiczna wielokrotnie znalazła odzwierciedlenie w twórczości Simmlera z lat 1863-1865. Namalował między innymi "Portret Aleksandra Waszkowskiego" (1864), ostatniego naczelnika powstania, oraz "Portret Ludwika Mycielskiego" (1865), który zginął w starciu wojsk pod Bojanówką w 1863 roku.