Edukację artystyczną rozpoczął ok. 1898 w Monachium w prywatnych szkołach Stanisława Grocholskiego i Antona Ažbego. Mieszkając w pobliskim Dachau zajmował się malarstwem pejzażowym. W 1900 kontynuował naukę w krakowskiej Akademii Sztuk Pięknych pod kierunkiem Jana Stanisławskiego; w tymże roku zadebiutował na wystawie Towarzystwa Przyjaciół Sztuk Pięknych. W 1901 uczęszczał w Warszawie do prywatnej szkoły Konrada Krzyżanowskiego; wszedł wówczas w krąg artystów skupionych wokół Zenona Przesmyckiego i elitarnego czasopisma "Chimera". W 1902 wyjechał do Francji i podjął studia w pracowni rzeźby Huberta Ponscarmego w paryskiej École des Beaux-Arts.
W 1903 artysta osiadł w Paryżu na stałe; utrzymywał bliskie kontakty z polską kolonią artystyczną, głównie z Olgą Boznańską, Władysławem Ślewińskim, Bolesławem Biegasem, Eugeniuszem Zakiem i Eli Nadelmanem. Mieszkając na Montparnassie obracał się w sferach międzynarodowej elity artystycznej; bliższa znajomość łączyła go z Amedeo Modiglianim i Giorgio de Chirico. Jego sztukę promowali wybitni krytycy, m.in. Guillaume Apollinaire, André Salmon i Louis Vauxcelles. Przyjacielską opieką otoczył go znakomity rzeźbiarz Émile-Antoine Bourdelle. Jego prace reprodukował w luksusowym czasopiśmie "Sztuka" Antoni Potocki. W 1914 Gwozdecki zainicjował powstanie Akademii Malarskiej - uczelni dla polskich twórców przebywających we Francji, której działalność przerwał wybuch I wojny światowej. Artysta działał ponadto w organizacjach polonijnych, Towarzystwie Artystów Polskich w Paryżu i Kole Artystów Polskich.
Od 1916 przebywał na zmianę w Paryżu i Nowym Jorku, gdzie propagował polską kulturę zakładając m.in. w 1927 Komitet Stosunków Artystycznych Polsko-Amerykańskich. Pełnił też funkcję przewodniczącego zarządu nowojorskich Salonów Dorocznych. Więzi przyjaźni łączyły go z Katherine Dreier, artystką i kolekcjonerką promującą w ramach Société Anonyme sztukę abstrakcyjną.
Uczestniczył w paryskim Salon Société Nationale des Beaux-Arts (1904-1911), Salon des Indépendants (1905, 1906, 1910-1914) oraz Salon d'Automne (1904, 1906, 1910-1913, 1927-1934). Swe prace pokazał na ekspozycjach Kunstverein w Monachium (1900) oraz Juryfreien w Wiedniu i Berlinie (1910-1911). Brał czynny udział w życiu artystycznym w kraju, m.in. wykonując rysunki dla czasopism "Rydwan" i "Krokwie". Swą twórczość prezentował w krakowskim i lwowskim Towarzystwie Przyjaciół Sztuk Pięknych (1906) oraz warszawskim Towarzystwie Zachęty Sztuk Pięknych (1901, 1903, 1905, 1906, 1908-1912, 1914). Przyłączał się do ekspozycji Towarzystwa Artystów Polskich "Sztuka"; w latach 1917-1919 wystawiał z awangardowym ugrupowaniem Ekspresjoniści Polscy (Formiści). Zajmował się także krytyką i teorią sztuki; swe artykuły publikował na łamach lwowskiego pisma "Nasz Kraj" oraz francuskiego "L'Ami du Peuple". W 1908 ogłosił rozprawę "O ewolucji w sztuce". Indywidualne wystawy Gwozdeckiego odbyły się Poznaniu (1907), Lwowie (1907) i Krakowie (1908). W Paryżu artysta zorganizował pokazy swej twórczości we własnej pracowni na Montparnassie w 1912, 1913 i 1935 r. Prezentował też parokrotnie swe prace w Nowym Jorku (1918, 1921/1922, 1925).