Józef Czechowicz przyszedł na świat w rodzinie Małgorzaty z Sułków i Pawła Czechowicza, 15 marca 1903. Był czwartym dzieckiem swych rodziców, którzy należeli do proletariuszy (ojciec poety, Paweł Czechowicz, pracował jako woźny w Banku Handlowym). Mimo niedostatków materialnych rodzice bardzo dbali o to, by ich dzieci były należycie wyedukowane, zatem po ukończeniu elementarnej szkoły rosyjskiej, Józef Czechowicz uczył się w polskiej szkole powszechnej, a następnie w seminarium nauczycielskim, które to wykształcenie uzupełnił jeszcze zaliczeniem Wyższego Kursu Nauczycielskiego (bez niego mógłby pracować jedynie jako nauczyciel wiejski).
Studiów nie podjął z przyczyn rodzinnych i materialnych (w tym czasie ojciec poety zachorował psychicznie). Po ukończeniu edukacji Czechowicz najpierw jako siedemnastolatek wziął udział w wojnie polsko-bolszewickiej, a po jej zakończeniu podjął pracę jako nauczyciel. Pracował między innymi w Szkole Specjalnej w Lublinie oraz w Instytucie dla Głuchoniemych i Ociemniałych.
Zadebiutował literacko w 1923 roku, w tym roku również roku został współtwórcą grupy literackiej Reflektororaz pisma o tym samym tytule, w którym ukazywały się od tej pory jego utwory. Poezje Czechowicza z tych lat można też było czytać w Kwadrydzei w Drodze. Jego twórczość była napiętnowana osobistymi doświadczeniami, z których najbardziej przejmującymi były niewesołe doświadczenia społeczne oraz przerażające wojenne. Wyraźnie odnaleźć można było również lęk przed chorobą, która stała się udziałem ojca poety oraz pasję w dążeniu do tego, by ciągle się rozwijać.
W 1930 roku niespodzianka od losu w postaci stypendium Ministerstwa Wyznań Religijnych i Oświecenia Publicznego dała poecie możliwość rocznego pobytu w Paryżu. Po powrocie stamtąd twórca nie zdecydował się już na powrót do pracy nauczyciela i zaczął pracować jako dziennikarz w dziale literackim dziennika Ziemia Lubelskaa następnie, od 1932 roku jako redaktor naczelny Kuriera Lubelskiego.
Po roku poeta przeniósł się do Warszawy, by redagować tu między innymi pisma dla dzieci i młodzieży: Płomyczeki Płomyk, Zetoraz Głos Nauczycielski, a później zostać redaktorem naczelnym Miesięcznika Literatury i Sztuki. Poeta pracował tu również w radiu. Ponieważ nakładem czasopisma Kwadrygaukazał się drugi tom poezji Czechowicza, który odniósł sukces, twórca stał się postacią centralną nowej fali awangardzistów wywodzących się głównie z prowincji.
Wybuch wojny zmusił poetę do powrotu do rodzinnego Lublina. Dziewiątego dnia po rozpoczęciu przez Niemcy działań wojennych poeta udał się do fryzjera i już nigdy nie wrócił. Rozpoczęło się bombardowanie, a poeta, jak przepowiedział to w jednym ze swych utworów, zginął bombą trafiony w stallach.