Studimet fillore i kreu në Gjirokastër. Më pas kreu shkollën e mesme në Klagenfurt dhe pasi braktisi Fakultetin e Mjekësisë në Romë, u regjistrua në Fakultetin e Filologjisë në Universitetin e Gracit, e më pas në Universitetin e Vjenës, në Austri, ku dhe përfundoi studimet.
Me kthimin e tij në Shqipëri dha mësim në gjimnazin e Shkodrës, në Shkollën Normale të Elbasanit, në Liceun e Tiranës, si dhe punoi për një kohë të shkurtër në Ministrinë e Arsimit.
Më 1940 filloi punën ambicioze për hartimin e Atlasit Gjuhësor të Shqipes. Pas Luftës II Botërore ishte anëtar i Institutit të Shkencave e më pas pedagog në Universitetin e Tiranës dhe anëtar themelues e akademik në Akademinë e Shkencave të Shqipërisë.
Çabej u specializua në gjuhësinë krahasuese indoevropiane. Veprimtarinë shkencore e shtjelloi në gjuhësi, por edhe jashtë saj, në folklor, etnografi dhe histori të letërsisë. Vend zënë studimet etimologjike dhe leksikologjike historike, dialektologjia e onomastikës si edhe kodifikimi i gjuhës letrare. Çabej ka dhënë një ndihmë të çmuar me një varg sqarimesh etimologjike gjatë hartimit të Fjalorit të Gjuhës Shqipe të botuar në Tiranë, më 1980. Eqrem Çabej është dekoruar me urdhrin “Nderi i Kombit”. Ai ndërroi jetë pak ditë pas ditëlindjes së tij të shtatëdhjetë e dytë, më 13 gusht të vitit 1980, në një klinikë të Romës.