Edvardas gimė 1894 m. spalio 13 d. Tauragės apskrities Skaudvilės valsčiaus Pabalčių kaime, Teresės ir Juozo Rulinskų šeimoje. Kartu dar augo brolis Antanas ir sesuo Stasė. 1914 m. Edvardas baigė keturių klasių mokyklą Raseiniuose, išmoko rusų ir lenkų kalbas.
Pirmojo pasaulinio karo pradžioje E.Rulinskas buvo mobilizuotas į Rusijos kariuomenę, 1915 m. rugpjūčio mėnesį pradėjo tarnauti 24-ajame atsargos batalione. 1915 m. rudenį įstojęs į Aleksandrovsko praporščikų mokyklą, gruodžio mėnesį jau gavo vyresniojo puskarininkio laipsnį.
Tarnaudamas 11-ajame Suomijos pėstininkų pulke, 1916 m. balandžio mėnesį gavo pirmą karininko laipsnį, nuo 1916 m. rugpjūčio tarnavo jaunesniuoju karininku 33-iojo atsargos pulko aštuntoje kuopoje. Nuo 1916 m. lapkričio iki 1917 m. rugsėjo buvo 42-ojo Jakutsko pėstininkų pulko dvyliktos kuopos jaunesnysis karininkas.
Edvardas dalyvavo Pirmojo pasaulinio karo mūšiuose Bukovinos ir Galicijos fronte, 1917 m. liepos mėnesį savanoriškai įstojo į Kijeve formuojamą lietuvių batalioną, kuriame iki 1918 m. balandžio tarnavo raštininku.
1919 m. birželio 21 d. jis buvo pašauktas į Lietuvos kariuomenę ir paskirtas į 1-ąjį pėstininkų Gedimino pulką, į antrąją kuopą. E.Rulinskas dalyvavo kovose su visais Lietuvos priešais – bolševikais, bermontininkais ir lenkais, ypač pasižymėjo kautynėse su bermontininkais 1919 m. lapkričio 22 d. ties Radviliškiu.
„1919 m. naktį iš lapkričio 17 į lapkričio 18 d. karininkas Rulinskas gavo užduotį atlikti žvalgybą Nortaico kaimo link. Karininkas Rulinskas su puse būrio prisiartino prie pat kaimo, apmėtė priešą rankinėmis granatomis ir bermontininkus išblaškė.
Puolimo rezultatas – trys bermontininkai užmušti, trys paimti į nelaisvę, be to, paimtas priešo kulkosvaidis ir du arkliai“, – taip rašė karinė vadovybė, pristatydama E.Rulinską 1-ojo laipsnio Vyčio Kryžiaus apdovanojimui. Jis 1920 m. vasario 18 d. narsiam kariui įteiktas įsakymu Nr. 243 Lietuvos kariuomenei.
1920 m. vasario mėnesį E.Rulinskas tapo leitenantu, balandžio mėnesį gavo vyresniojo leitenanto laipsnį. Laikinai vadovavo ketvirtajai ir devintajai kuopoms. 1924 m. lapkričio 30 d. pačiam prašant paleistas iš kariuomenės į atsargą.
1920 m. E.Rulinskas vedė Oną Laužikaitę. Jo sūnėnas Steponas Rulinskas pasakoja, kad ji nuskendo netrukus po jų vestuvių. Vėliau jaunas našlys antrą kartą vedė panelę Anelę Kotryną Pac-Pamerneckaitę. Išėjęs į atsargą, E.Rulinskas gyveno žmonos ūkyje Ukmergės apskrities Širvintų valsčiaus Spadviliškių kaime. 1935 m. iš valdžios už savanorišką tarnybą Lietuvos kariuomenėje jis gavo 15 hektarų žemės, priklausė Tautininkų sąjungai, vadovavo jos skyriui Širvintose.
Okupavus Lietuvą, E.Rulinskas su žmona buvo suimtas. 1941 m. birželio 14 d. jie buvo išvežti į Rešiotus Žemutinio Ingašo rajone (Krasnojarsko kraštas). Vėliau E.Rulinskas perkeltas į Pesčianlagą (Karagandos sritis, Kazachstanas). Žmona ištremta į Altajaus krašto Ourot Tūros rajono Kutašo gyvenvietę, ten jos pėdsakai ir pradingo.
1943 m. sausio 2 d. NKVD po ypatingojo pasitarimo E.Rulinską nuteisė 10 metų katorgos. Jis turėjo būti išsiųstas į NKVD Ypatingąjį lagerį. Edvardas buvo laikomas Karagandos lageryje „Pesčianyj“, vėliau – kituose Karagandos lageriuose Karabaso stotyje, o taip pat Čuruban Norinske.
Nuo 1951 m. kovo 9 d. buvo ištremtas į Šipicino gyvenvietę Vengerovo rajone (Novosibirsko sritis). 1956 m. kovo 3 d. paleistas grįžo į Lietuvą.
Apsigyveno jau mirusio brolio Antano Rulinsko (1897–1944 m.), taip pat nepriklausomybės kovų savanorio, šeimoje dabartinio Raseinių rajono Nemakščių seniūnijoje, kur gyveno našlė Teklė Rulinskienė su trimis sūnumis. 1958 m. E.Rulinskas su brolio našle Tekle susituokė.
Kaip pasakoja sūnėnas Steponas Rulinskas, jį patį santuoka su iš Biržų krašto kilusia Aldona atvedė į Likėnus. Kartu čia atsikėlė ir motina Teklė Rulinskienė, ir dėdė Edvardas Rulinskas. Mirė Vyties Kryžiaus kavalierius 1984 m. rugpjūčio 30 d. Likėnuose, palaidotas Pabiržės kapinėse.
„Dėdė buvo kuklus, mažakalbis žmogus, – prisimena sūnėnas S.Rulinskas. – Tačiau kartais, pavyzdžiui, matant per televiziją rodomus filmus apie karą, ir jam išsprūsdavo prisiminimai apie dalyvavimą Pirmajame pasauliniame kare, Lietuvos nepriklausomybės kovose, buvusio kario lūpose nuskambėdavo kariškų terminų, priešų ir bendražygių, kovos draugų vardai.“