Ефим Цыбульский родился в 1932 году в Харькове, Украина, в семье Михаила (Моисея) и Люси Цыбульских. У его отца было три брата, Борис, Наум и Давид, и сестра Лиза. В начале войны, в 1941 году, отец Ефима вступил в ряды российской армии, а Ефим, его мать Люся и сестра Яна эвакуировались в Ташкент, Узбекистан. В октябре 1941 года немцы оккупировали Харьков. В декабре того же года немцы собрали местное еврейское население и привезли их на тракторный завод, чтобы убить в передвижных газовых камерах. Ефим и его семья выжили во время облав и через несколько месяцев были переселены в Новосибирск, Сибирь, где жили их родственники. В Новосибирске его мать работала на военном заводе. В 1943 году они вернулись в Харьков, который был освобожден русской армией. Затем Ефим и его семья переехали из Харькова в Полтаву, Украина. Там он познакомился со многими американскими летчиками, которые использовали этот город как место посадки и взлета британских и американских самолетов во время бомбардировок Берлина. Ефим служил в Советской Армии с 1953 по 1974 год. В 1974 году он был уволен из армии, так как отказался вступить в коммунистическую партию.