Ефим Цыбульский родился в 1932 году в Харкофе, Украина, в семье Михаила (Моисея) и Люси Цыбульских. У его отца было три брата, Борис, Наум и Давид, и сестра Лиза. В начале войны, в 1941 году, отец Ефима вступил в ряды российской армии, а Ефим, его мать Люся и сестра Яна эвакуировались в Ташкент, Узбекистан. В октябре 1941 года немцы оккупировали Харкоф. В декабре того же года немцы собрали местное еврейское население и привезли их на тракторный завод, чтобы убить в передвижных газовых фургонах. Ефим и его семья пережили облаву и через несколько месяцев были перевезены в Новосибирск, Сибирь, где жили некоторые из их родственников. В Новосибирске его мать работала на военном заводе. В 1943 году они вернулись в Харкоф, который был освобожден русской армией. Затем Ефим и его семья переехали из Харкофа в Полтаву, Украина. Там он познакомился со многими американскими летчиками, которые использовали город как место посадки и взлета британских и американских самолетов во время бомбардировок Берлина. Ефим служил в Советской Армии с 1953 по 1974 год. В 1974 году он был демобилизован из армии из-за отказа вступить в коммунистическую партию.