Как поступить в данной ситуации?

Здравствуйте, после почти 10 лет брака я ушел из семьи и впоследствии развелся с женой. Ушел из-за постоянных конфликтов и непонимания, не смог больше терпеть. Долгое время жили как соседи. Уходил в никуда, т.е. ни любовницы ни другой женщины на тот момент не было. От брака остались двое детей, дочка 6 лет и сын 9 лет. Впоследствии встретил женщину и влюбился как мальчишка. Начали жить совместно. У нее трое детей. Поначалу все вроде бы хорошо было. Со своими детьми виделся по возможности, помогал. Но вскоре мои дети стали сильно ревновать, и обижаться на меня,что я живу в другой семье и с чужими детьми. Да и виноватым себя чувствую, что своих детей редко вижу, а чужих каждый день. После чего ушел от женщины которую люблю, живу один, стараюсь с детьми чаще видеться, хотя на душе особо лучше не стало, одиночество жуткое. Не знаю что делать или жить с женщиной которую люблю или вернуться обратно домой ради детей которых очень люблю, хотя не факт что бывшая жена на это положительно отреагирует. Ее все устраивает, дети с ней, материально помогаю. Вот вкратце и все. Спасибо.