Как расстаться?

Здравствуйте! Я живу с мужчиной уже4 года он был женатый но он не развёлся с женой хотя живёт со мной и думаю не разведётся я хочу уйти так как полюбила другого и он об этом знает но всё равно не отпускает говорит а как же я и кто мне будет помогать. Я собралась уходить пока его не будет дома просто по другому не могу не знаю правильно делаю или нет. Помогите пожалуйста дайте совет. Спасибо