他要走可以，孩子他至少带走一个，这是他的责任

他和你婚了这么多年，有了2个孩子，不可能拍拍屁股就走人，那是遗弃罪。

如果给他一个孩子，他会权衡利弊，看他还要离婚吗？

你们要改善关系，比较好的办法是，他多分担些孩子的事，你多给他些温情，过了这一时，可能会好起来。