var cnt = document.getElementById('container'), // получаем элемент из DON
    newElement = document.createElement("div");

newElement.innerHTML = "<h4>New element's content</h4>";

cnt.appendChild(newElement);
cnt.removeChild(newElement);
cnt.replaceChild(document.createElement("p"));