Theo Đại Nam thực lục chính biên, vì là Bắc thành nên không thể to hơn kinh đô Huế. Vì vậy, năm 1805, vua Gia Long đã sai phá thành Thăng Long thời Lê và cho xây thành mới ở vị trí cũ. Thành mới hình vuông hẹp hơn so với thành cũ. Tường thành cao 5m, xung quanh có hào rộng 20m, sâu 5m. Thành có 5 cửa, riêng phía Nam có hai cửa, trên cửa có gác canh gọi là thú lâu. Trên thú lâu có lính canh suốt ngày đêm. Tại các góc thành đều có tháp bảo vệ được xây lồi ra. Từ ngoài vào trong thành phải qua hai lần cầu trên hai tuyến hào.
Trung tâm thành vẫn là điện Kính Thiên, phía sau Kính Thiên là Hành cung - nơi dành cho vua ở mỗi khi tuần giá Bắc Hà. Phía Đông thành là dinh Tổng trấn (sau đổi là dinh Tổng đốc rồi Tuần phủ Hà Nội). Đến đời vua Minh Mạng đổi Bắc thành thành tỉnh Hà Nội. Năm 1835, Minh Mạng cho hạ thấp tường thành xuống 1 thước 8 tấc (tương đương 3,7m), bịt hai cửa Tây và Nam. Từ đây, thành được gọi là thành Hà Nội. Năm 1848, vua Tự Đức ra lệnh phá dỡ các cung điện còn lại trong thành Hà Nội nhằm lấy đồ gỗ, đá chạm trổ đưa về Huế để trang trí nên chỉ còn lại đôi rồng đá trước điện Kính Thiên. Thời vua Tự Đức, trong thành có 3.000 quân cùng gia đình khiến thành như một thị trấn riêng biệt.
Sau khi chiếm Nam Kỳ, thực dân Pháp mưu tính chiếm Bắc Kỳ. Năm 1873, Pháp đánh thành Hà Nội lần thứ nhất. Dù rất đông binh lính đồn trú nhưng thành vẫn bị thất thủ, Tổng đốc Nguyễn Tri Phương và con trai Nguyễn Lâm chết. Sau khi nhà Nguyễn chấp nhận điều kiện do thực dân Pháp đưa ra trong hòa đàm, họ trả lại thành. Năm 1882, Pháp đánh thành lần thứ hai. Dưới sự chỉ huy của Tổng đốc Hoàng Diệu, quân lính chống đỡ quyết liệt nhưng cuối cùng vẫn thất thủ, Hoàng Diệu tuẫn tiết.
Chiếm được thành, chỉ huy quân Pháp là Henri Rivière sai phá các cửa, bạt thấp một số đoạn tường, điện Kính Thiên bị sửa làm lô cốt. Ban đêm, nghĩa quân các vùng lân cận vào quấy rối thành nên lính Pháp phải chui vào lô cốt cố thủ. Các quan tỉnh Hà Nội bị Pháp đuổi hết ra bên ngoài. Đoan Môn cũng bị sửa làm nơi ở cho lính. Cột cờ xây từ năm 1812 được làm thêm mái che, bên trong nuôi chim bồ câu đưa thư cho quân Pháp. Năm 1887, Hành cung bị phá để xây tòa nhà hai tầng làm sở chỉ huy pháo binh. Hậu Lâu cũng bị san phẳng làm trại lính.
Thời gian Pháp đóng quân, thành Hà Nội hoang tàn và bị phá nát. Ngày 23-7-1893, Hội đồng Thị chính thành phố Hà Nội họp và quyết định phá bỏ bốn bức tường thành Hà Nội. Sau đó, Toàn quyền Đông Dương Jean-Marie de Lanessan (1891 - 1894) đại diện cho chính phủ Pháp ký hợp đồng phá dỡ với đại diện nhà thầu là Auguste Bazin. Ông này tổ chức đấu thầu phá dỡ tường và trúng thầu là cô Tư Hồng, một phụ nữ Việt Nam.
Về việc phá tường thành, báo “Người Bắc Kỳ độc lập” viết: “Lý do phá thành không rõ ràng, không phải để lấy đất phát triển thành phố vì quỹ đất Hà Nội dồi dào, cũng không phải vì mục đích quân sự”. Vì thế, người Pháp sống ở Hà Nội và những người Hà Nội theo sát thời cuộc cho rằng, việc phá thành là cuộc làm ăn chia chác giữa nhóm người có quyền và một vài nhà tư bản.
Tuy nhiên, lý do chính thức đã được Toàn quyền Đông Dương Paul Doumer (1897 - 1902) công bố trong cuốn hồi ký L’Indochine Francaise (Xứ Đông Pháp - Những kỷ niệm, xuất bản ở Paris năm 1905) như sau: “Người ta lấy lý do là những bức tường thành đã ngăn cản sự lưu thông của khí trời đến mức mà những người dân châu Âu cư trú trong đó phải chịu đựng sự ô nhiễm độc hại. Nếu đúng như vậy thì sự lo lắng đến sức khỏe con người đã vượt qua mọi thứ khác trong những xứ nhiệt đới nơi mà quá nhiều nguy hiểm đe dọa họ, vậy thì chúng ta cũng không nên tiếc hành động đã làm. Chỉ có điều buồn cho nghệ thuật và lịch sử là cổng thành không còn nữa. Tôi đã đến quá chậm trễ để có thể cứu vãn những bi thảm của tòa thành đó. Đặc biệt là những cửa thành, nó xứng đáng được bảo tồn”.
Sau năm 1954, một phần diện tích của thành do Bộ Quốc phòng quản lý. Ngày 20-6-2012, Bộ Quốc phòng đã bàn giao phần phía Bắc thành cổ cho Hà Nội. Khu vực này hiện là điểm đến của những người muốn tìm hiểu lịch sử Việt Nam, cũng là địa điểm tham quan thú vị của du khách trong và ngoài nước bởi Khu trung tâm Hoàng thành Thăng Long đã được UNESCO công nhận là Di sản văn hóa thế giới năm 2010.