Năm 1965, tỉnh Hà Đông hợp nhất với tỉnh Sơn Tây thành Hà Tây, Sơn Tây vẫn là thị xã nhưng không giữ vai trò tỉnh lỵ.
Năm 2007, thị xã Sơn Tây "lên" thành phố, đến năm 2008, thực hiện Nghị quyết số 15/2008/QH12 về việc điều chỉnh địa giới hành chính thành phố Hà Nội và một số tỉnh liên quan, tỉnh Hà Tây sáp nhập với Hà Nội nên thành phố Sơn Tây lại trở thành thị xã. Dù tên gọi có thay đổi, song lịch sử và các giá trị văn hóa xứ Đoài vẫn hiển hiện tại đây.
Sơn Tây xưa thuộc đất Phong Châu, kinh đô của 18 đời vua Hùng. Thời Bắc thuộc, vùng đất này thuộc quận Giao Chỉ, sau đó thuộc Tân Hưng, rồi Tân Xương. Năm 1428, Lê Thái Tổ chia Đại Việt thành 5 đạo và Sơn Tây là đạo Tây. Năm 1469, vua Lê Thánh Tông đã lập đơn vị hành chính Sơn Tây thừa tuyên, trấn sở đặt tại xã La Phẩm, huyện Tiên Phong, phủ Quảng Oai (nay thuộc xã Tản Hồng, huyện Ba Vì). Rồi Sơn Tây thừa tuyên đổi thành trấn Sơn Tây.
Năm 1802, vua Gia Long chuyển trấn sở về làng Mông Phụ, tổng Cam Giá, huyện Phúc Lộc, phủ Quốc Oai (nay thuộc xã Đường Lâm, thị xã Sơn Tây). Năm 1822, vua Minh Mạng chuyển trấn sở về địa phận các xã Mai Trai, Thuần Nghệ, huyện Minh Nghĩa (sau gọi là Tùng Thiện), tức vùng trung tâm thị xã Sơn Tây ngày nay. Năm 1831, Minh Mạng đổi trấn Sơn Tây thành tỉnh Sơn Tây, cắt phủ Từ Liêm về tỉnh Hà Nội, Tam Nông về tỉnh Hưng Hóa (nay là Phú Thọ). Năm 1892, Pháp chia lại Bắc Kỳ nên diện tích Sơn Tây nhỏ hơn, chỉ còn 2 phủ là Quốc Oai, Quảng Oai với 4 huyện: Thạch Thất, Phúc Thọ, Tùng Thiện và Bất Bạt.
Sơn Tây có vị trí vô cùng quan trọng về quân sự. Giặc ngoại xâm nếu chiếm được Sơn Tây sẽ dễ dàng uy hiếp Thăng Long. Vì vậy, năm 1822, vua Minh Mạng xây thành Sơn Tây, dân gọi là “thành Đoài”, nay nằm trong nội thị. Có chi tiết ít người biết là 4 chức quan trong thành gồm Tổng đốc, Án sát, Đốc học, Đề đốc, mỗi ông dùng một giếng riêng. Sau này, 2 giếng đã bị lấp. Ngày 25-8-1883, triều đình Huế ký hòa ước công nhận quyền bảo hộ của Pháp, song các trấn thần quyết chống, họ đã hợp tác với quân Cờ Đen của tướng Lưu Vĩnh Phúc. Tổng quân vụ Hoàng Kế Viêm thân hành đưa 10 cơ binh đóng quân trong thành.
Đúng 5h sáng ngày 16-12-1883, Đô đốc Coubert lệnh cho đại đội lính lê dương đánh cửa hậu, một số khác và hải quân đánh cửa tiền. Đại tá Mahl chết. Quân Pháp vào được thành nhưng Lưu Vĩnh Phúc đã rút về Hưng Hóa, để lại gạo, tiền, công văn và 900 xác chết cùng hơn 1.000 quân bị thương. Phía Pháp chết 83 người, trong đó có 5 sĩ quan cấp chỉ huy và 320 lính bị thương.
Đa số quân Cờ Đen đều nghiện thuốc phiện nên mới có giai thoại, khi quân Pháp tràn vào thành, viên chỉ huy Cờ Đen thấy một tên đang nằm hút thuốc phiện trong khung thất bèn rút súng định bắn, nhưng gã này giơ tay bảo “từ từ”. Nói xong, gã hút thêm một điếu nữa rồi dí súng vào tai bóp cò.
Ở trận này, Hoàng Kế Viêm đã dùng 5 thớt voi chống đỡ quân Pháp, trong đó có con Sài rất tinh khôn. Trước đó, con Sài đã lập nhiều chiến công, được nhà vua phong tước Quận công. Tương truyền, khi con Sài chết, binh sĩ làm tang lễ long trọng không kém gì lễ tang của quan.
Cuối thế kỷ XIX, Tổng đốc tỉnh Sơn Tây mấy lần định phá tường thành và lấp hào mở rộng thị xã nhưng bị phản đối. Năm 1902, một số tướng Pháp đã gửi công văn cho chính phủ thuộc địa xin giữ lại làm kỷ niệm. Đề xuất này được chấp thuận. Ngày 16-5-1924, thành Sơn Tây được Toàn quyền Đông Dương xếp hạng cổ tích gồm: Tường thành, hào, 2 giếng, hai cửa ra vào vọng cung, võ miếu và một nghĩa trang nhỏ, sau trở thành nơi chôn binh lính Pháp tử trận.
Tại sao chính quyền Pháp không xây dựng Sơn Tây trở thành một thành phố? Lý do bởi ngoại vi thị xã là khu quân sự rộng lớn với mấy nghìn lính Pháp và các đơn vị kỹ thuật. Họ lập luận, một thành phố đông dân “có thể là chỗ ẩn náu cho nghĩa quân tấn công các doanh trại của Pháp”.
Tuy là thị xã nhưng đầu thế kỷ XX, Sơn Tây có đầy đủ dịch vụ: Quán ăn Âu của chủ Pháp, quán ăn Á của chủ là Hoa kiều, cửa hàng bán sữa tươi, cà phê, bánh ngọt, khách sạn... Ngày 1-7-1940, Pháp cho đặt trên đỉnh Vọng lâu một chiếc còi điện với 6 chiếc loa, cứ 12h là hú. Tính đến năm 1940, thị xã có 317 người Pháp (không tính binh lính), 4 người Mỹ, 186 người Hoa, 3 người Ấn Độ, một số người Campuchia và Lào.
Để ngăn chặn quân Việt Minh, quân đội Pháp xây đồn trên đồi Thông, một đồi cao ở ngoại vi thị xã, từ đây có thể bao quát cả khu vực. Do chữ “H” trong tiếng Pháp là âm câm nên họ phát âm thành “Tông”, họ cũng không dùng tên Sơn Tây mà gọi là thị xã Tông.