Thật khó biết chính xác hồ Tây có từ bao giờ nhưng khi Hai Bà Trưng đánh quân Đông Hán, sử chép đã có.
Theo các nhà nghiên cứu, xưa kia hồ là một phần của sông Hồng, do quá trình biến chuyển, đổi dòng của sông Hồng mà hình thành nên. Trước đây diện tích lúc hồ đầy nước rộng trên 500ha, lúc mực nước thấp nhất chỉ hơn 200ha. Từ khi xây kè, diện tích hồ ổn định ở mức 460ha.
Không có hồ nào ở Việt Nam có nhiều tên gọi như hồ Tây. Đó là Kim Ngưu, Lãng Bạc, Tây Hồ, Dâm Đàm, Xác Cáo. Mỗi cái tên gắn với một sự tích. Hồ Tây rộng lớn ẩn chứa nhiều truyền thuyết, bí ẩn. Đời nhà Lý, ở nước ta có Nguyễn Minh Không sang Trung Quốc chữa bệnh cho con vua Tống. Khi hoàng tử khỏi bệnh, vua Tống trả ơn bằng cách cho phép Minh Không vào kho báu chọn món đồ theo ý thích và lấy bao nhiêu cũng được, nhưng Minh Không chỉ lấy đồng đen cho vào bao mang về dâng vua Lý. Ngài sai đem chỗ đồng đen ấy đúc thành chuông. Đúc xong mang ra đánh thử. Tiếng chuông vang vọng sang tận Trung Quốc. Nghe tiếng chuông ngân, trâu vàng ở bên ấy lồng lên chạy về nơi phát ra âm thanh. Những nơi trâu đi qua thành sông, nên dân gian đặt tên là Kim Ngưu. Vua sai ném chuông xuống hồ để trâu khỏi lồng và trâu đã lặn theo. Từ đó, hồ có tên là Kim Ngưu.
Một truyền thuyết khác gắn với cái tên hồ Xác Cáo: Theo sách “Lĩnh Nam chính quái”, ở hồ phía Tây kinh thành có hang là nơi trú ngụ của con cáo chín đuôi đã thành tinh. Con cáo gây ra bao nhiêu điều ác khiến dân phải bỏ nhà lánh đi nơi khác. Lạc Long Quân biết chuyện đã đến trừ họa cho dân. Hồ tinh dù lắm tài biến hóa song vẫn không thoát khỏi tay Lạc Long Quân. Khi hồ tinh bị giết, nó hiện nguyên hình con cáo chín đuôi. Lạc Long Quân giải thoát cho những người bị hồ tinh bắt giam, cho họ miếng đất cao gần đó để ở và lập làng. Di tích còn đến ngày nay là làng Cáo (tên chữ là Xuân Tảo) và làng Giàn (tên chữ là Cáo Đỉnh).
Cách nay gần 1.000 năm, ở hồ Tây từng xảy ra một vụ án giết vua. Chính sử cũng chép về vụ án này. Có người gọi là “vụ án hóa hổ”, có người gọi là “vụ án hồ Dâm Đàm”. “Đại Việt sử ký toàn thư” chép: “Vua ra hồ Dâm Đàm ngự trên thuyền nhỏ xem đánh cá. Chợt có mây mù nổi lên, trong đám mù nghe có tiếng thuyền bơi đến, tiếng mái chèo rào rào, vua lấy giáo ném. Chốc lát mây mù tan, thấy trong thuyền có con hổ, mọi người sợ tái mặt, nói: “Việc nguy rồi!”. Người đánh cá là Mục Thận quăng lưới trùm lên con hổ, thì ra là Thái sư Lê Văn Thịnh. Vua nghĩ Thịnh là đại thần có công giúp nước, không nỡ giết, đầy lên trại đầu Thao Giang”. Năm 1993, trong khi tu sửa đường vào chùa Bảo Tháp (nay thuộc thị trấn Gia Bình, huyện Gia Bình, tỉnh Bắc Ninh - quê của Lê Văn Thịnh), người ta đã phát hiện một bức tượng hình thù kỳ lạ mang dáng vẻ con rồng được tạo tác bằng đá nguyên khối, có chân, miệng đầy răng, trong tư thế “miệng cắn thân, chân xé mình”. Việc rồng tự cắn thân, xé mình thể hiện nỗi oan trái. Theo các nhà nghiên cứu mỹ thuật, tượng được tạc vào thời Hậu Lê, nhưng ai tạc, tạc vào năm nào còn là dấu hỏi.
Ở Thụy Khuê xưa có chùa Đõ (nay không còn). Chùa có bức tượng Phật ở tư thế lảo đảo như say rượu nên dân gian gọi là tượng Phật say. Làng Thụy Khuê có loại rượu nổi tiếng gọi là Liên tửu (rượu sen) được nấu bằng gạo, khi cất rượu chảy qua nhiều lớp nhụy sen. Đây là giống sen Bách Diệp chỉ có ở hồ Tây. Dù đạo Phật có năm điều cấm, trong đó có cấm uống rượu, nhưng Phật thấy rượu quá ngon nên ngài phá lệ, uống đến say. Một truyền thuyết khác cũng rất bí ẩn được chép trong “Tây Hồ chí”. Thế kỷ X, Cao Biền, một tướng giỏi của nhà Đường (Trung Quốc) và là người am hiểu phong thủy cử làm Tiết độ sứ ở An Nam. Biết đất Đại La là vượng khí (năm 1010, Lý Công Uẩn xây thành mới trên nền Đại La, gọi là thành Thăng Long) mà hồ Tây được coi là “não thủy” của đất này, nên dù có khả năng trấn yểm trừ mối họa song Cao Biền cũng bất lực.
Tuy nhiên, có bài viết mô tả rất ly kỳ về các ngôi mộ dưới đáy hồ. Sự thực không phải như vậy. Xưa hồ Tây có hai nguồn cung nước gồm nước mưa và nước sông Tô Lịch, Thiên Phù. Khi hai con sông này thành sông chết thì hồ chỉ có nguồn cung là nước mưa và nước thải. Ngay cả mùa mưa, nước hồ cũng thấp, các làng quanh hồ đã trồng rau, chôn người chết ở bãi đất trống. Năm 1925, Nhà máy Điện Yên Phụ khánh thành. Hằng ngày, nhà máy thải ra một lượng nước khá lớn. Nước này vào hồ Trúc Bạch, qua cống trên đường Thanh Niên chảy sang hồ Tây. Lại thêm nước sinh hoạt ở phía Bắc thành phố, các làng quanh hồ cũng đổ nước ra hồ. Vào mùa mưa, nước hồ dâng cao nên sau này nhiều gia đình có mộ đã cất bốc đưa đi nơi khác. Chỉ còn mộ của bà chúa thơ Nôm Hồ Xuân Hương vẫn chìm dưới hồ. Tuy nhiên, mộ nằm ở khu vực nào thì cho đến nay vẫn chưa xác định được.