Khuê Văn Các được Tổng trấn Bắc thành Nguyễn Văn Thành (1758 - 1817) cho xây dựng vào năm 1805. Công trình là một lầu vuông 8 mái, gồm 4 mái thượng và 4 mái hạ, được xây trên một nền vuông lát gạch Bát Tràng xây cao hơn so với mặt đất khoảng 1m. Tầng dưới là 4 cột trụ hình vuông với họa tiết cầu kỳ, bốn bề để trống. Tầng trên là kiến trúc gỗ 2 tầng, mái cũng gồm 2 tầng và được lợp ngói ống. Bốn cạnh gác có diềm gỗ được chạm trổ tinh vi, xung quanh là lan can hình con tiện. Ở bốn mặt gác trổ 4 cửa sổ tròn xung quanh có những thanh gỗ tỏa ra bốn phía, tượng trưng cho các tia sáng của sao Khuê.
Trên gác có treo tấm biển sơn son thếp vàng đề 3 chữ Hán: “Khuê Văn Các”, nghĩa là “gác Khuê Văn”. Xung quanh 4 mặt gác đều có câu đối mang nội dung tôn vinh vẻ đẹp của gác Khuê Văn và đạo học dài lâu. Theo cách lý giải của người xưa, “Khuê” là tên một ngôi sao trong chòm 28 sao. Chòm sao Khuê có 16 ngôi, sắp xếp khúc khuỷu giống như hình chữ Văn. Trong sách “Hiếu kinh” có ghi: “Khuê chủ văn chương”, tức sao Khuê là sao chủ của văn chương.
Đặc biệt, những ô cửa sổ tròn trên gác Khuê Văn tượng trưng cho bầu trời, được thiết kế để khi ánh nắng chiếu qua sẽ phản chiếu xuống giếng Thiên Quang bên dưới, tượng trưng cho mặt đất. Lối kiến trúc này mang tư tưởng triết lý sâu xa của người xưa, ý nói đây là nơi tập trung mọi tinh hoa của trời đất và đề cao văn hóa Nho học Việt Nam.
Được thiết kế theo lối kiến trúc tam quan truyền thống của người Việt, Khuê Văn Các là cổng chính, hai bên là hai cổng Bí Văn (văn chương trau chuốt, sáng sủa) và Súc Văn (văn chương hàm ý, súc tích). Với những tư tưởng, triết lý sâu xa, tôn vinh truyền thống hiếu học của người Việt, Khuê Văn Các được coi là biểu trưng cho nền văn hiến Việt Nam. Năm 1999, Khuê Văn Các chính thức được chọn là biểu tượng của Thủ đô Hà Nội.