Theo sách Việt điện u linh thì Lý Thường Kiệt là người phường Thái Hòa, ở bên phải kinh thành Thăng Long, thời Lý. Mãi đến gần đây, quê quán của Ngài mới được xác định cụ thể thêm, nhờ vào mọi người làng Bắc Biên còn giữ được một quả chuông lớn đúc năm Canh Ngọ (1690), nay treo ở chùa trong làng. Trên chuông có khắc bài minh nói rõ quê gốc của Lý Thường Kiệt là làng An Xá (trong nội thành Thăng Long), rồi sau đó chuyển đến Cơ Xá. Cơ Xá đổi thành Phúc Xá rồi hợp nhất với bãi Trung Hà. Cho đến khi boãi Trung Hoà bị lỡ hết, mọi người lại dời về Bắc Biên, nằm ven sông Hồng, ở phía Bắc chân cầu Long Biên ngày nay, cách nột thành khoảng 4 cây số.
Cha của Lý Thường Kiệt là Lý An Ngữ, làm quan triều Lý Thái Tổ đến chức Sùng ban lang tướng. Lý Thường Kiệt được nối nghiệp cha, ngay từ lúc còn ít tuổi đã đượcđưa vòa cung Long Đức ở ngoài thành để hầu cận Thái tử Phật Mã tức Lý Thái Tông sau này, với chức "Hoàng môn chi hậu".
Không quản là chức danh nhỏ mọn mà ngay từ thời ấy, nhiều thiên tư của Nhài đã được bộ lộ, khiến cho nhà vua tương lai rất mực hài lòng. Ngoài ra, Ngài là người đẹp trai và có phong tư tuấn nhã, nên đã nổi tiếng vào khắp kinh thành Thăng Long lúc bấy giờ.
Khi Lý Thái Tông lên ngôi, Ngài được phong "Nội thị sảnh đô tri", tức là giám sát các công việc xảy ra trong hoàng cung. Điều đó nói lên Ngài là người trung tín, được nhà vua tin cẩn ngay từ khi còn ít tuổi.
Quả vậy, tính tình của Ngài khảng khái cương trực, lại biết giữ tín lễ tiết và làm việc cần mẫn siêng năng, xét đoán các việc công minh, nên được nhà vua càng nể trọng thêm, và thăng lên chức Đình úy sứ, trông coi các việc về hình án trong triều. Cuối năm Nhâm Ngọ (1042) Ngài được nhà vua ủy nhiệm cùng một số đại thần khác soạn thỏa bộ "Hình thư". Đó là bộ luật Hình sự đầu tiên của nước ta.
Lý Thái Tông băng hà, Lý Thánh Tông nối ngôi (1054), ngài được phong là Hiệu úy Thái bảo. Ngài giữ chức một cách cung cẩn, trung tín, không để xảy ra sai sót điều gì. Lý Thánh Tông tin tường, giao cho Ngài "Tiết việt", tức là thay mặt nhà vua, đi kinh lý các sự việc xảy ra trong hai quận Thanh Hóa, Nghệ An và năm châu, ba nguồn kế cậ đó, thuôïc các boọ tộc người thiểu số. Sau máy tháng không quản đường xa, lại thêm leo đ èo vượt suối mệt nhọc, Ngài trở về, công việc hoàn thành mỹ mãn.
Tháng 2 - 1069, Lý Thánh Tông thân làm tướng thống lãnh mang đại quân đi đánh Chiêm Thành vì quân lính nước này thường hay quấy nhiễu biên giới. Ngài được phong chức Đại tướng, dẫn đạo binh tiên phong đi mở đường. Do Chiêm Thành chuẩn bị từ trước đã phòng thủ chắc chắn, nê quân ta đánh mãi không được. Lý Thánh Tông rút quân về châu Cư Liêm để nghe ngóng nội tình. Sau khi có lính cấm vệmang thư của Nguyên phi Nhiếp chính Ỷ Lan tới, báo tin Kinh đô vẫn vững vàng, lòng dân vẫn hòa hợp, nên nhà vua cho quân quay trở lại quyết chiến với Chiêm Thành. Lý Thường Kiệt đốc xuất binh lực, xông lên phá tan các tuyến phòng ngự của đối phương, bắt được vua Chiêm Thành là Chế Củ cùng 5 vạn người, cả lílnh lãn dân.
Chế Củ xin cắt đất dâng ba châu:Địa Lý (nay là huyện Lệ Ninh - Quảng Trị), Ma Linh (Bến Hải - Quảng Bình)và Bố Chính (Quảng Trạch, Bố Trạch, Tuyên Hóa - Quảng Bình) để chuộc tội tha về.