Không ai biết chính xác việc trang hoàng cây Giáng Sinh được bắt đầu như thế nào, nhưng có không ít truyền thuyết về nó.
Một truyền thuyết kể rằng thánh Boniface, một thầy tu người Anh, người đã sáng lập ra nhà thờ đạo Cơ Ðốc ở Pháp và Ðức, một hôm trên đường hành hương tình cờ bắt gặp một nhóm những kẻ dị giáo đang tập trung quanh một cây sồi lớn. Họ dùng một đứa trẻ để tế thần. Ðể dừng buổi tế thần và cứu đứa trẻ, Boniface đã hạ gục cây sồi chỉ bằng một quả đấm! Tại nơi đó đã mọc lên một cây thông nhỏ. Vị thánh nói với những kẻ dị giáo rằng cây thông nhỏ là cây của sự sống và nó tượng trưng cho cuộc sống vĩnh hằng của Chúa cứu thế.
Theo một câu chuyện khác, một lần thánh Martin Luther, người sáng lập đạo Tin Lành dạo bước qua những cánh rừng vào một đêm Noel khoảng năm 1500. Trời quang và lạnh. Hàng triệu vì sao sáng lấp lánh qua kẽ lá. Ngài thực sự ngỡ ngàng trước vẻ đẹp của một loài cây nhỏ, trên cành cây tuyết trắng phủ đầy, lung linh dưới ánh trăng. Cảnh vật hôm đó đã làm Luther thực sự rung động. Vì thế, khi trở về ngài đã đặt một cây thông nhỏ trong nhà và kể lại câu chuyện này với trẻ con. Ðể tái tạo ánh sáng lấp lánh của muôn ngàn ánh sao, ngài đã treo nến lên cành cây thông và thắp sáng những ngọn nến ấy với lòng tôn kính ngày Chúa giáng sinh.
Lại có một truyền thuyết kể rằng, vào một đêm Noel, có một người tiều phu nghèo khổ đang trên đường trở về nhà thì gặp một đứa trẻ bị lạc và sắp lả đi vì đói. Mặc dù nghèo khó nhưng người tiều phu đã chia cho đứa trẻ chút thức ăn ít ỏi của mình và che chở cho nó yên giấc qua đêm. Buổi sáng, khi thức dậy, ông nhìn thấy một cái cây đẹp lộng lẫy ngoài cửa. Hoá ra đứa trẻ đói khát tối hôm trước chính là Chúa cải trang. Chúa đã thưởng cho lòng nhân đức của người tiều phu tốt bụng bằng cây thông Giáng sinh đó.
Nguồn gốc thực của cây Giáng sinh có thể gắn liền với những vở kịch thiên đường. Vào thời Trung cổ, những vở kịch giảng dạy đạo đức được biểu diễn khắp Châu Âu. Thông qua các vở kịch ấy các nhà truyền giáo truyền bá các bài Kinh thánh. Những vở kịch nói về nguồn gốc của loài người và sự dại dột của Adam và Eve ở vườn Eden thường được diễn vào ngày 24 tháng 12 hàng năm. Cây táo là một đạo cụ trong vở kịch, nhưng vì các vở kịch được diễn vào mùa đông, các loài cây đều chưa kết trái nên các diễn viên phải treo những quả táo giả lên cành cây.
Phong tục cây Giáng sinh bắt đầu phổ biến ở Ðức vào thế kỷ XVI. Chẳng bao lâu sau, việc trnag hoàng cây Giáng sinh đã trở thành một phong tục ở các nước Châu Âu. Vào giữa thế kỷ XIX, hoàng tử Albert đã đưa phong tục cây Giáng sinh vào nước Anh. Khi cây Giáng sinh trở thành thời thượng ở Anh thì những gia đình giàu có đã dùng tất cả những đồ vật quý giá để trang trí cho nó. Từ Anh việc trang hoàng cây Noel trong dịp lễ Giáng sinh cũng lan rộng trên khắp các vùng thuộc địa của đế chế Anh, tới cả những vùng đất mới như Canada.
Cây Giáng sinh lần đầu tiên được dân chúng ở Mỹ biết đến là vào những năm 1830. Khi hầu hết người dân Mỹ còn coi cây Giáng sinh là một điều kỳ cục thì những người Ðức nhập cư ở Pennsylvania thường trang hoàng cây Giáng sinh vào các buổi biểu diễn nhằm tăng tiền quyên góp cho nhà thờ. Vào những năm 1890 nhiều đồ trang trí bắt đầu được nhập từ Ðức vào và tục lệ về cây Giáng sinh đã trở nên phổ biến tại Canada và Mỹ. Có một sự khác biệt lớn giữa cây Giáng sinh của Châu Âu và Bắc Mỹ, cây của Châu Âu nhỏ, hiếm khi cao hơn một mét rưỡi, chỉ khoảng 4 hoặc 5 feet trong khi cây của Bắc Mỹ cao tới trần nhà.