Dawniej mieszkańcy Bytomia, którzy byli ewangelikami, chowani byli na cmentarzu znajdującym się w ścisłym centrum miasta. Dziś teren dawnej nekropolii jest tonącym w zieleni skwerem miejskim, zaś nowy cmentarz znajduje się nieco dalej – przy ulicy Powstańców Śląskich, po sąsiedzku z cmentarzem katolickim.
Początki tej nekropolii sięgają 1888 roku, kiedy to zakupiono grunt, zaś dwa lata później opracowano jej plan. Nie wszystko udało się od razu zrealizować. Nie powstała m. in. kostnica z domem grabarza, zaś powód był prosty – brak pieniędzy. Wzniesiono ją dopiero parę lat później, kosztem budowy bardziej okazałej kaplicy cmentarnej. W 1903 roku dodatkowo, obok domku grabarza, powstała szklarnia.
Początki cmentarza to liczne problemy. Brak drogi dojazdowej, brak wody… Mimo to przystąpiono do prac i już wkrótce teren cmentarza został otoczony murem, którego część jest wspólna dla nekropolii ewangelickiej i katolickiej. Wytyczono również aleje cmentarne i obsadzono je drzewami.
Już w 1897 roku cmentarz ewangelicki został oficjalnie oddany do użytku. W tym też roku odbyły się na nim pierwsze pochówki. Do dziś zachował się jeden z tych najstarszych nagrobków, który ustawiono tu w 19001 roku. W czasie I wojny światowej chowano tu poległych żołnierzy wyznania ewangelickiego, jednak nie doczekali się oni odrębnej, wojskowej kwatery. Ich groby umieszczano między grobami cywilnymi. Podobnie wyglądała sytuacja podczas II wojny światowej.