Pierwotnie pomnik był poświęcony poległym mieszkańcom Jemielnicy w czasie I wojny światowej (1914-1918). Powstał z inicjatywy Związku Kombatantów (Kriegerverein) z Jemielnicy (Himmelwitz). Stanął w centrum wsi przy dzisiejszej ulicy Wiejskiej. Pomnik został odsłonięty i poświęcony 28 sierpnia 1932r. W uroczystości pomnika wzięło udział wielu mieszkańców oraz zaproszonych gości.
W 1945r. pomnik został zdewastowany przez żołnierzy radzieckich. Potem na przełomie lat 1946-1947, z inicjatywy ówczesnych władz gminnych, dokonano dalszych zniszczeń. Stało się to prawdopodobnie pod naciskiem ówczesnych władz wojewódzkich w Katowicach, które zalecały usunięcie wszystkich elementów niemieckich z przestrzeni publicznej. Resztki pomnika przez kolejne dziesięciolecia ulegały dalszej degradacji, na co z bólem serca musieli patrzeć starsi mieszkańcy wsi, nie mając nadziei na to, że postument odzyska kiedyś dawny blask.
W latach 70. XX w. o zdewastowany pomnik dbał między innymi Franciszek Suhs. W Polsce, w 1980 r. doszło do strajków, a potem do porozumienia z rządem komunistycznym. W Jemielnicy powoli zaczęto myśleć o odbudowie pomnika poległych w I wojnie światowej i zamieszczeniu tablic z nazwiskami poległych w II wojnie światowej. Inicjatorami przedsięwzięcia byli: Richard Urban, Franciszek Suhs, Józef Neumann, Franz Sowietzki, Ewald Sowietzki oraz Cecylia Drzymalla. Pomysł spodobał się ks. Prob. Franciszkowi Holiszowi. Natomiast władze gminy nie wyraziły zgody na realizację przedsięwzięcia. Z pomocą ks. Holisza powstała jednak lista poległych, zaginionych, zamarłych na wojnie oraz pomordowanych przez Sowietów. Do pomysłu wrócono po zmianach w Polsce na początku lat 90 XX wieku. W latach 1991-1992 przeprowadzono odbudowę pomnika z lat 30. XX wieku, poświęconego poległym w czasie I wojny światowej. Obok niego wybudowano pomnik ofiar II wojny światowej. W efekcie powstał pomnik I i II wojny światowej. Przeprowadzenie prac budowlanych było możliwe dzięki zaangażowaniu lokalnej Mniejszości Niemieckiej, aktualnych i byłych mieszkańców wsi i dobroczyńców.
Obok starego pomnika wystawiono ścianę kamienną z tablicami poległych, zaginionych i zmarłych w obozach jenieckich i obozach pracy oraz poległych w walkach na frontach II wojny światowej w latach 1939-1945, a także pomordowanych przez żołnierzy radzieckich w 1945 roku.
Pomnik został ponownie odsłonięty i poświęcony 21 sierpnia 1992r. przez ks. prob. Gintera Reimanna (1942-1999) z Jemielnicy, ks. prob. Józefa Kampkę z Izbicka (1935-1996) oraz ks. Krystiana Burczka.
Źródło: P. Smykała, P. Michalik, Jemielnica - dzieje wsi i parafii, Wydawnictwo MS, Opole, Jemielnica 2014
