El nombre de Argelia de María se debe al poeta antioqueño Tomás Carrasquilla quien hizo presencia en estas tierras durante la primera década del siglo XX, cuando trabajó como almacenista en la Mina de San Andrés. “Argelia está rodeada de montes ásperos y soledosos, a donde he venido a ver si por fin me encuentro”, escribió Carrasquilla a mediados de siglo.

Inicialmente se llamó San Julián. Según los historiadores, su génesis data de 1862 – 1863, cuando el poeta Gregorio Gutiérrez González y su cuñado, el obispo José Joaquín Isaza, huyendo de las persecuciones del general Tomás Cipriano de Mosquera (durante la guerra de los mil días), se instalaron en este territorio.

Luego aumentó considerablemente su desarrollo debido al auge de la minería en la región, especialmente con la mina de San Andrés; esto atrajo una gran emigración ocurrida desde poblados como Sonsón, Marinilla, Cocorná y Aquitania. Fue erigido inicialmente en 1891 como corregimiento de Sonsón, rango que luego fue suprimido en 1896 por una crisis económica que atravesaba el fisco departamental; en 1898, mediante el acuerdo No. 06 se vuelve a elevar al rango de corregimiento. El 9 de mayo de 1902, se cambia el nombre por el de Argelia de María y, finalmente, por la ordenanza departamental No.19 del 5 de diciembre de 1960 se crea el municipio de Argelia.

 Hacia el año de 1970 el oro deja de ser explotado por el agotamiento del elemento y la carencia de tecnología para su explotación, así se da más énfasis al cultivo del café, la caña y el cacao que pasan a ocupar los primeros renglones en el comercio de productos en el municipio. Su historia se cuenta también por su tradición en torno al uso de mulas como transporte, tradición que aún persiste y que es característica ilustre del pueblo.