Počátky lidské civilizace jsou nerozlučně spojeny s objevy řady chemických prvků. Inspirací názvů a symbolů byla pro jejich první objevitele mytologie a astrologie. Každé planetě a hlavnímu božstvu této planety byl připisován některý ze známých kovů, což zároveň charakterizovalo podobenství jejich vlastností. Například kruh s tečkou uprostřed, který byl u starých Egypťanů a Babylóňanů symbolem Slunce, byl ve stejné době také symbolem zlata pro nápadný lesk a barvu podobnou Slunci. Analogicky Měsíc, zobrazený ve stavu zrodu, charakterizoval stříbro.
Řekové, kteří v planetách zosobňovali svoje bohy, dávali kovům stejné znaky, které sloužily jako symboly na označení charakteristických znaků bohů. Například symbolem boha Jupitera byl blesk, kterým byl zároveň označován cín, charakteristické znaky boha války Marse (kopí a štít) byly symbolem železa, Saturn představoval olovo, rychlonohý posel bohů Merkur označoval pohyblivou rtuť a typický znak bohyně Venuše (zrcadlo) přisoudili mědi (pravděpodobně proto, že Venuše údajně vznikla z mořské pěny na březích Kypru, známého zásobami měděné rudy).
O většině těchto prvků nelze říci, že byly objeveny v pravém slova smyslu. Lidé je prostě nacházeli ve volné přírodě a postupně oceňovali jejich vlastnosti. První názvy a symboly známých prvků používali Egypťané, Řekové, Peršané i Arabové, od nichž je převzali alchymisté. Alchymie, táhnoucí se dějinami chemie od starověku přes celý středověk až do novověku, byla snůškou fantastických formulí a receptů plných podivuhodných názvů a symbolů. Hledat v alchymistickém chaosu názvy a symboly jednotlivých prvků a jejich sloučenin bylo velmi obtížné, což lze dokumentovat příklady názvů rtuti, jež byly shromážděny v terminologickém slovníku, který vyšel v roce 1795 v německém Ulmu. Uváděl u rtuti 80 běžně užívaných pojmenování jako např. vodnaté stříbro, dračí ocas, střed země, zřídlo, svěcená voda, viskózní voda, nebezpečná voda, syn kovů, panenské mléko, náš bílý olej, těkavý vzduch, žlutý služebník, bílé olovo apod.
Východní alchymisté používali pro prvky a jejich sloučeniny pouze slovní označení, kdežto v Evropě se začaly používat geometrické značky a symboly. První racionální názvy, z nichž většina v podstatě platí dodnes, byly latinské. V roce 1787 vyšla kniha Methoda de nomenclature chimique (Metoda chemického názvosloví), která patří k nejvýznamnějším dílům v dějinách chemie. Francouzští vědci v ní vyložili podstatu návrhu nového chemického názvosloví, které Lavoisier uvedl oficiálně na schůzi Akademie 18. dubna téhož roku. Všechny známé prvky byly rozděleny do šesti skupin a jejich názvy byly utvořeny tak, aby vystihovaly jejich podstatu. Na uvedenou publikaci navazovaly dva slovníky, převádějící staré názvosloví na nové a naopak. Je pochopitelné, že nové názvosloví nebylo přijato bez výhrad a jeho uvedení do praxe probíhalo postupně. Současně s novými názvy se Lavoisier a jeho kolegové pokusili také zavést nové chemické symboly pro prvky. Využívali geometrické znaky alchymistů, které však byly nepřehledné a obtížně se sázely v tiskárnách. Z těchto důvodů se jejich používání příliš neujalo. Počátkem 19. století se o nápravu stavu pokusil anglický chemik John Dalton, který opět použil grafické symboly představované kroužky, k nimž připisoval různá přídavná znaménka. Úroveň uvedených znaků nebyla valná, ale jejich podstata se změnila, neboť např. dosavadní znak rtuti představoval znak jako kov, aniž by vyjadřoval jeho množství. Daltonův znak však představoval jeden atom rtuti a tato specifikace posouvala oblast chemického názvosloví o krok dopředu.
V období 19. století docházelo k rychlému nárůstu počtu nových prvků, kterému Daltonovo jednoduché značení přestalo vyhovovat. Z těchto důvodů v roce 1811 švédský chemik Berzelius zavedl nové symboly prvků, založené na písmenech odvozených od jejich latinských názvů a svůj počin zdůvodnil:
"Ve třídě látek, které jmenujeme metaloidy, chci používat počátečních písmen, i když metaloid má toto písmeno společné s jiným metaloidem.
Ve třídě kovů chci ty, které mají počáteční písmeno společné s jiným kovem nebo metaloidem, rozlišit tím, že píši první dvě písmena názvu.
Když první písmena dvou kovů jsou stejná, pak chci v tomto případě připsat první souhlásku, kterou nemají společnou.“
Některé z jeho značek se neujaly, například pro rhodium navrhoval značku R, která pro možnost záměny s obecným symbolem radikálu byla změněna na Rh, pro lithium navrhoval L, které pro zaměnitelnost s ligandem bylo pozměněno na Li. Také návrh uváděný v jeho druhém bodě zaznamenal několik výjimek vzhledem k tomu, že některé kovy byly známé již dříve a měly vžité zkratky (Pb, Sn, Hg). Návrh uváděný třetím bodem se neujal, neboť místo třípísmenných značek se používá dvoupísmenných s tím, že se k označení později objeveného prvku používá kombinace prvního písmene jeho latinského názvu s jiným než druhým písmenem, kupříkladu písmeno „C“ je použito u 11 prvků. U uhlíku byla použita jednopísmenná značka C, u ostatních prvků došlo ke kombinaci písmene „C“ s ostatními písmeny latinských názvů:
S básnickou nadsázkou lze konstatovat, že každý prvek získal svůj monogram.
V době, kdy slavný ruský chemik Dmitrij Ivanovič Mendělejev sestavoval svou periodickou soustavu prvků, nebyly všechny prvky ještě známy a byly předpovězeny jako tzv. ekaprvky. Například mezi vápníkem a titanem byl umístěn ekabor, mezi zinkem a arsenem ekaaluminium a ekasilicium. Předpona eka znamená v sanskrtu první, nejbližší. Proto se při tvorbě předběžného názvu vycházelo z nejbližšího prvku ve skupině. Jakmile byla experimentálně dokázána existence předpovězených prvků, dostaly samostatné názvy.
Když francouzský chemik J. L. Proust zjistil, že slučování prvků se děje vždy v určitých hmotnostních poměrech (Proustův zákon stálých poměrů hmotnostních), a Dalton potvrdil, že se tak děje vždy v poměrech jednoduchých, vyjádřitelných malými celými čísly (Daltonův zákon stálých poměrů slučovacích a zákon násobných poměrů slučovacích), vzal Berzelius uvedené zákonitosti v úvahu a přiřkl symbolům prvků jejich relativní atomovou hmotnost vzhledem k základnímu prvku kyslíku. Dnes ovšem bereme za základ relativních atomových hmotností hodnotu 1/12 hmotnosti jednoho atomu nuklidu uhlíku 1 6 2 C. Ze symbolů chemických prvků můžeme nyní zjistit jednak kvalitu (o jaký prvek jde) a zároveň kvantitu (jaká je jeho hmotnost) – na základě relativní atomové hmotnosti prvku. Složení sloučeniny vyznačoval Berzelius psaním symbolů jednotlivých prvků vedle sebe a tak získal vzorce. Například vzorcem CO označil oxid uhelnatý. Znamenalo to, že jeden atom uhlíku se slučuje s jedním atomem kyslíku na molekulu oxidu uhelnatého, ale současně to znamenalo, že 12 hmotnostních dílů uhlíku a 16 hmotnostních dílů kyslíku dává 28 hmotnostních dílů oxidu uhelnatého.
Základy českého anorganického názvosloví byly položeny v době obrozenecké J. S. Preslem, se kterým spolupracoval po stránce filologické J. Jungmann, patriarcha české bohemistiky. Jejich působení spadá do období let 1820 – 1860. Značného zdokonalení doznalo české názvosloví zásluhou práce Názvoslovné komise vedené V. Šafaříkem. Zásadního významu pro české názvosloví anorganických sloučenin byly návrhy B. Batěka a zejména E. Votočka, který zavedl pro určování oxidačního čísla prvků vhodná a dobře známá zakončení (-ný, -natý, -itý, …). Uvedený návrh byl přijat na V. sjezdu českých přírodozpytců v roce 1914 v Praze. Jeho závazná úprava byla provedena 1941 názvoslovnou komisí Čs. společnosti chemické,vedenou profesorem J. Hanušem, kde byly přijaty některé zásady zaměřené na názvosloví koordinačních sloučenin, podvojných sloučenin, nevalenčních sloučenin, izopolykyselin a jejich solí.
V průběhu následujícího období došlo k řadě pokusů o modernizaci chemického názvosloví. Kodifikaci prováděly vždy názvoslovné komise po diskusi s chemickou veřejností postupně pod vedením O. Tomíčka, O. Wichterleho, S. Škramovského, R. Brdičky a J. Klikorky.