Den hellige Abraham ble født i Smolensk i Russland. Han kom fra en velstående familie og var svært intelligent. Han ble tidlig foreldreløs, og da ga han bort sin arv for å bli munk i klosteret Bogoroditskaya i sin hjemby. Der viet han seg til ikonmaling, bibelstudier og prekenvirksomhet. Han var en mann av en streng og militant karakter, som levde asketisk og alltid holdt frem Dommedag for seg selv og andre. Men han hadde stor oppslutning blant legfolk, og han hadde stor omsorg for de syke og fattiges sykdommer og problemer.
Men blant presteskapet og i hans egen kommunitet oppsto det fiendskap og sjalusi mot ham, og senere flyttet han til klosteret Det hellige Kors i Smolensk. Men han ble ikke godt mottatt der heller, og etter hvert ble det brakt alvorlige anklager mot ham, både moralske og teologiske. Han ble beskyldt for kjetteri, umoral og stolthet. Biskop Ignatius av Smolensk gikk til disiplinære tiltak mot Abraham, fratok ham prestefullmaktene og beordret ham tilbake til klosteret Bogoroditskaya, og i fem år var han i unåde. Men da var byen truet av en fryktelig tørke, og borgerne i Smolensk krevde at Abraham ble rehabilitert.
Dette førte til at biskopen undersøkte hans sak på nytt, og det endte med at hans navn ble renvasket. Biskop Ignatius ba ham om unnskyldning og gjorde ham til abbed i det lille klosteret Guds Mor i Smolensk. Her tilbrakte Abraham fredfullt resten av sine dager, mottok mennesker og ble æret for sitt mot og sin ydmykhet. Han døde i sitt kloster i Smolensk i 1221.
Abraham av Smolensk var en fremstående person i det pre-mongolske Russland, og det er bevart en biografi om ham skrevet av hans disippel Efraem. Han ble kanonisert av den russisk-ortodokse kirken rundt 1549. Hans minnedag er 21. august.