O mladosti sv. Polykarpa vieme iba to, že ako sirotu ho istá zbožná vdova, menom Kalista, prijala za svojho syna. Keď sa stala kresťankou, vychovala ho v kresťanskej viere a pred svojou smrťou ho urobila dedičom celého svojho majetku. Milosrdenstvo, ktoré mu ukázala, mal vždy na mysli. Myslel si, že nemôže prejaviť vďačnosť Bohu iným spôsobom, ako tak, že aj on bude tak isto milosrdný k biednym a tým, ktorí potrebujú pomoc.
Sv. Polykarp bol žiakom svätých apoštolov, menovite sv. Jána. Vyznačoval sa tak čistým a nevinným životom, ako aj horlivosťou v ohlasovaní evanjelia a šírení viery. Jeho cnosti boli dôvodom, že ho sv. Ján určil v roku 96 za biskupa v Smyrne. On je tým „anjelom cirkvi“, ktorého sv. Ján vo svojej Apokalypse spomína, ako jediného zo všetkých biskupov, ktorému Ježiš Kristus nič nevyčítal, ktorému naopak dal prekrásne svedectvo: „Toto hovorí Prvý a Posledný, ten, čo bol mŕtvy a ožil: Poznám tvoje súženie aj tvoju chudobu – ale si bohatý … Neboj sa toho, čo máš trpieť. Buď verný až do smrti a dám ti veniec života. (por. Zjv 2,8-10).“
Sv. Polykarp viedol učením a príkladom svoju cirkev ako skutočný apoštol. Silou svojho slova priviedol ku kresťanstvu mnohých pohanov. Jeho autorita, ako žiaka apoštolov a bezprostredného svedka apoštolskej tradície, bola taká veľká, že ho už za jeho života uznávali za knieža cirkvi celej Ázie. V čase vznikajúcich heréz sa dívali na neho, ako na stĺp pravdy. Sv. Polykarp si želal byť mučený pre Krista. Táto túžba sa v ňom ešte viac rozmohla, keď sputnaného sv. Ignáca viedli cez Smyrnu do Ríma. Polykarp sa ponáhľal k tomuto vyznavačovi, objal ho a obaja sa dlho rozprávali o šťastí trpieť pre Boha, o večnom šťastí, ako náhrade za niekoľko chvíľ bolestí. Neskôr mu sv. Ignác písal z cesty a prosil ho, aby potešil ázijské cirkvi, pretože on sám to urobiť nemôže. Odtiaľ pochádza list sv. Polykarpa Filipanom, ktorý dával múdre rady pre každý stav a čas. Osobitne sa sťažuje v tomto liste na odpadlíctvo od pravej viery a varuje pred obludnosťou tých, ktorí iných na to navádzali. Píše: „Každý, kto nevyznáva, že Ježiš Kristus prišiel v tele, je antikrist, kto neuznáva svedectvo o kríži je diabol, a kto prekrúca Pánovo slovo hovoriac, že nebude ani súd, ani vzkriesenie, je prvorodený satanov. Zanechajte preto pustú hádku tej hlúposti a falošnej náuky a vráťte sa do prvotnej, nám odovzdanej viery. Buďme neúnavní v modlitbách, vytrvalí v pôste a prosme všemohúceho Boha, aby nás neuviedol do pokušenia, ako povedal Pán: Duch je síce ochotný, ale telo slabé (Mk 14,8b).“
Polykarp odišiel do Ríma, aby rokoval s pápežom o slávení Veľkej noci, ktorá sa v tých časoch v cirkvi slávila rozlične. Po dlhej porade sa obaja rozhodli, že cirkvi nechajú pri ich zvykoch, aby nedali zámienku na nesváry a nezhody. Keď sa Polykarp vrátil z Ríma do Smyrny, vypuklo prenasledovanie kresťanov. V samotnej Smyrne začalo tým, že cisárov námestník Statius Kvadrat dal dvanásť kresťanov roztrhať šelmám. V tomto smutnom období zdvojnásobil Polykarp, ako biskup, svoju horlivosť. Chodil z domu do domu, napomínal svojich veriacich, aby zachovali vernosť pravej viere a vytrvali až do konca. No kresťania, ktorí sa viac báli o život svojho pastiera ako o svoj, ho prosili, aby sa na nejaký čas niekde uchýlil. Sv. Polykarp odišiel do istej dediny ale sluhovia sudcu mesta Smyrna, ho aj tu našli. Keď sa svätý dozvedel o hroziacom nebezpečenstve, jeho odpoveď bola: „Nech bude vôľa Pánova.“ Sám sa vydal vojakom, ktorí prišli po neho. Jeho zjav ich premohol takou úctou, že zvolali: „Na čo sa bolo treba ponáhľať zajať tak vysokocteného starca?!“ Polykarp prikázal dať im jesť a prosil o hodinu času na modlitbu. Modlil sa za všetkých členov cirkvi, za priateľov i nepriateľov, tak úprimne a oduševnene, že vojaci ho nazvali mužom Božím a preklínali svoje hanebné poslanie. Po skončení modlitby ho vojaci posadili na koňa a viedli do mesta.
Očití svedkovia takto opisujú jeho mučeníctvo: “Keď bola hranica pripravená, Polykarp si zobliekol šaty a odviazal opasok a pokúšal sa sám aj vyzuť, aby náhodou niekto z verných, ktorí sa vždy snažili dotknúť sa aspoň jeho tela, nepribehol a nevyzul ho. Pre svoj čnostný život už pred umučením bol ozdobený všetkou krásou.
Hneď ho potom obklopili so všetkými nástrojmi, ktoré boli potrebné na upálenie. Ale keď ho chceli ešte aj klincami pripevniť, povedal: “Nechajte ma tak. Veď ten, ktorý mi dá pretrpieť oheň, dá mi aj to, aby som aj bez vášho zaistenia klincami pokojne vytrval na horiacej hranici.” A tak ho nepribili, ale iba priviazali.
On teda, s rukami zviazanými za chrbtom, ako krásny baránok vybraný z veľkého stáda za obetný dar na obetu príjemnú bohu, pozdvihol oči k nebu a povedal: „Pane, všemohúci Bože, Otec svojho milovaného a velebeného Syna Ježiša Krista, skrze ktorého sme poznali teba, Bože anjelov a mocností, všetkého stvorenstva a celého pokolenia spravodlivých, čo žijú pred tvojou tvárou! Dobrorečím Ti, že si ma uznal za hodného tohto dňa a tejto hodiny, aby som v zástupe mučeníkov dostal podiel na kalichu tvojho Pomazaného a skrze Ducha Svätého dosiahol vzkriesenie duše i tela pre večný život v neporušenosti. Kiež by som bol dnes prijatý medzi nich pred tebou ako vyberaná a príjemná žertva, ako si to ty, pravdivý Boh, ktorý nepozná lož, pripravil, mne oznámil a teraz splnil.
Preto ťa za všetko chválim, velebím ťa, oslavujem ťa skrze večného nebeského veľkňaza, tvojho milovaného Syna Ježiša Krista. Skrze neho sláva tebe i jemu i Duchu Svätému teraz i v budúcom veku. Amen.”
Keď povedal “Amen” a modlitbu zakončil, posluhujúci zapálili oheň. Keď potom vyšľahol obrovský plameň, videli sme zázrak. Bolo nám dané vidieť to a boli sme zachránení, aby sme mohli aj iným zvestovať, čo sa prihodilo. Lebo oheň mal tvar oblúka ako lodná plachta, napnutá vetrom a obklopoval mučeníkovo telo, ktoré bolo uprostred a vôbec nevyzeralo ako upečené mäso, ale ako upečený chlieb alebo ako zlato a striebro, rozpálené v peci. A cítili sme takú ľúbeznú vôňu, ako keby rozvoniavalo kadidlo alebo nejaká iná vzácna vonná látka.
Keď teda bezbožníci videli, že oheň nemôže stráviť jeho telo, rozkázali dobíjačovi, aby Polykarpa prebodol dýkou. Keď tak urobil, vytrysklo z ľavého boku také množstvo krvi, až uhasila oheň. Ľudia žasli, že je taký rozdiel medzi neveriacimi a vyvolenými.”
Polykarp bol prebodnutý dýkou 23. februára 155 okolo druhej popoludní. Kresťania jeho telo pochovali. Ostatky mučeníka sú dnes uchovávané v kostole S. Ambrogio della Massima v Ríme.