Secondo S.Agostino ad Ancona era conservato nella cattedrale del tempo uno dei sassi usati per la lapidazione di S.Stefano, che era rimbalzato ed era stato raccolto da un marinaio cristiano lì presente; una rivelazione aveva poi ordinato al marinaio di portare il sasso ad Ancona. A proteggere la santa reliquia venne costruita l'antica cattedrale paleocristiana, intitolata al protomartire. Un cronista del XV sec. afferma che il tempio venne fatto costruire dalla figlia dell'imperatore Teodosio, Galla Placidia. Fra X e XI sec. divenne cattedrale la chiesa di S.Ciriaco.