Pada awal mula terbentuknya, Jemaat
Kristiani mengalami banyak penganiayaan, terutama penganiayaan fisik. Pada periode tahun
33-25, Jemaat
Kristiani dihambat dan berusaha untuk dihancurkan oleh beberapa pihak. "Mereka bertahan dalam perjuangan yang berat" (Ibrani 10:32). "Ada pula yang diejek dan didera, bahkan yang dibelenggu dan dipenjarakan" (Ibrani 11:3 6). Oleh karena itu, banyak martir yang muncul pada periode ini. Bahkan seorang rasul, yakni Simon Petrus, wafat dengan cara disalibkan terbalik.
Penganiayaan terhadap Jemaat Kristiani pada periode awal dapat dikelompokkan dalam 2 tahap, yaitu Tahap Sebelum Kaisar Septimius Severus (40-193) dan Tahap Setelah Kaisar Septimius Severus (211-313). Septimius Severus (193-211) adalah kaisar pertama yang melakukan penganiayaan terhadap Jemaat Kristiani secara sistematis (terkoordinir). Sebelum pemerintahan Septimius Severus, penganiayaan terhadap Jemaat Kristiani bersifat sporadis. Penganiayaan sebelum pemerintahan Septimus Severus dilakukan oleh rakyat (bukan karena kaisar) tanpa suatu landasan hukum yang jelas walaupun jumlah korban lebih besar.
Penganiayaan terhadap Jemaat Kristiani pada periode awal tentu memiliki beberapa alasan. Alasan penganiayaan terhadap Jemaat Kristiani sebenarnya tidak selalu sama dalam tiap pemerintahan. Contohnya, Kaisar Nero melakukan penganiayaan terhadap Jemaat Kristiani tanpa motif yang jelas, Kaisar Decius (250) dan Kaisar Diocletianus (300) melakukan penganiayaan karena mereka sangat membenci agama Kristen, dan Kaisar Septimus Severus melakukan penganiayaan terhadap Jemaat Kristiani karena adanya faktor politis. Namun, secara umum penganiayaan terhadap Jemaat Kristiani dapat dikelompokkan ke dalam 2 alasan, yaitu alasan politis dan non-politis. Alasan politis antara lain jemaat Kristiani dianggap tidak memiliki pietas, dianggap sebagai “kelompok bawah tanah” (secret society), dan dianggap berbahaya karena berciri trans-nasional. Alasan non-politis antara lain jemaat Kristiani dianggap melakukan misanthropia maupun odium humanis generis dan dianggap aneh.
Penganiayaan terhadap Jemaat Kristiani terus berkembang. Penganiayaan terus dilakukan sejak pemerintahan kaisar Nero hingga sebelum dikeluarkannya Edict Milan. Penganiayaan berlangsung secara sporadis pada awalnya dan kemudian berkembang secara sistematis. Penganiayaan terhadap jemaat Kristiani mulai muncul pada masa pemerintahan Kaisar Nero. Kaisar Nero yang membakar kota Roma pada tanggal 18 Juli 64 memfitnah orang Kristen. Menurut sejarawan Tacitus, Nero memerintahkan agar orang Kristen dimangsa binatang, disalibkan, dan dibakar di tiang sebagai penerangan. Selain itu, Santo Petrus juga wafat dengan cara disalibkan terbalik di Roma saat pemerintahan Kaisar Nero setelah menolak disalibkan dengan kepala di atas karena ia merasa tidak layak untuk mati dalam posisi yang sama seperti Yesus. Kemudian pada tahun 70, muncul peristiwa penting dalam sejarah gereja, yaitu Kaisar Titus menghancurkan Yerusalem dan Bait Allah. Pada tahun 117-138, terjadi penindasan yang dilakukan oleh Kaisar Hadrian. Bahkan, kaisar Hadrian juga mengusir bangsa Yahudi dari Yerusalem. Pada tahun 156, uskup Polikarpus, murid Santo Yohanes penginjil, yang berusia 86 tahun wafat menjadi martir yang menjadikan orang Kristen semakin berdiri teguh di bawah penganiayaan. Pada tahun 165, Santo Justinus, salah satu penulis penting Gereja perdana, menjadi martir di Roma. Pada tahun 257, penindasan terhadap umat Kristen dilakukan oleh kaisar Valerianus, yang berusaha menghancurkan Gereja sebagai suatu struktur social. Penganiayaan terhadap jemaat Kristiani terus berlangsung sampai sebelum masa pemerintahan
Konstantinus Agung. Dalam perang Tiber, Konstantinus berkali-kali gagal untuk menyatukan Kekaisaran Romawi. Namun, pada suatu peperangan, di tepi Sungai Tiber, ia mendapat penampakan berupa lambing kekristenan dengan suara “In Hoc Signo Vinces” (Dalam tanda ini engkau akan menang). Dengan lamabang Kekristenan tersebut, ia dapat mengalahkan Licinius dan mempersatukan Romawi. Setelah kejadian itu, Konstantinus pun berubah. Pada tahun 313, ia mengeluarkan Edict Milan yang melindungi kebebasan beragama di seluruh Imperium Romawi. Ia juga menjadikan Roma bernafaskan Kristen. Konstantinus juga membangun Basilika St. Petrus, Yohanes Lateran dan Sang Penebus. Setelah Konstatinus meninggal, ia digantikan oleh Konstantinus II yang meneruskan kebijakannya. Namun, setelah itu Konstantinus II digantikan oleh Yulianus yang pada awalnya mendukung kekristenan tetapi pada akhirnya justru membatasi. Setelah pemerintahan Yulianus adalah pemerintahan Grasianus dan Valentinus II yang justru berusaha mempopulerkan kembali agama romawi kuno. Setelah itu, munculah Kaisar Theodosius yang berperan besar dalam kekristenan di Romawi. Ia adalah kaisar yang menjadikan Kekristenan sebagai agama resmi Romawi melalui Edict Tesalonika (380).
Jadi, penganiayaan terhadap jemaat Kristiani berlangsung sejak pemerintahan kaisar Nero hingga sebelum dikeluarkannya Edict Milan. Penganiayaan tersebut terjadi karena adanya beberapa alasan, baik alasan politis maupun non-politis. Penganiayaan terhadap jemaat Kristiani dilakukan dalam 2 tahap, yakni secara sporadis sebelum masa pemerintahan Kaisar Severus Septimus dan secara sistematis setelah masa pemerintahan Kaisar Severus Septimus. Penganiayaan terhadap jemaat Kristiani berakhir dengan dikeluarkannya undang-undang toleransi agama oleh Konstantinus, yaitu Edict Milan pada tahun 313.