Kafkas Albanyası günümüz Azerbaycan'ının bulunduğu bölgeydi. Milattan sonra dört asır boyunca Roma İmparatorluğu'nun bir müşteri devletiydi. Bölge üzerindeki etkisi milattan önce birinci yüzyılda başlamış ve yaklaşık MS 250 yılına kadar sürmüştür. MS 299 civarında, Albanya birkaç yıl daha imparator Diocletianus'un "nominal" bir vasal devletiydi.

Roma, Kafkas Arnavutluğu'nu sadece bir müşteri veya vasal devlet olarak kontrol ediyordu. Hiçbir zaman tam anlamıyla bir "eyalet" gibi Roma İmparatorluğu'nun bir parçası haline getiremedi (komşusu Ermenistan'da olduğu gibi).

Bu yüzyıllarda Roma, Kafkas Albanlarına Hıristiyanlığı getirmiş ve günümüz Azerbaycan'ına kadar süren bir batı kültürü etkisi yaratmıştır. Bugün çok az Azerbaycanlı Hıristiyan olsa da kullandıkları yazı sistemi Roma alfabesidir.

İkinci ve son etki Doğu Roma İmparatorluğu'ndan gelmiş, İmparator Herakleios MS 627'de Batı Göktürk Kağanlığı'ndan Göktürklerin yardımıyla Üçüncü Pers-Türk Savaşı'nda Kafkas Albanyası'nı kontrol altına almayı başarmıştır.