Les commerçants phéniciens arrivèrent sur la côte nord-africaine vers 900 av. J.-C. et fondèrent Carthage (Tunisie actuelle) vers 800 av. J.-C. Au 6ème siècle av. J.-C., il existait une présence phénicienne à Tipaza (à l'est de Cherchell, Algérie). Depuis leur principal centre de pouvoir à Carthage, les Carthaginois s’étendirent et établirent de petites colonies (emporia, en grec) le long de la côte nord-africaine; ces colonies servirent finalement de comptoirs ainsi que de mouillages. Hippo Regius (Hippone, aujourd'hui Annaba) et Rusicade (Skikda moderne) font partie des villes d'origine carthaginoise sur la côte de l'Algérie actuelle.
À mesure que la puissance carthaginoise grandissait, son impact sur la population indigène augmentait considérablement. La civilisation berbère était déjà à un stade où l’agriculture, l’industrie manufacturière, le commerce et l’organisation politique soutenaient plusieurs États. Les liens commerciaux entre Carthage et les Berbères de l'intérieur se développaient, mais l'expansion territoriale aboutit également à l'esclavage ou au recrutement militaire de certains Berbères, et à la perception d'un tribut auprès d'autres. Au début du 5ème siècle av. J.-C., les Berbères formaient l’élément le plus important de l’armée carthaginoise. Lors de la guerre des Mercenaires (241-238 av. J.-C), les soldats berbères se révoltèrent du fait de ne pas avoir été payés à la suite de la défaite de Carthage lors de la première guerre punique. Ils réussirent à prendre le contrôle d'une grande partie du territoire nord-africain de Carthage et frappèrent des pièces portant le nom de 'Libyens', terme utilisé en grec pour décrire les autochtones d'Afrique du Nord. L'État carthaginois déclina en raison de défaites successives sous les Romains lors des guerres puniques, et en 146 av. J.-C. la ville de Carthage fut détruite. À mesure que la puissance carthaginoise déclinait, l'influence des chefs berbères dans l'arrière-pays grandissait. Au 2ème siècle av. J.-C., plusieurs royaumes berbères étendus mais mal administrés avaient émergé. Deux d'entre eux s’établirent en Numidie, à l’arrière des zones côtières contrôlées par Carthage. À l'ouest de la Numidie se trouvait la Maurétanie, qui s'étendait de la rivière Moulouya au Maroc jusqu'à l'océan Atlantique. L'apogée de la civilisation berbère, inégalée jusqu'à l'arrivée des Almohades et des Almoravides plus d'un millénaire plus tard, fut atteinte sous le règne de Massinissa au 2ème siècle av. J.-C. Après sa mort en 148 av. J.-C., les royaumes berbères furent divisés et réunis à plusieurs reprises. La lignée de Massinissa survécut jusqu'en 24 ap. J.-C., lorsque le territoire berbère restant fut annexé à l'Empire romain.
Ère Romaine
L'augmentation de l'urbanisation et de la surface cultivée pendant la domination romaine provoqua d'immenses bouleversements dans la société berbère. Les tribus nomades furent contraintes de s’installer ou de quitter leurs parcours traditionnels. Les tribus sédentaires perdirent leur autonomie et leur lien avec la terre. L'opposition berbère à la présence romaine était presque constante. L'empereur romain Trajan (règne 98-117 ap. J.-C.) établit une frontière au sud en encerclant le massif de l'Aurès-Nemencha et en construisant une ligne de forts de Vescera (Biskra moderne) à Ad Majores (Henchir Besseriani, au sud-est de Biskra). La ligne défensive s'étendit au moins jusqu'à Castellum Dimmidi (Messaad moderne, au sud-ouest de Biskra), le fort le plus méridional de l'Algérie romaine. Les Romains s’installèrent et développèrent la zone autour de Sitifis (Sétif moderne) au 2ème siècle ap. J.-C., mais plus à l'ouest, l'influence de Rome ne s'étendit au-delà de la côte et des principales routes militaires que bien plus tard.
La présence militaire romaine en Afrique du Nord était relativement faible, composée d'environ 28 000 soldats et auxiliaires en Numidie et dans les deux provinces maurétaniennes. À partir du 2ème siècle ap. J.-C., ces garnisons furent majoritairement composées d'habitants locaux.
Outre à partir de Carthage, l'urbanisation en Afrique du Nord se fit en partie avec l'établissement de colonies d'anciens combattants sous les empereurs romains Claude (41-54 ap. J.-C.), Nerva (96-98 après J.-C.) et Trajan. En Algérie, ces colonies comprenaient Tipaza, Cuicul (Djemila moderne, au nord-est de Sétif), Thamugadi (Timgad moderne, au sud-est de Sétif) et Sitifis. La prospérité de la plupart des villes reposait sur l'agriculture. Surnommée 'le grenier de l'empire', l'Afrique du Nord produisait, selon une estimation, un million de tonnes de céréales chaque année, dont un quart était exporté. Les autres cultures comprenaient des fruits, des figues, des raisins et des haricots. Au 2ème siècle ap. J.-C., l’huile d’olive rivalisait avec les céréales comme produit d’exportation.
Les débuts du déclin de l’Empire romain furent moins graves en Afrique du Nord qu’ailleurs, il y eut cependant des soulèvements. En 238 ap. J.-C., les propriétaires terriens se rebellèrent sans succès contre la politique fiscale de l’empereur. Des révoltes tribales sporadiques s'ensuivirent dans les montagnes maurétaniennes de 253 à 288. Les villes connurent également des difficultés économiques et les activités de construction cessèrent presque du tout au tout.
Les villes de l'Afrique du Nord romaine comptaient une importante population juive. Certains Juifs furent déportés de Palestine aux premier et second siècles ap. J.-C. pour s’être rebellés contre la domination romaine; d'autres étaient venus plus tôt avec les colons puniques. En outre, un certain nombre de tribus berbères s'étaient converties au Judaïsme.
Le Christianisme arriva au 2ème siècle ap. J.-C. et fit rapidement des adeptes dans les villes et parmi les esclaves. Plus de quatre-vingts évêques, certains originaires des régions frontalières lointaines de Numidie, assistèrent au concile de Carthage en 256 ap. J.-C. À la fin du 4ème siècle, les zones habitées étaient devenues christianisées et certaines tribus berbères s'étaient converties en masse.
Une division au sein de l’Église, connue sous le nom de controverse donatiste, commença en 313 ap. J.-C. parmi les Chrétiens d’Afrique du Nord. Les Donatistes insistaient sur la sainteté de l'Église et refusaient d'accepter l'autorité d'administrer les sacrements de la part de ceux qui avaient renoncé aux Écritures quand elles furent interdites sous l'empereur Dioclétien (r. de 284 à 305 ap. J.-C.). Les Donatistes s'opposaient également à l'implication de l'empereur Constantin (r. de 306 à 337 ap. J.-C.) dans les affaires de l'Église, contrairement à la majorité des Chrétiens qui se félicitaient de la reconnaissance impériale officielle.
La controverse, parfois violente, se caractérisait comme une lutte entre opposants et partisans du système romain. Le critique nord-africain le plus éloquent de la position donatiste, qui fut qualifiée d’hérésie, fut Augustin (354-430 ap. J.-C.), évêque d’Hippo Regius. Augustin soutenait que l'indignité d'un ministre n'affectait pas la validité des sacrements parce que le véritable ministre était le Christ. Augustin, considéré comme l'un des principaux représentants des vérités chrétiennes, élabora dans ses sermons et ses livres une théorie du droit des dirigeants chrétiens orthodoxes de recourir à la force contre les schismatiques et les hérétiques. Bien que le différend fut résolu par une décision d'une commission impériale à Carthage en 411 ap. J.-C., les communautés donatistes continuèrent à exister jusqu'au 6ème siècle.
Vandales et Byzantins
Menés par leur roi, Genséric, quelque 80 000 Vandales, une tribu germanique, traversèrent vers l'Afrique depuis l'Espagne en 429 ap. J.-C. L'année suivante, les envahisseurs avancèrent sans grande opposition vers Hippo Regius, qu'ils prirent après un siège au cours duquel Augustin mourut. Après de nouvelles avancées, les Vandales concluèrent en 435 ap. J.-C. un accord avec Rome limitant leur contrôle à la Numidie et à la Maurétanie. Mais en 439, Genséric conquit et pilla Carthage et le reste de la province d'Afrique.
Le déclin du commerce qui en résulta affaiblit la domination romaine. Des royaumes indépendants émergèrent dans les régions montagneuses et désertiques, des villes furent envahies et les Berbères, qui avaient été repoussés aux confins de l'Empire romain, revinrent.
Bélisaire, général de l'empereur byzantin Justinien basé à Constantinople, débarqua en Afrique du Nord en 533 avec 16 000 hommes et détruisit en un an le royaume vandale. Cependant, l'opposition locale retarda de douze ans le contrôle total de la région par les Byzantins, et le contrôle impérial, lorsqu'il arriva, ne fut que l'ombre de celui exercé par Rome. Bien qu'une impressionnante série de fortifications ait été construite, la domination byzantine fut compromise par la corruption officielle, l'incompétence, la faiblesse militaire et le manque d'intérêt de Constantinople pour les affaires africaines. En conséquence, de nombreuses zones rurales retournèrent sous domination berbère.