Завоевание Испании оказалось очень успешной и быстрой военной кампанией для мусульман. Предводители мусульманских войск – Тарик ибн Зийад и Муса ибн Нусайр, организовали в течение 711–714 гг. несколько крупных победоносных походов в долину Эбро и в северную часть плоскогорья Месеты, воспользовавшись теми римскими дорогами, которые вели с юга на север. В наиболее важных крепостях они оставляли гарнизоны. Они почти не встретили военного сопротивления со стороны римско-вестготского населения. А многие представители местной знати сочли за лучшее заключить с ними соглашение. Так поступил аристократ из мурсийской области по имени Теодомир: он признал мусульман в обмен на сохранение его власти в управляемой им области. Не следует также забывать, что мусульмане считали христиан «народом Писания» и были терпимы к сохранению ими вероисповедания и поддержанию культа. Иудейское население, подвергавшееся притеснениям в правление последних вестготских королей, выступало на стороне мусульманских завоевателей.
Однако в стане победителей также существовали разногласия – постоянная вражда между арабскими и берберскими племенами, между аристократическими родами арабов, в частности кайситами и йеменцами. Спустя всего несколько лет после завоевания аль-Андалуса вспыхнуло восстание берберов, которые возмутились своим подчиненным положением по отношению к арабам. Для того чтобы подавить это выступление, в аль-Андалус прибыли военные отряды сирийцев, которые, выполнив свою задачу, остались в испанских землях, поселившись в основном на юге. Но несмотря на все эти неурядицы, мусульмане продолжали организовывать военные экспедиции к северу от аль-Андалуса, за пределы завоеванной ими территории. В 720 г. они взяли Нар-бону, однако в 722 г.8 неожиданно потерпели поражение в битве при Ковадонге, названной так по названию пещеры в Астурийских горах, где произошло это столкновение. Позже, в 732 г., франкское войско под командованием Карла Мартелла одержало крупную победу над мусульманами при Пуатье. Это событие положило конец мусульманской экспансии на территорию христианской Европы на западе.
С 716 г. резиденция наместника располагалась в Кордове, куда халиф из Дамаска назначал эмиров. За период 714–756 гг., когда аль-Андалус подчинялся халифату, сменилось примерно 20 эмиров. В середине VIII в. в исламском мире произошли большие перемены. Род Омейядов, занимавший высшее положение в халифате, был свергнут и уничтожен Аббасидами, которые перенесли резиденцию халифа в Багдад. Одному из Омейядов удалось спастись, он бежал в Испанию и, после ожесточенной распри, смог провозгласить себя эмиром аль-Андалуса в 756 г. Именно с правления Абд ар-Рахмана I (756–788) из рода Омейядов принято начинать историю Кордовского эмирата как самостоятельного мусульманского государства на Пиренейском полуострове. С этого момента кордовские эмиры перестали быть наместниками халифов в аль-Андалусе.
В следующие полтора столетия власть мусульман на полуострове значительно укрепилась. Только горные области на севере полуострова оставались неподконтрольными эмирам. Там, преодолевая трудности местных условий, продолжали жить как издавна обосновавшиеся племена – галаики, астуры, кантабры и васконы, так и готы, бежавшие от мусульманского вторжения.
Аль-Андалус связывали с мусульманским миром прочные экономические связи, что давало немало преимуществ. Одновременно в Испанию проникали и некоторые элементы, характерные для социальных систем Востока. И постоянно росло число местных жителей-христиан, которые принимали ислам. При этом важную роль играли те налоговые послабления, которые можно было получить таким образом – избежать дополнительного налога (джизья), который платили христиане. Постоянные контакты, не прерывавшиеся между аль-Андалусом и другими мусульманскими землями, способствовали тому, что в мусульманской Испании были восприняты все важнейшие культурные достижения средневекового исламского мира. Символом процветания аль-Андалуса стала Кордовская Большая мечеть, сооружение которой началось в правление Абд ар-Рахмана I.