Cemel savaşından sonra Küfe’ye giden halife Ali b. Ebü Talib, Cerir b. Abdullah'ın eline verdiği bir mektupla Suriye bölgesini idare etmekten olan Muaviye b. Ebü Sufyan'a göndererek, mektubunda muhacirlerle ensarın biat ettiklerini, ancak Aişe, Zübeyr b. Avvm ve Talha b. Ubeydullah'ın bu biat'a uymayıp kendisiyle savaştığını yazmış ve muhacirlerle ensarın yapmış olduğu biat'a uyup itaatini bildirmesini istemişti.
Muaviye, kendisine elçi olarak gelen Cerir b. Abdullah'ı oyalayarak Amr b. el-As ile istişarede bulunmuştu. Amr b. el-As Muaviye'ye şöyle der: Şam halkını mescide topla, minbere çık kanlı gömleği de minbere çıkar ve halife Osman b. Affan’ın kanını halife Ali b. Ebü Talib'in boynuna isnat eyle. Muaviye de Amr b. el-As'ın bu tavsiyesine uymuştu. Şam halkı daha önce Medine’de Şam’a götürülen halife Osman’ın kanlı gömleği ve eşi Naile’nin kesik parmakları Muaviye tarafından caminin minberine asıldı. Orada toplananlar halife Osman’ın intikamını almak için yemin ettiler. Muaviye bu şekilde orduyu teşvik ve tahrik ettikten sonra, 85 bin kişiden oluşan ordusunun başına Habib b. Mesleme’yi tayin edip, Şam’dan yola çıktı.
Cerir b. Abdullah, Şam'dan dönerek halife Ali b. Ebü Talib’in yanına gelip, Muaviye'nin Şam halkıyla kendisine karşı savaşmak üzere anlaştığını, halife Osman’ı öldürenleri himaye ettiğinden anlaşılır ki, o sebep olmuştur, söylediklerini anlatmıştı.
Halife Ali b. Ebü Talib bunun üzerine 90 bin kişiden oluşan ordusunun başına Malik b. Eşter’i tayin edip, Sıffin'e hareket etti. Sıffin'e vardığı zaman Muaviye, orada ordugah kurmuş ve Fırat yolunu işgal etmiş bulunuyordu. Halife Ali b. Ebü Talib, Muaviye’ye elçiler göndererek, buraya savaşmak için değil, anlaşmak üzere gelmiş bulunduğunu ve biat'a uyup itaatini bildirmesini istedi; ancak olumlu bir cevap alamadı. Halife Ali b. Ebü Talib bunun üzerine birliklerini taarruza geçirdi ve Muaviye'nin ordusunu geri atmaya ve nehir yoluna hakim olmaya muaffak oldu. Halife Ali b. Ebü Talib, bundan sonra Muaviye'nin ordusu sakalarının, kendi adamlarının yanında, nehirden su almalarına müsaade ederek, civanmertliğine yeni bir örnek kattı ki, bu da kendi adamları ile Suriyelilerin birbirleri ile dostluk kurmaları neticesini verdi.
Bir müddet, Muaviye’nin halife Ali b. Ebü Talib’den halife Osman’ın katillerini teslim etmesi talebinde inatla israr etmesi yüzünden, neticesiz kalan müzakereler ile geçti. Halife Ali b. Ebü Talib bu talebi yerine getirmek istemediği gibi, zaten bunu hem arzu etmiyordu hem de, yapmazdı. Bu durum H. 36 yılının rebiülahir ve cemaziyelevvel ayları boyunca sürüp gitmiştir. Bir anlaşma için taraflar, H. 37 yılının Muharrem ayının (M.18 Temmuz 657) sonuna kadar mütarekeye riayet edilmesi hususunda anlaştılar. Fakat bu çare de netice vermeyince, İbnü’l-Esir (El-Kamil, c.3, sa.299)’e göre, nihayet Safer ayının ilk günü savaş ilan olundu ve Sıffin savaşı başladı.
Raviler, umümi bir görüşe müsaade etmeyen ve sadece münferit kabilelerin medhi ve senasına yarayan bir yığın başa-baş vuruşma olduğunu rivayet ettikleri cihetle, savaşın cereyan tarzını açık olarak tesbit etmek kolay değildir. Raviler bundan başka, orduların büyüklüğü ve birliklerin harp nizamı ve bunların kumandanları hakkında da birbirinden tamamiyle ayrı bilgi vermektedirler. Savaş eskiden beri adet olduğu tarzda, her kabilenin kendi başına, kapalı bir birlik halinde harp etmesi şeklinde vuku bulduğu cihetle, halife Ali b. Ebü Talib’in her kabileye karşı tarafta bulunan kabiledaşlarının karşısına gelecek sürette tabiye etmiş bulunması akıllıca bir tedbir idi. Durup-durup yeniden başlayan ve gittikçe hertarafa sirayet eden çarpışmalar, rivayetlerin ittifakla belirttiğine göre, kanlı olmuş ve msl. Halife Ali b. Ebü Talib’in tarafından Ammar b. Yasir ve Haşim b. Utba, Muaviye b. Ebü Sufyan tarafından Yezid b. Adiyy ve Habis b. Sad gibi muhtelif şöhretli kimseler bu arada ölmüşlerdir. Halife Ali b. Ebü Talib, Iraklılara önce su yolunu açmış olan ve şimdi de çok başabaş vuruşmada temayüz etmiş bulunan cesur ve savaş tecrübesi fazla Malik b. Eşter’in şahsında mühim bir destek bulmuş idi.
Bir süre her iki tarafın da üstünlük sağlayamadığı bir şekilde savaşıldıktan sonra Malik b. Eşter, H. 37 yılın 10 Safer ayının çarşambayı perşembeye bağlayan gece (M. 27 Temmüz 657) ve bunu takip eden sabah Suriyelileri o kadar sıkıştırmaya muaffak oldu ki, Muaviye cesaretini kaybedip, kaçmayı düşündü. Bu tehlikeli anda kurnaz Amr b. el-As ona, Allahın iki taraf arasında verdiği hükmü mücadelenin neticesinde arıyan halife Ali b. Ebü Talib’e mukabil, mücadeleden vazgeçilmesini ve kararın Allah'ın kitabına bırakılması lazım geldiğini remzi bir şekilde ifade etmek üzere, Kur’an sahifelerini mızrakların ucuna bağlamayı tavsiye etti. Amr b. el-As'ın bu teklifinin halife Ali b. Ebü Talib'in taraftarı arasında ikilik yaratacağı hususundaki hesabının doğruluğu tezahür etti. Halife Ali b. Ebü Talib'in taraftarlarında büyük bir kısmı, Allah'ın hükmüne yapılan böyle bir müracaatın red edilmemesi gerektiğini ileri sürdü; ancak Halife Ali b. Ebü Talib hemen şunları söylemişti: Ey Allah’ın kulları! Hakkınızı aramaya devam ediniz ve düşmanınıza karşı savaşmaya devam ediniz. Ben Muaviye'yi, Amr’ı çok iyi tanıyorum. Onların dinle ve Kur’anla ilgileri yoktur. Size yazıklar olsun, aldanmayasınız! Vallahi bu Kur’an sahifelerini sırf sizi aldatmak ve size tuzak kurmak için havaya kaldırmışlardır. Bu süretle zaferi kazandığına inanmış bulunan halife Ali b. Ebü Talib, şiddetle itiraz eden Malik b. Eşter’i geri çağırmağa mecbur oldu ve böylece savaş sona erdi.
Aynı şekilde halife Ali b. Ebü Talib'in ordusunun çoğunluğu, Muaviye'nin, biribiri ile münazara eden her iki tarafın, sonradan Kur'an'ın sözlerine göre, bir karar vermek için bir araya gelmek üzere, birer hakem tayini hakkındaki teklifini de kabül etti. Halife Ali b. Ebü Talib'e hakem olarak, kendisine pek taraftar olmayan Ebü Musa el-Aşari zorla kabul ettirilirken, tahmin olacağı gibi, Muaviye taraftarı Suriyeliler Amr b. el-As'ı hakem seçtiler. Antlaşma, İbnü’l-Esir (El-Kamil, c.3, sa.327)’e göre, H. 37 yılın Safer ayının 13. Çarşamba günü (M. 30 Temmuz 657) imzalandı. Bundan sonra ordular ayrılarak, yurtlarına döndüler; halife Ali b. Ebü Talib'in birlikleri kötü bir ruh haleti içinde; öyle ki, mağlup olmadıkları halde, bozguna uğramış intibaını veriyorlardı. Sıffin adiyla anılan bu savaşda 70 bin kişinin katlolunduğunu tarih kitapları kaydeder.
H. 37 yılın Ramazan (M. şubat 657) ayında her iki taraftan dörtyüzer kişilik birer gurup ortak bir karara varmak amacıyla, Suriye ile Irak’ın tam ortasında bulunan Ezruh’da bir araya geldiler. Ebü Musa el-Aşari ile Amr b. el-As bu işe memur edilmiştir. Ancak gerek savaş hususu, gerek müzakerelerin cereyan tarzı için Ebü Musa aldatılmış, müzakerelerin neticesini cemaata açıklamak üzere Ebü Musa minbere çıkıp, hem Ali b. Ebü Talib hemde Muaviye b. Ebü Sufyan’ın halifeliğe layık olmadıklarını ilan ederek, başka bir halifenin seçimi müslüman cemaatine bırakmıştır. Buna mukabil Amr b. el-As minbere çıkınca, Ali b. Ebü Talib hakkındaki hükümde Ebü Musa’ya itifak ettiğini söylemiş, fakat Muaviye b. Ebü Sufyan’ın halifeliğe layık olduğunu ilan etmiş.