首先，資本主義曾經使用過奴隸……例如美國南方的農業資本家、荷蘭在東南亞的種植園等……
假定奴隸可以被視為自由勞動力的一個完全替代要素，使用奴隸比使用自由勞動力擁有更高的固定成本，和更低的可變成本……
綜合起來看，影響資本家(實際上也可能是每一個生產者)選擇蓄奴還是選擇僱傭的重要因素如下：
蓄奴的固定成本(包括購買、監督、防止逃跑的成本等，在奴隸制非法的現代還要加上法律成本)有多高
生產過程有多麼傾向於勞動密集
全要素生產率有多高
奴隸和自由勞動力本身的勞動生產率各自有多高
在使用自由勞動力進行生產的時候配給給單位自由勞動力的其他成本有多高
假定法律中立：
伴隨着生產力的發展，生產過程將會越來越傾向於資本密集而不是勞動密集
伴隨着生產力的發展，某一產品的全要素生產率本身在降低(因為在產品本身不變的前提下，單位產品價格越來越便宜)
伴隨着教育制度的發展，自由勞動力將會附帶越來越多的人力資本
而在從 19 世紀中後期到現在的環境下，配給給自由勞動力的其他成本是相對適中的(其他成本過高還是過低都會導致增強奴隸的吸引力)
這幾點都會促使越來越多的資本家轉而採用自由勞動力，而不是蓄奴……
在使用奴隸的資本家越少的情況下，剩下來的使用奴隸的資本家就越是能夠降低蓄奴的固定成本的資本家(同時也包括某些特定還處在蓄奴利潤最大化階段的行業的資本家);同時，市場上的一部分自由勞動力(主要應是和奴隸具有差不多的人力資本的自由勞動力)也害怕面對奴隸的競爭——則已經不再使用奴隸的大多數資本家和這些自由勞動力將會聯合起來，促使法律變動，從而讓蓄奴行為變得難以繼續……
參考資料：
Rogowski, R. (2013). Slavery: a dual-equilibrium model with some historical examples. Public Choice, 1-21.
姜源
給一個角度完全不同的小補充。
奴隸和自由勞動力的性質差異是一個法律問題。具體來説，奴隸不具有法律意義上的人格，不是法律意義上的“人”，而是法律意義上的“東西”或者“牲口”。再具體點説，奴隸沒有參與投票的政治權利，沒有通過法律程序締結婚姻的民事權利，沒有以自己名義簽署合同的民事權利等等。而自由勞動力在法律意義上，則是一個人，理論上和資本家擁有相同的政治權利和民事權利。
這個差異的本質是抽象的和理論層面的，而不必然是具體的。事實上，大多數人對奴隸制的一個重大誤解是，把奴隸想象成美洲種植園裏的奴隸。這固然是一種奴隸制的表現，但並不是奴隸的必然屬性。比如在古希臘的奴隸制下，許多教師、管家、商人的身份也是奴隸。這些人從事的是當時最有技術含量的工作，可以擁有充分的人身自由和優越的生活條件，一些奴隸甚至可以成為某個小城的首富。這些人的實際生活條件可能遠遠好於務農的普通公民，唯一的問題在於不具有法律意義上的“人格”。所以，認為奴隸只能從事無創造力的體力勞動，卻無法從事高技術含量、需要主觀能動性和創造力勞動的觀點是不符合真實歷史的。關於奴隸制對創造性勞動不利影響的討論，可以詳見回覆區中@司馬懿的留言。我完全是同意的，我寫這個答案只是想説明奴隸制在歷史上並不必然和困苦、勞動環境惡劣掛鈎。
另外還有一個有趣的話題，就是西歐廢奴思想興起的時間點其實微妙的早於資本主義(當然這取決於對資本主義的定義)，而且肯定顯著地早於工業革命。比如美國建國時期對於是否廢奴的討論很難説和資本主義有什麼關係。