抵押合同的效力，即指抵押人和抵押權人約定設立的抵押權的成立。抵押權是合同雙方預期的法律效果。在合同生效前，它雖由合同約定，但只是一種可能性，并不實際存在。只有在辦理抵押登記之后，抵押權才從可能性轉化為現實性。
合同的成立與生效是兩個不同的概念，但由于合同的成立時間與生效時間往往一致，因此長期以來，我國相關的法律法規以及司法實踐中并不嚴格區分合同的成立與生效。認為合同成立即為生效;違反法律要求的合同為無效合同或可撤銷合同。對《擔保法》第41條的誤解即根源于此。新頒布實施的《合同法》則第一次從立法上明確區分了合同的成立與生效。《合同法》第25條規定:“承諾生效時合同成立。”第44條規定:“依法成立的合同，自成立時生效。法律、行政法規規定應當辦理批準、登記等手續生效的，依照其規定。”由此，合同的成立時間為承諾生效之時，即當事人意思表示一致之時;合同的生效時間，多數情況下，與合同的成立時間一致，但法律、行政法規要求辦理批準、登記等手續生效的，按照其規定。合同成立與生效的明確區分，將有利于人們走出“違反法律要求的合同，一律為無效合同”的誤區，同時也有利于對合同中無過錯一方的保護，維護交易安全。
依據《合同法》第25條、第44條及《擔保法》第41條的規定，抵押合同在當事人就抵押事項達成合意時成立，但并不立即生效。只有待到辦理抵押登記時，合同方生效。生效，體現了法律對抵押雙方合意的認可。登記這種物權公示手段作為抵押合同的生效要件，也體現了法律對第三人的保護力度和法律的價值取向。
《合同法》第44條“依法成立的合同，自成立時生效;法律、行政法規規定應當辦理批準、登記手續生效時，依照其規定。”而《擔保法》第41條規定“當事人以本法第42條規定的財產抵押的，應當辦理抵押物登記抵押合同自登記之日起生效。”依上述法律規定，法定抵押合同應自辦理抵押登記之日起生效。如此規定所直接帶來的一個問題就是，當債務人或第三人提供財產并與債權人簽定抵押合同之后卻又拒絕協助債權人辦理抵押登記時，債權人不能依據合同要求對方履行登記義務。因為根據《擔保法》的規定，抵押合同未登記還沒有生效，當然也不能依合同要求對方履行義務。顯然，這對債權人是不公平的。雖然債權人還可以通過追究對方締約過失責任以彌補損失。但通過追究締約過失責任，債權人得到的充其量只是主張賠償損失的債的保護(提供抵押人為其他第三人時)，甚至連債的保護都得不到(提供抵押人為債務人時);倘若依據合同生效來處理，債權人則可以要求對方依合同履行協助登記之義務，從而實現抵押權，得到物權之保護。顯然，后者于債權人更有利，也更符合公平、合理的理念。
實際上，我國《擔保法》該條規定混淆抵押合同的生效與抵押權的設立。抵押合同是當事人以不動產或部分動產為特定物設立抵押權的協議，屬設權合同，但其本質仍屬合同的本質，其成立與生效及無效應由《合同法》來調整，自然應當自成立時生效，與是否辦理了抵押物登記無關。抵押合同生效，在抵押人與抵押權人之間發生了設定了抵押權的權利義務，屬合同法調整的范疇。但抵押合同并不能直接設立抵押權，抵押權的設立需要履行設立手續，即辦理不動產抵押登記的公示手續，故抵押登記是抵押權的設立行為。以未辦理抵押登記而否定抵押合同的效力，混淆抵押合同的生效與抵押權的設定。也就是學者所謂的“混淆了抵押合同的生效與依據抵押合同所發生的物權變動。”而抵押權登記主要是為了保護第三人的利益，抵押權經登記而設定，是合法有效的抵押合同所產生的法律后果，屬于擔保物權變動的范疇。抵押合同的生效與抵押權設定的關系應是在當事人意思表示達成一致時，抵押合同在成立時生效，而當事人辦理登記時抵押權設立;抵押權設定應以抵押合同為依據。抵押合同無效，抵押權當然不能設定;抵押合同有效，抵押權未必就能設定。所以，在抵押權未能設定時，不能否定有效成立的抵押合同的效力。因此，在制定物權法時，有必要區分抵押合同的生效與抵押權的設立，應將《擔保法》第41條改為：抵押合同自成立時生效，抵押權自當事人辦理登記時設立。
值得指出的是，即便是在法律未作修改之前，我們仍然有必要區分抵押合同的成立和生效。所謂合同的成立，是指當事人經要約、承諾，就合同的主要條款達成合意，即雙方當事人意思表示一致。而合同的生效，是指已經成立的合同符合法定生效要件，而在當事人之間產生一定的法律拘束力。合同的成立反映的是當事人的意志，即雙方當事人之間就合同的主要內容達成合意，強調合同的客觀存在;合同生效，強調的是合同對當事人的拘束性。合同的成立體現了合同自由原則;合同的生效反映了國家的意志，即國家法律對已成立合同的一種法律認可或價值判斷，它體現了國家對合同關系的干預。
由此可見，以登記為要件的抵押合同雖未經登記，但當事人已就合同的主要條款達成合意，顯然合同已經成立。同時這類合同不屬于可撤銷的擔保合同，因為可撤銷的擔保合同要求擔保人是在違背真實意志情況下作出的。而這種抵押擔保合同雖未經登記，但擔保人和被擔保人的意思表示均是真實的，自然不在可撤銷的合同之列;這類抵押合同亦不屬于無效合同。無效合同制度的設立主要目的是保證交易安全，保證國家的利益不受損失。我國《擔保法》第5條第1款和《擔保法的司法解釋》第3、4、5、11條規定了擔保合同無效的事由。結合《合同法》以及民法通則的有關規定，擔保合同無效的原因有以下幾條：(1)因擔保人主體資格、權利能力等方面的欠缺導致的合同無效。例如無民事行為能力人、企業分支機構和職能部門、國家機關，以公益單位、社會團體違法提供的擔保。(2)違反法律、行政法規以強制性規定的擔保，主要是擔保物不合格導致的合同無效。如以法律禁止流通的財產或不可轉讓的財產設定擔保，或以被法院依法查封、扣押的財產設定的擔保等。以法律明確規定不得設立抵押的財產設立抵押，因其違法而無效。(3)越權代表行為導致的合同無效。根據《擔保法司法解釋》第11條規定，法人或其他組織的法定代表人、負責人超越權限訂立的擔保合同，若相對人知道或應當知道其越權，該擔保合同無效。若對僅因抵押合同應登記而未登記就視該合同為無效，顯然不符合無效合同設立的目的。在以往的司法實踐中，因未能正確區分抵押合同的成立與生效，從而將大量的抵押合同不成立問題作為無效抵押合同對待，混淆了合同無效后的責任與合同不成立的責任;亦有將一些已經成立但不具備生效要件的抵押合同都作為無效抵押合同對待，消滅了大量本不該消滅的交易。因為一些已經成立但不具備生效要件的抵押合同若生效要件得到補充或滿足，則可變為有效合同。
