Az óváros délkeleti részén található a legalacsonyabb, egyben a Siratófalhoz legközelebb eső kapu. A névadás okaként emlegették, hogy a szentélyi áldozatok elégetése után maradt hamut itt hordták ki. Ennél jóval egyszerűbb a valódi ok: ezen a kapun keresztül vitték ki a városból az összegyűlt szemetet. Egy azonos nevű kaput három helyen is megemlít Nechemja könyve, először itt:
És én kimentem éjjel a Völgy kapuján s a sárkányforrás irányába és a szemét kapuja felé…
(2.13).
Ez a bibliai kapu hasonló célt szolgált ugyan, mint későbbi névrokona, de minden bizonnyal jóval délebbre, a Siloah medence mellett épült.
Ibn Haldun XIV. századi muszlim történész Jeruzsálem történetéről írva azt állítja, hogy a Szentély hegyet és környékét különösen a VI. században vastag szemétréteg borította. A keresztesek idejében a kapu környéke a bőrcserző mestereknek, majd a városi vágóhídnak adott helyet. A levegőben terjengő kellemetlen szag és a felhalmozott szemét hosszú időn át távol tartotta a környéktől az embereket, csak a legszegényebbek telepedtek meg a körzetben. 1187-ben Szaladin szultán döntő csapást mért a szentföldi keresztény hadakra. Fia, Al-Afdal néhány évvel később a Templom hegytől nyugatra, a Siratófal előtti mai üres téren házakat építtetett Magreb régió** országaiból származó arabok számára, létrehozva egy kicsi és roppant szegényes lakótelepet. 1491-ben a keresztények által Spanyolországból elüldözött muszlim menekültek is ott telepedtek le. A hatnapos háború után az izraeli kormány elrendelte a százharmincöt ház lebontását, hogy megfelelő területű, biztonságos és szellemiségében is méltó helyet biztosítson a zsidó imádkozók tömegének. A Magreb lakótelep kiköltöztetett hatszázötven lakosát kártalanították.
A 16. század elején a városfal felépítésekor nem egészen másfél méter széles kaput vágtak a falba, amely többnyire zárva volt. Amikor kinyitották, nemcsak szemetet vittek ki, de egyúttal itt hozták be hordókban az ivóvizet a városba, így fontos szerepet töltött be a lakosok életében. Cornelis de Bruyn, akinek 1698-ban jelent meg Jeruzsálem térképe, leírásában elhanyagoltnak tünteti fel a környéket, és a helyzet a következő kétszáz évben sem javult. Erről tanúskodik Avraham Mose Luntz író és történész (1854-1918) beszámolója. Amikor aztán a 19. században a kényelmetlenül szűk bejáratot valódi kapuvá alakították át, gondozni kezdték a környezetét is. Elszállították a szemét- és hulladékhalmokat és a helyükre kaktuszcserjéket ültettek, hogy elejét vegyék az újbóli szemétlerakásnak. Egy 1865-ös térképen látszik a kaktuszok közé épített ösvény és a kétnyelvű – arab és angol – felirat a kapu felett. Nem tisztázott, mikor kapta a kapu a nevét, de az bizonyos, hogy a helyi muszlimok nem vették át, ők Mugrabi kapuként emlegették, utalásként a Magreb lakótelepre.
A Szemétkapu és a zsidó negyed közötti közlekedés meglehetősen bonyolult volt. A zsidó negyed ugyanis egy hatalmas sziklára épült, ennek köszönhetően igencsak kiemelkedik a völgy fölött. A török uralom idején kétféle út kínálkozott az átjárásra: a kaktuszültetvényen keresztül, majd a Mugrabi házai között, vagy a keskeny, meredek, hepehupás ösvényen át. Egyik sem volt biztonságos a zsidók számára, mégis ez volt évtizedeken át a két járható út. Az 1929-es arab vérengzés, amely Hebronban csúcsosodott ki, a jeruzsálemi óvárosban kezdődött. Az éveken át tartó összecsapások odáig vezettek, hogy az 1936-os zavargások kitörése lehetetlenné tette a zsidók számára a Siratófal megközelítését az említett két útvonalon. A britek úgy oldották meg a helyzetet, hogy a zsidó negyedbe vezető hatalmas lépcsősort, a keskeny ösvény helyett pedig széles kövesutat építettek. A zsidó és arab lakosok közötti érintkezés elkerülése érdekében lezárták a Szemétkaput, így a Siratófalhoz a városfalon belülről, a zsidó negyed déli részéből levezető úton biztonságosan el lehetett jutni. Izrael Állam kikiáltása után a Kelet-Jeruzsálemet uraló jordán katonai vezetés megnagyobbította a Szemétkaput és eltávolította a törökök által épített lépcsősort, amelyet aztán Jeruzsálem újraegyesítése után Izrael újraépített. Ezt a lépcsősort használhatják a mai napig azok, akik nem kívülről, a Szemétkapun át, hanem az óváros belseje felől közelítik meg a zsidóság legszentebb kegyhelyét, a Siratófalat.
**Marokkó, Nyugat-Szahara, Algéria, Tunézia és Líbia