1967年に根岸線敷設工事に伴い、横浜市郷土研究会会員の千貝幸之助（ちがいこうのすけ）により存在が通報され、1968年、1970年、1972年に発掘調査が実施された。

いたち川流域をはじめとする南関東の丘陵部辺縁には、掘削しやすい土質の傾斜が多く、横穴墓が多く築造された。特徴は近隣の地名をとって鍛冶ヶ谷式とよばれる。アーチ型の断面で、よく発達した玄室の奥に小型の奥室をもつ復室構造であること、羨道は存在しないか、またはかなり退化していることが挙げられる。人骨のほか、土師器須恵器類、勾玉管玉類、鉄剣鉄刀類、耳鐶などが出土している。年代観としては古墳時代終末期から奈良時代までに幅広く編年され、継起的に造営されたことを伺わせる。この地域の有力首長層、富裕農民層らの墳墓と考えられている。

明応年間に小田原城を奪取した伊勢新九郎（北条早雲）が、永正九（1512）年八月、扇谷上杉氏方で相模における最大勢力であった三浦義同の岡崎城を急襲しこれを奪取した。三浦義同・義意父子は岡崎城から逃れ住吉城に立て籠るがこれも陥とされ、義同らは新井城、三崎城に立て籠った。早雲はこれを力攻めでは陥とすことができないと考え、翌永正十（1513）年十月に新井城に対する糧道遮断と北方からの上杉勢の援軍を断つために三浦半島の付け根に玉縄城を築き、次男の氏時を城主に任じた。永正十三（1516）年、扇谷上杉朝興は三浦義同救援のために派兵したが、早雲は新井城の押さえに二千騎を残し、玉縄城北方に四、五千騎を陣取らせて上杉朝興に対峙させた。この結果、上杉氏は新井城の三浦義同・義意父子の救援に失敗し新井城は陥落、三浦氏は滅亡し相模一国は北条氏の手中に落ちた。以降、玉縄城は東相模の重要な拠点となった。大永六（1526）年、小弓公方・足利義明の意向を受けて安房から里見義豊、里見実堯が渡海して鎌倉に討ち入り、鶴岡八幡宮をはじめ寺社仏閣の多くが破却炎上されたが、玉縄城主の氏時は兵を戸部川（柏尾川）河畔まで進めて防戦した（大永鎌倉合戦）。

氏時死後は氏綱次男の為昌が城主となり、氏綱の養子綱成が後見となった。のちに為昌は河越城主となり、後見の綱成が城主となった。玉縄城は主に安房里見氏に対峙する三浦水軍を総括する拠点となり、「玉縄衆」と呼ばれる家臣団が編成された。永禄四（1561）年の上杉謙信による小田原城包囲戦の後、謙信は鶴岡八幡宮で関東管領就任披露を行った。その際に謙信は玉縄城を包囲したが、綱成は不在で綱成の子・康成（のち氏繁に改名）が守備した。謙信は玉縄城の守りが堅いと見るや、囲みを解いて越後へ引き上げた。永禄十二（1569）年の武田信玄による小田原城包囲の際には信玄は玉縄城攻めを避けて素通りしている。

天正十八（1590）年の小田原の役では、城主・北条氏勝は援軍として山中城に籠ったが、山中城は三月二十九日、わずか半日で落城し、氏勝は玉縄城に退いた。氏勝は小田原城の氏政より、小田原城で合流して籠城するよう指示を受けるが、山中城での敗退を恥として、玉縄城を堅持すべく籠城したが、これがかえって氏政・氏直の疑心を生むことになってしまった。これに眼をつけた徳川家康は氏勝を説得し、四月二十一日に降伏開城、氏勝はその後、北条の諸城に降伏を呼び掛ける使者となった。小田原城開城後は氏勝は下総岩富城一万石に任じられ、玉縄城には家康の謀臣、本多正信が任じられた。その後、水野氏、松平正綱らが城主に任じられ、玉縄藩を開いたが、元禄十六（1703）年に松平正久が上総大多喜城に移封となり、廃藩・廃城となった。