Mehmed, ilk iş olarak Yıldırım Bayezid döneminde Boğaz’ın en dar yerinde inşa edilen Güzelcehisar’ın (Anadolu Hisarı) karşısına Boğazkesen (Rumeli) Hisarı’nı yapacak; böylece iki taraftan toplarıyla Boğaz’da tam kontrol kuracaktı.
Kente ulaşan suyolunun kontrolü, ilkçağlardan itibaren önemli bir konu olmuş; Yıldırım Bayezid döneminde Boğaz’ın en dar yerinde kıyıya Güzelcehisar ya da Anadolu Hisarı denen küçük bir yapı inşa edilmişti. Böylece Osmanlılar artık İstanbul Boğazı’nın kıyılarına yerleşmişti. Karaman seferinden dönen 2. Mehmed, Çanakkale Boğazı Latinler tarafından kapatıldığından Edirne’ye gitmek için İstanbul Boğazı’nda Anadolu Hisarı civarından karşıya geçmek zorunda kalmıştı. Bu geçiş sırasında Boğaz’ı ve kıyıyı inceleyen padişah, eski hisarın karşısında yeni bir hisar yapımı için hazırlıklar başlatmıştı. 26 Mart 1452’de başlayan inşaat inanılmaz bir hızla devam etmiş ve Ağustos ayında tamamlanmıştı. Yeni hisar, Boğazkesen ya da Rumeli adları ile anılacaktı. Bugün artık, Boğaz geçişini kestiğini ima eden ilk adı unutulmuştur.
“Fatih büyük bir stratejist idi. Rumeli Hisarı yapıldıktan sonra, bir Venedik gemisi Karadeniz’den gelmiş, kontrolü dinlemeden geçmek istemiş, iki taraftan top ateşiyle batırılmıştır. Fatih’in emriyle, artık İstanbul Boğazı’na gelen her gemi Rumeli Hisarı’na uğrayacak, izin alacaktır. Boğazkesen Hisarı’nın inşaı, Türklerin Boğazlar’a egemenliği tarihinde bir dönüm noktasıdır”. Halil İnalcık
Anadolu Hisarı, Ortaçağ; Rumeli Hisarı, Yakın Çağ mimarisinin özelliklerini taşır. Tam bir kırılma dönemi yapısı olan Rumeli Hisarı’nda Avrupa etkileri görülür. İslâm ve Bizans dünyasında görülen kalelere benzemez. 15. yüzyılın top teknolojisine göre yapılan üç büyük kuleyle, hisar sanki Batılı bir mimarın elinden çıkmış gibidir. Fatih’in İtalyan rönesansının figürleriyle yakın ilişkide olduğu bilinir. Büyük ihtimalle tasarımda bunun etkisi vardır.
Bir Osmanlı efsanesi de hisarın yerinde bulunan bir Frenk manastırından bahseder: Buradakiler Fatih’in ordusunu görünce zünnarlarını/kemerlerini çözüp atmış, ruhban cübbelerini çıkarmış “Biz Müslüman olmuş idik, sizi bekliyor idik” diyerek hisarın çizimlerini sunmuş ve bu hisar onların rehberliğinde inşa edilmiştir. Bu efsane, Frenk tarzı tasarıma bir gönderme gibidir.
Gemilerin Haliç’e, bugünkü Kasımpaşa koyunun yerindeki dolgu alandan indirildiği konusunda bugün birçok araştırmacı hemfikir. Ancak gemilerin bu kara yolculuğuna nereden başladığı tartışmalı. Dolmabahçe’den Tophane’ye kadar birçok yerden sözedilse de eski Tophane koyundan başlayıp Galata Kulesi’nin arkasından Kasımpaşa’ya inen rota en mantıklısı gibi görünüyor. Zincirin bir ucu, Galata yönünde bugünkü Yeraltı Camii’nin yerindeki Kastellion denilen güçlü bir kuledeydi. Zincirin diğer ucunun bağlı olduğu Sirkeci’deki Kentenarion kulesinden iz kalmamıştır. Bu kule, muhtemelen bugünkü Sirkeci arabalı vapur iskelesi civarındaydı.
