Lorsque vous pénétrez dans le fort, vous vous trouvez dans la batterie avancée, ainsi nommée à cause du groupe de canons sur la pointe, en avant du fort principal. Ces canons avaient pour but de protéger le fort d'une attaque en provenance du lac. Cependant, il était peu probable qu'une attaque vienne de l'eau. Les canons situés sur la batterie avancée occupent l'emplacement le plus élevé de la région de Kingston (environ 100 pieds au-dessus du niveau de l'eau) et avaient facilement une portée supérieure à tout canon naval hostile. De plus, la forte présence de la Royal Navy au chantier naval servirait vraisemblablement à décourager toute attaque navale. Une route d'attaque plus vraisemblable viendrait du nord, par terre. Les défenses du fort sont donc orientées vers cette menace.

Les édifices aux toits métalliques de chaque côté de la batterie avancée ont été construits plus tard que le reste du fort, de 1841 à 1843. En 1867, ils servaient de magasins de l'intendance.