La actividad del club comienza el 3 de agosto de 1903 en un abandonado muelle, llamado de los Franceses (pues perteneció a una carbonería perteneciente a una compañía francesa), que era una suerte de prolongación de la actual calle Ayacucho, unido a los murallones por donde pasaban los trenes a la Estación Retiro. Una sudestada destruyó el muelle en 1905, lo que obligó a construir, recién en 1930, uno nuevo, con pilotes de quebracho, de 500 m de largo.

El Asesor Técnico Honorario del Club para la construcción era el Ingeniero José N. Quartino (quien fuera Secretario de Obras Públicas), que confeccionó los planos y los presentó al Superior Gobierno de la Nación el 26 de junio de 1928. El Ingeniero Quartino tuvo como premisa de trabajo la idea de que el Club no sólo debía ser digno de la institución misma, sino un orgullo arquitectónico de Buenos Aires, excepcional en el mundo, como advirtiera Marcelo Torcuato de Alvear.

El 16 de enero de 1937 con la presencia del Presidente de la República General Agustín Pedro Justo, se inaugura oficialmente, totalmente terminado, amueblado y decorado, el edificio social actual en el barrio de Palermo, en la misma ubicación que se encuentra actualmente: Rafael Obligado y Sarmiento. El edificio es de estilo Tudor y en él se hallan colecciones, trofeos y un acuario dedicado a la fauna ictícola del Río de La Plata.

Desde la inauguración de este ¨castillo Belga¨ hasta el día de hoy, pasó de todo, como por ejemplo en 1939, la agencia Reuters instaló una antena en la torre del edificio para poner en marcha una estación de recepción de noticias desde el exterior hacia la Argentina. El Club fue el primer lugar del país donde se supo que la Segunda Guerra Mundial había finalizado.

El 11 de junio de 2001 se declara Monumento Histórico Nacional al edificio de la sede central del club por el Decreto 766/01: