Desde su fundación, la ciudad de Buenos Aires no tenía un puerto adecuado para que los barcos pudieran cargar y descargar mercaderías por la poca profundidad del Río de la Plata. Esta característica del río había servido como una tradicional defensa para evitar ataques enemigos (por ejemplo: durante las Invasiones inglesas de 1806 y 1807 y en el Primer bombardeo de Buenos Aires y los siguientes, efectuados por los realistas de Montevideo en 1811 y 1812), pero se convertía en un fuerte obstáculo en la nueva etapa de creciente actividad comercial.

Las embarcaciones, al no poder acercarse demasiado a la costa, debían permanecer ancladas en los llamados "pozos" del río con profundidad suficiente, que funcionaban como un puerto natural. Hacia allí se dirigían grandes carretas y precarias barcazas para recoger a los pasajeros y las mercaderías. Los barcos, anclados al borneo durante varios días, quedaban expuestos con frecuencia a los variables vientos y a fuertes tormentas. 

Hacia 1820 un viajero inglés que arribó a Buenos Aires escribía: "El Río de la Plata podría ser bautizado con justicia como "infierno del navegante" (...). El gobierno ha mandado colocar boyas en los bancos Chico y Ortiz y se ha hablado mucho de construir un muelle, una dársena y otros trabajos de consideración. Han sido contratados los servicios de un ingeniero francés y un caballero cuáquero, de nombre Bevans. Este último llegó, procedente de Londres, en octubre de 1822, pero la carencia de fondos ha impedido la proyectada empresa. Levantar muelles y dársenas no es tarea fácil en un país desprovisto de obreros."

El antecedente directo del nuevo puerto fue la construcción hacia 1856 de dos largos muelles que se introducían en el río: el de pasajeros se encontraba a la altura de la actual calle Sarmiento y el de cargas detrás de la Casa Rosada donde se hallaba el edificio semicircular de la Aduana, actual Plaza Colón. Este muelle de cargas seguía aproximadamente el actual eje que forman la Casa Rosada y el Puente de la Mujer.

También existía un tercer muelle llamado "de las Catalinas" —construido en 1872—, a la altura de la calle Paraguay, cerca del actual acceso a Puerto Madero por la Avenida Córdoba. La compañía "Muelles y Depósitos de las Catalinas" reunió por primera vez allí los tres elementos de una instalación portuaria moderna: muelle, depósitos y conexión con el ferrocarril.

En 1882 el gobierno nacional del Presidente Julio Roca contrató al comerciante Eduardo Madero (sobrino del vicepresidente Francisco Madero) para que se encargara de la construcción de un nuevo puerto que solucionara estos inconvenientes.
El proyecto de Madero (realizado por los ingenieros ingleses Hawkshaw, Son & Hayter)​ resultó elegido de entre muchos otros y proponía un sistema de diques intercomunicados con dos canales de acceso, hacia el norte y hacia el sur. Para la ejecución se contaría con el apoyo financiero británico a través de la Baring Brothers.

Entre las propuestas desechadas estuvo la del ingeniero Huergo, que proponía la readecuación del puerto más tradicional y antiguo de la ciudad (el de la Boca del Riachuelo), creando un sistema de dársenas abiertas al río, permitiendo el ingreso de barcos de gran tamaño en el futuro. El proyecto de Huergo venía siendo apoyado por las autoridades de la provincia de Buenos Aires. Cuando se estableció por ley la ciudad de Buenos Aires como capital del país, se optó por el proyecto de Madero, que fue definitivamente aprobado por el Congreso nacional en 1884. A partir de ese momento mermaron las obras de dragado del canal de la Boca del Riachuelo —que se venían efectuando desde años atrás— y se decidió destinar los recursos necesarios para la construcción del nuevo puerto. Bastaron pocas décadas para que se revelaran las consecuencias de tan mala elección.

El proyecto de Madero para el puerto de la ciudad de Buenos Aires era mucho más complejo y costoso que todas las propuestas anteriores. Se trataba del relleno de toda la costa del Río de la Plata desde la calle Córdoba hasta la boca del Riachuelo, generando una inmensa isla artificial de aproximadamente 350 hectáreas, separada de la ciudad por cuatro diques y dos dársenas de acceso para los barcos. Para la construcción, la compañía inglesa Walker & Co. Ltd. utilizó grandes cantidades de piedra y arena provenientes de la localidad de Conchillas, en la costa uruguaya.

Otro aspecto cuestionado y polémico fue establecer dos canales dragados de acceso, uno hacia el sur y otro hacia el norte, con un ingreso al puerto por una dársena sur y una dársena norte respectivamente. La dársena norte, destinada a la marina militar, permitiría —según el proyecto— una salida alternativa de los barcos en caso de un bloqueo comercial enemigo (habituales durante el siglo XIX) y dispondría de diques secos o "de carena" para la reparación de barcos militares. Este puerto "con dos accesos" —que fue satirizado por los opositores del proyecto— se concretó solo en parte, por el excesivo costo del dragado. Sin embargo posteriormente el canal norte se convertiría en el acceso principal al Puerto Nuevo. Los diques secos hoy están abandonados.

La construcción se inició el 1 de abril de 1887 y fue llevada adelante por la empresa inglesa Thomas Walker & Co. La dársena sur se inauguró el 28 de enero de 1889. Le siguieron los diques 1 y 2 (habilitados el 31 de enero y el 28 de septiembre de 1890, respectivamente), el dique 3 (31 de marzo de 1892), el dique 4 y la dársena norte (7 de marzo de 1897) y la primera etapa del canal norte (15 de julio de 1897). Finalmente, la etapa final del canal norte se habilitó el 31 de marzo de 1898,3​ y la obra del puerto se dio por terminada. Para llegar por tierra, se construyeron además cuatro puentes giratorios de última tecnología, conectando el puerto con el centro de Buenos Aires; estos puentes al girarse permitían que los barcos pudieran pasar sin inconvenientes de un dique a otro. Madero falleció en 1894, antes de que el puerto estuviera terminado.

Una vez inaugurado, la mayor dificultad del puerto era que los barcos que anclaban en los amarres de la zona "este" de los diques (la más alejada de la ciudad), solo podían ingresar o recibir mercaderías a través de cuatro angostos puentes, lo que hacía poco práctico, lento y costoso el uso del 50 % de la superficie de amarre.

La solución que se encontró fue establecer una serie de depósitos en el sector más cercano a la ciudad destinados a los artículos de importación, y en la zona opuesta silos para almacenamiento de granos, destinados a la exportación.

Los depósitos de mercaderías se construyeron con fachadas de ladrillo que hoy se conocen como docks, diseñados también por Hawkshaw, Son & Hayter en Gran Bretaña. Se distribuyeron agrupados de a cuatro, del lado oeste de los diques, y fueron construidos por la compañía alemana Wayss & Freytag Ltd. entre 1895 y 1905.

Se utilizaron dos modelos constructivos: de estructura de hierro y madera, y de estructura de hormigón armado; aunque todos fueron revestidos con ladrillo, dándoles una estética británica. Son de planta rectangular, con un sótano y dos o cuatro pisos altos, con grúas Armstrong & Mitchell instaladas en las fachadas para poder elevar las mercaderías y almacenarlas. Se tomó como antecedente el edificio del Mercado Central de Frutos.

Ya ocupado todo el lado oeste de los cuatro diques, hacia 1900 comenzaron a construirse más depósitos sobre la isla artificial. Eduardo Madero había planeado originalmente —junto a la casa financiera Baring Brothers—, la división de los terrenos en una cuadrícula regular de calles, organizando un negocio inmobiliario que según argumentaba, hubiera permitido el financiamiento del puerto, pero fue obstaculizado por el Gobierno Nacional y no se concretó.​

Abandonada la idea de cuadrícula original, finalmente se hicieron almacenadores de granos de hierro y chapa, y luego nuevos depósitos de hormigón armado. Al mismo tiempo, las compañías exportadoras de cereales y productos agrícolas fueron edificando sus propios silos y galpones de almacenamiento.5​ A partir de 1902, Bunge y Born construyó a lo largo del Dique 2 todo el complejo de silos y depósitos para Molinos Río de la Plata, de los cuales hoy en día sólo quedan dos, reciclados por el empresario Alan Faena.

La Junta Nacional de Granos también avanzó con su propio conjunto de silos y almacenadores. Todavía queda en pie la estructura de uno de ellos, último vestigio del antiguo puerto cerealero. Actualmente está intervenida por artistas en homenaje a todas las mujeres y permanece frente a la plazoleta "Reina de Holanda", donde hay una estatua de Ana Frank, réplica de la original.

Unos diez años después de terminado, Puerto Madero ya había quedado totalmente obsoleto, debido al aumento del tamaño cada vez mayor de los buques. El gobierno tuvo que encarar la construcción de un nuevo puerto, y esta vez siguió las ideas de Huergo de una serie de dársenas abiertas en forma de peine, y el resultado fue el Puerto Nuevo, que se inauguró en 1919 y sigue activo hoy en día.

El 15 de noviembre de 1989, el Ministerio de Obras y Servicios Públicos, el Ministerio del Interior y la Municipalidad de la Ciudad de Buenos Aires firmaron el acta de constitución de una sociedad anónima denominada "Corporación Antiguo Puerto Madero", teniendo como finalidad la desafectación del área portuaria y su urbanización como nuevo barrio: los gobiernos de la Nación y de la ciudad participaron como socios igualitarios.

Las 170 hectáreas del lugar tenían jurisdicciones superpuestas: la Administración General de Puertos, Ferrocarriles Argentinos y la Junta Nacional de Granos tenían intereses en la zona. El convenio firmado implicó la transferencia de la totalidad de las hectáreas a la Corporación Antiguo Puerto Madero S.A., en tanto que la Municipalidad de la Ciudad de Buenos Aires (MCBA) quedó a cargo de la reglamentación de la normativa de desarrollo urbano.

Desde ese momento en adelante, más allá de las administraciones de distinto signo político que hubo en la ciudad, el barrio de Puerto Madero se fue consolidando. Aunque por el momento está poco poblado, la superficie construida ha superado todas las previsiones iniciales. El costo de las viviendas se encuentra entre los más caros de la ciudad y se constituyó en uno de los barrios más exclusivos.

Los fines de semana la fisonomía del barrio cambia completamente, por la gran cantidad de turistas y vecinos que recorren sus calles y sus amplios y modernos parques. Se ha convertido en uno de los lugares tradicionales de recreación de Buenos Aires. A ello contribuyó que desde la planificación original (como barrio de oficinas) se fue transformando en un barrio residencial, con importantes zonas de viviendas, hoteles y comercios.