Los historiadores coinciden en señalar a la Boca como el lugar en donde Pedro de Mendoza fundó la ciudad de Santa María de los Buenos Aires, en 1536. Aunque las condiciones geográficas siempre fueron muy adversas, se asentaron allí las famosas "barracas", que eran construcciones muy humildes donde se almacenaban diferentes productos, se curtían cueros etc. 

La zona anegadiza donde se encuentra este barrio, que recibe su nombre precisamente de la boca en la cual desembocan en el Río de la Plata las aguas del Riachuelo, impidió durante mucho tiempo el asentamiento de grupos estables de vecinos. Hasta principios del siglo XIX el lugar estuvo prácticamente deshabitado, siendo entre los años 1830 y 1852 cuando comenzaron a instalarse familias genovesas, construyéndose ya por entonces astilleros navales y almacenes.

Al ser la zona de mayor entrada de barcos, a finales del siglo XIX se asentaron allí muchos inmigrantes italianos, principalmente genoveses, que le dieron al barrio su fisonomía actual. De allí fue que a los residentes de La Boca se los conocía como Xeneizes (deformación de «zeneizi», es decir, genoveses, en su propio dialecto) y, años después, por extensión, los hinchas del club Boca Juniors se identificaron de la misma manera.

Los inmigrantes se agruparon en Conventillos y pintaron sus casas con los sobrantes de pintura que traían los marineros. Como la pintura no alcanzaba para cubrir toda una casa de un mismo color, se utilizaron diversos colores para pintarlas.
Los conventillos de La Boca se caracterizaban por ser construcciones de chapas de metal acanaladas, montadas muchas veces sobre pilotes o cimientos altos debido a las frecuentes inundaciones. En su interior contaban con gran cantidad de pequeñas habitaciones, donde se «acomodaba» cada familia, mientras que la cocina y el baño común era compartido por todos los inquilinos que la habitaban. Siempre había un patio y balcones irregulares que fueron el ámbito donde se mezclaban y enriquecían las diferentes culturas en una interrelación que dio origen a una pintoresca versatilidad de personajes , que son rescatados luego por el arte popular.​

La fiebre amarilla azotó al sur de la ciudad entre 1870 y 1871, dejando incontables víctimas, es así que los vecinos adinerados del barrio, decidieron trasladarse hacia el norte, donde había una mayor cantidad de espacios verdes y una menor densidad poblacional, a partir de allí, las grandes casonas del barrio fueron subdivididas en varios cuartos que eran alquilados a los inmigrantes. Este hecho profundizó aún más la división de la ciudad en estratos sociales muy definidos: la aristocracia se agrupó al norte de la ciudad, mientras que el Sur fue ocupado por el proletariado.

En 1870 La Boca ya poseía gran parte de su fisonomía actual y en 1895 era la segunda sección de la Capital. Sobre una población de 38.000 habitantes, 17.000 eran argentinos, 14.000 italianos, 2.500 españoles y el resto de otras nacionalidades.

En 1866 se inauguró un ramal que desprendiéndose en la estación que tomaba por la actual calle Caminito y luego avanzaba por la avenida Don Pedro de Mendoza hasta su intersección con la avenida Almirante Brown donde se levantaba la estación Muelle de La Boca, 

En 1876 el ingeniero Luis A. Huergo gana un concurso realizado por la Provincia de Buenos Aires para los trabajos de canalización del Riachuelo que comprendían el ensanche, profundización, apertura de una nueva boca y construcción de nuevos muelles. Estas mejoras permitieron el normal acceso de buques de ultramar, potenciando las posibilidades que ofrecía el Riachuelo como puerto natural de la ciudad, sin embargo, en 1880 con la federalización de la ciudad de Buenos Aires, el Riachuelo se establece como frontera entre la provincia y la nación y en 1882 Eduardo Madero presenta un proyecto para el nuevo puerto de Buenos Aires (actual Puerto Madero) que funcionaría a la vez como un frente definitivo para la flamante ciudad Capital. El ing. Huergo objeta el proyecto de Madero en sus aspectos técnicos y financieros, considerando el sistema de dársenas como lento y obsoleto, además de excesivamente costoso.
A su vez, Huergo presenta una propuesta alternativa adoptando un diseño de dársenas abiertas o dentiformes (similares al diseño de Puerto Nuevo), ubicadas desde el Riachuelo hasta la Plaza de Mayo, con un único acceso al puerto por el canal sur, o sea manteniendo a La Boca como epicentro del desarrollo portuario e industrial de la ciudad. Finalmente el Congreso Nacional aprueba el proyecto de Madero y los problemas técnicos anticipados por Huergo surgieron casi de inmediato. La Construcción de Puerto Madero, Dock-Sud, Puerto Nuevo y el Puerto de La Plata, no hicieron más que acentuar la pérdida del rol estratégico, que hasta entonces había tenido el puerto del Riachuelo, que en poco tiempo se convirtió en un mero puerto de cabotaje, apéndice del obsoleto Puerto Madero.

El 25 de mayo de 1901 fue fundado el Club Atlético River Plate  a partir de la fusión de dos clubes: Santa Rosa y La Rosales, dos equipos del barrio de La Boca que mantenían una amistosa rivalidad. Después de varias propuestas, decidieron llamarlo «River Plate».

La mayoría de sus fundadores fueron descendientes de italianos y según cuenta la historia, el nombre «River Plate» surgió cuando los miembros del club lo vieron estampado en unos gigantescos cajones, en la época en que se construía el Puerto Madero. La camiseta del club también tuvo un origen casual, una madrugada de carnaval, cuando los creadores de la entidad, robaron a modo de travesura una cinta de seda roja que descolgaba de la parte trasera de un carro. Hasta aquel momento la camiseta de River era únicamente de color blanco, y alguien tuvo la idea de añadir la cinta roja, sujetada con alfileres, a modo de banda, para darle un toque de color, idea que finalmente tuvo gran aceptación. Con algunos traslados breves, River Plate se mantuvo en el barrio de La Boca hasta 1923, cuando optó por mudarse definitivamente a la zona norte, primero al barrio de Palermo y finalmente, en 1938, al barrio de Nuñez, mientras tanto, en 1905, nacía el histórico y mundialmente reconocido Club Atlético Boca Juniors. Sus fundadores decidieron que el nuevo club llevara el nombre del barrio, acompañado del término «Juniors», práctica común para otorgar un mayor prestigio a las instituciones, aunque en este caso el contraste del nombre era notorio, por la fama de barrio «difícil» y marginal, que se había ganado La Boca en aquel entonces. Al igual que River, muchos de los seguidores de Boca eran italianos, en su mayoría genoveses, que vivían en la zona. En 1914 el club estuvo a punto de abandonar el barrio, cuando la dirigencia consiguió unos terrenos en la zona de Wilde (Avellaneda). La marcha parecía inevitable, sin embargo, la contundente negativa de 1.300 de los 1.600 socios que tenía la institución, provocó que los mandatarios decidieran dar marcha atrás al proyecto. La construcción del estadio La Bombonera en 1940 afianzaría su residencia, aunque no de manera definitiva, ya que algunas décadas más adelante surgieron nuevos proyectos para trasladar la cancha a otros lugares cercanos con terrenos más generosos que el actual.

Con el correr del tiempo, todo el país se dividió principalmente entre hinchas de River o de Boca, dos equipos que paradójicamente habían nacido en el mismo barrio. El cruce entre Boca Juniors y River Plate, conocido habitualmente como El Superclásico del fútbol argentino, se convirtió rápidamente en uno de los encuentros más apasionados, no solo a nivel nacional, sino también a nivel internacional