Su nombre de origen guaraní, significa arena fina.

Los orígenes de Ibicuy se remiten a las civilizaciones precolombinas que habitaban la región mesopotámica. Algunos datos indican que en 1715 por la zona ya había un paraje llamado Cerro Blanco a orillas del Paraná Ibicuy lugar cercano a donde en la actualidad se encuentra el asentamiento urbano.

Luego de varios años, numerosas personas adquirieron estas tierras hasta que se instalaron las instituciones que le dió el matiz de pueblo.

Para 1909 se empezó a trabajar en un proyecto ferro–portuario que hizo que la zona crezca en población y en economía. Ibicuy evolucionó a la par de este proyecto, siendo el principal punto de operaciones de la provincia.

Tal es así que muchos habitantes llegaron con la oferta de empleo que había y se radicaron en el lugar.

Ya en los primeros años del siglo XXI, el puerto Ibicuy comenzó a emplearse para el trasbordo de mineral de hierro proveniente del sur de Brasil vía barcazas fluviales, a buques oceánicos.
Esta actividad en la tarde del 17 de julio de 2011 produjo el derrumbe del muelle de ultramar (denominado "continental") por acopio excesivo de mineral de hierro en la zona posterior.

Sin embargo, con el paso del tiempo se fue recuperando y en 2018 quedó habilitado para operar con buques de ultramar.