Sua história começou em 1896 quando o general José Vieira de Couto Magalhães adquiriu uma extensão de 120 alqueires, que era propriedade de Bento Ribeiro dos Santos Camargo. Essas terras não tinham muito valor, pois eram inundáveis; sua função era meramente recreativa, para caça e pesca, e abrigava árvores frutíferas (principalmente jabuticabeiras). Embora não se tivesse casado, o general teve um filho, José Couto de Magalhães, com uma índia do Pará. Em 1898, com a morte do general, seu filho herdou o local, conhecido como Chácara do Itahy ("pedra pequena", em tupi). Em1907, Leopoldo Couto de Magalhães, irmão do general, comprou as terras por 30 contos de réis, fixando residência no lugar.
Atualmente possui vizinhos abastados, como o distrito do Morumbi e a região dos Jardins. Hoje em dia o Itaim Bibi é considerado um bairro nobre, sendo classificado pelo CRECI como "Zona de Valor A", assim como outras áreas privilegiadas da cidade.
Apresenta sedes de empresas, tais como: Morgan Stanley, Internet Group e Cyrela.
Mas no seu início e até os anos 1960–1970, era um bairro das empregadas, dos motoristas, verdureiros e pequenos comerciantes em geral. O núcleo inicial do bairro se modificou progressivamente. O comércio ampliou-se e deixou de servir somente os bairros vizinhos, passando a atender também outras áreas, fazendo com que o bairro perdesse sua característica popular, tornando-se uma região abastada e desenvolvida.
