El edificio, reconocible por sus letras rojas del exterior, ha conservado su estilo de la década de 1950 y sigue siendo uno de las principales salas de conciertos de la capital.
La historia de la sala de música más antigua de París. El Olympia fue fundado a finales del siglo XIX por Joseph Oller, fundador del Moulin Rouge, que construyó un circo antes de transformarlo en un musical en 1893. En sus orígenes, el musical designaba una diversidad de espectáculos, que incluían el circo, la comedia, el teatro, el ballet, la pantomima, los acróbatas, los payasos y los cantantes. Solían ser espectáculos de gran calidad que impresionaban por sus juegos de luces y por la maquinaria teatral. En la inauguración actuó la cantante Eugénie Buffet. En 1896 Joseph Oller abandonó la dirección del establecimiento para dedicarse a otros proyectos. Fue sustituido por Oscar de Lagoanaire. Dos años más tarde, y debido a la escasez de público, ocuparon la dirección los hermanos Isola, fundadores del Folies Bergères, que relanzaron el Olympia. Bajo la administración de Jacques-Charles, formada por los hermanos Isola, la sala conoció un período de esplendor antes de transformarse en sala de cine y decaer durante las Dos Guerras Mundiales. Bruno Coquatrix, director del music-hall Bobino, cogió las riendas del teatro y lo convirtió en una sala de espectáculos de fama mundial, que, con 2000 butacas, atrae desde entonces a muchísimo público. El primer artista que subió al escenario bajo su dirección fue Lucienne Delyle, y en su preestreno Gilbert Bécaud cantó Il est à moi l'Olympia.
Aquí han actuado los artistas más importantes, como Bécaud, los Beatles, Edith Piaf, los Rolling Stones, Zazie, Georges Brassens, Michel Sardou y Jacques Brel, que conoció un gran éxito en esta sala de espectáculos gracias a la mediación de Bruno Coquatrix entonces director de la sala. Johnny Hallyday, que lanzó la moda del twist en Francia, organizó su primer concierto en esta mítica sala , abarrotada para la ocasión. La sala, abierta 200 días al año, se encuentra a 2 minutos a pie del Hôtel Mansart, por lo que muchos artistas se alojan aquí. El Olympia ofrece una programación ecléctica que va del pop, rock, música electrónica a las variedades francesas, pasando por el teatro humorístico, los espectáculos de jazz-blues-música clásica, el hip-hop y el reggae y los espectáculos infantiles.