O edifício é facilmente reconhecível graças às suas letras vermelhas, visíveis do lado de fora, e soube preservar todo o seu estilo autêntico da década de 50, sendo ainda hoje uma das mais famosas salas de espetáculos musicais da capital.
O Olympia fora inaugurado no final do século XIX por Joseph Oller, fundador do Moulin Rouge, que construíra primeiramente um circo antes de transformá-lo em sala de musicais, em 1893. A sala de musicais abriu-se, originalmente, a uma diversidade de espetáculos, incluindo o circo, a comédia, o teatro, o balé, a pantomímica, os acrobatas, os palhaços e os cantores. Tratava-se, majoritariamente, de espetáculos de altíssima qualidade e que impressionavam o público com seus efeitos de luz e de teatro. A cantora Eugénie Buffet ali apresentou-se quando na ocasião da inauguração da sala. Em 1896, Joseph Oller abandonou a direção do local para dedicar-se a outros projetos. Ele fora substituído por Oscar de Lagoanaire, tendo este, por sua vez, sido substituído dois anos mais tarde, em virtude da falta de frequentação, pelos irmãos Isola, fundadores da casa de espetáculos Folies Bergères, que relançaram a atividade do Olympia. Sob a administração de Jacques-Charles, formado pelos irmãos Isola, a sala vivenciou um período de glória antes de ser transformada em sala de cinema e de, praticamente, estagnar sua atividade durante as duas Guerras Mundiais. Bruno Coquatrix, diretor do music-hall Bobino, retomou, em seguida, as rédeas do local, fazendo dele uma sala de espetáculos mundialmente conhecida e que atrai, hoje, espectadores de todos os estilos de música e espetáculos, contando atualmente com 2.000 lugares. O primeiro artista que subiu no palco do Olympia sob sua direção fora Lucienne Delyle, com a abertura de Gilbert Bécaud e sua canção “Il est à moi l’Olympia”.
Os maiores artistas de todos os tempos já se apresentaram no Olympia, tais como Gilbert Bécaud, The Beatles, Edith Piaf, Rolling Stones, Zazie, Georges Brassens, Michel Sardou e Jacques Brel, que conheceu um enorme sucesso nesse grande music hall da capital, principalmente, graças a Bruno Coquatrix, então diretor do local. Johnny Hallyday, famoso artista que lançou a moda do twist na França, organizou seu primeiro show nessa sala mítica, totalmente lotada para a ocasião. Aberta 320 dias ao ano, a sala é situada a somente 2 minutos a pé do Hotel Mansart, que recebe regularmente os artistas que nela se apresentam. O Olympia propõe uma programação eclética, do “pop rock eletro” às variedades francesas, passando pelo teatro humorístico, os espetáculos de jazz, blues e clássicos, o hip hop e o reggae, sem esquecer os espetáculos para crianças.