Не завжди. З великої літери це прикметник пишеться в складі власних імен: Олімпійські гри, Олімпійська хартія, Олімпійський комітет Росії, Олімпійське село (Містечко для спортсменів – учасників Олімпіади; але: Олімпійське село – район в Москві).
Розгляд проблем