Родилась 26 июля 1968 года в Лондоне, в семье юристов. После окончания школы Оливия начала изучать английскую литературу в кембриджском колледже Ньюнхэм, после которого она стала осваивать драматическое искусство в Бристольской театральной школе. Несколько последующих лет она провела в театре Королевской шекспировской труппы в Лондоне и в 1995-м году в течение четырех месяцев гастролировала по США вместе с труппой.
Во время этого тура ее и приметил Кевин Костнер и пригласил сняться в картине «Почтальон». Но еще до начала съемок Уильямс успела дебютировать на экране в телефильме «Эмма», снятом по одноименному роману Джейн Остин. А уже в 1997-м году на большие экраны вышла фантастическая мелодрама «Почтальон», вместе с которой к Оливии пришла первая известность. В том же году она сыграла в военной драме «Война Гастона», а в следующем снялась в комедийной драме «Академия Рашмор».
Новая волна популярности для Уильямс пришла после исполнения одной из ключевых ролей в блокбастере «Шестое чувство», где ее партнером по съемочной площадке стал Брюс Уиллис. А в 2000-м году Оливия сыграла в паре с Антонио Бандерасом в картине «Тело», тогда же с ее участием вышли фильмы «Рожденный романтиком», «Четыре собаки в игре в покер» и «Мертвые жизни».
В последующие годы наиболее заметными картинами с Уильямс стали «Питер Пэн», военная драма «Убить короля», мелодрама «Воспитание чувств», триллер Романа Полански «Призрак» и биографическая драма «Секс, наркотики и рок-н-ролл». Одной из наиболее ярких последних работ актрисы стали фильмы «Ханна. Совершенное оружие» и «Анна Каренина». Немалый успех принесли ей и телесериалы «Долбанутые» и «Кукольный дом».
С 2003-го года Оливия состоит в браке с американским актером и драматургом Рашаном Стоуном, от которого у нее родилось двое детей.
