Олег Знарок родился в городе Усть-Катава Челябинской области, является сыном челябинского тренера по футболу и хоккею Валерия Знарка. В начале карьеры (1978-1982) Знарок выступал за челябинский "Трактор", но в 18 лет разругался с начальником команды, который застукал молодого игрока в поезде с сигаретой.
Когда Знарка решили сослать на перевоспитание в соседний "Металлург", он пропал. В те годы Владимир Юрзинов собирал талантливую молодежь для рижского "Динамо" по всему СССР, и ему рассказали про Знарка. Год он не играл из-за дисквалификации. В рижском "Динамо" Знарок отыграл 7 сезонов (1983—1992), высшее достижение — серебро Союзного чемпионата в 1988 году.
В 1992 году провел один сезон в АХЛ, после чего переехал в Германию и до 2002 года выступал за различные немецкие клубы. Получил гражданство Латвии за особые заслуги перед государством, однако в 2001 году сменил его на германское по спортивным соображениям.
Играл в составе молодежной сборной СССР (1981 год), был чемпионом Европы. В 1990 и 1991 годах выступал за сборную СССР, с 1991 года — за сборную Латвии, много лет был капитаном команды.
За сборную Латвии выступал до 1999 года (участник четырех чемпионатов мира), провел 49 игр, забросил 23 шайбы и сделал 32 результативных передачи. Шайба, забитая Знарком в ворота сборной Швейцарии в Эйндховене (1996 год) позволила сборной Латвии сыграть вничью (1:1) и вывела ее в элиту мирового хоккея.
Профессиональную карьеру игрока завершил в 2002 году. Несколько лет работал тренером молодежной сборной Латвии и ассистентом главного тренера сборной Латвии. Под его руководством в 2005 году сборная Латвии U-20 впервые вышла в элитный дивизион. С 2006 по 2011 годы являлся главным тренером сборной Латвии (лучший результат на чемпионатах мира — 7-е место в 2009 году).
С 2008 Знарок вместе с Харием Витолиньшем, который до сих пор является его ассистентом, стал работать в России. Сначала они два сезона тренировали ХК МВД (Балашиха), с которым на второй год дошли да финала Кубка Гагарина-2010. С 2010 года — главный тренер московского "Динамо". В 2012 году клуб выиграл Кубок Гагарина, а по итогам сезона Знарок был назван лучшим тренером КХЛ. Указом президента РФ Владимира Путина тренер награжден Орденом Дружбы.