Николай Олялин родился в Вологодской области, в деревне Опихалино, в семье портного.
В детстве занимался в кружке самодеятельности в местном Доме офицеров. В 1959 году он приехал в Ленинград и сразу поступил в ЛГИТМиК, на курс Александра Яна. Успешно окончив вуз, артист был направлен в Красноярский театр юного зрителя, на сцене которого за несколько лет переиграл множество разноплановых ролей. С 1968 года Николай Олялин начал работать на киностудии имени Довженко. Дебютировал в кино актер в роли летчика-истребителя Николая Болдырева в фильме "Дни летные".
Через год его пригласил режиссер Юрий Озеров на одну из ведущих ролей в киноэпопее "Освобождение". Роль капитана Цветаева заслуженно принесла Николаю Олялину всесоюзную известность. В 1990 году Олялин по своему сценарию поставил мелодраму "Неотстрелянная музыка", одну из главных ролей в котором исполнил сам.
Всего Олялин сыграл почти в шестидесяти фильмах. Фильмы с его участием: "Бег", "Обратной дороги нет", "Пропавшая экспедиция", "Биндюжник и Король", "Есенин". Одной из последних его работ в кино стал инквизитор в картине "Дневной дозор".