Создаем террайн с разрешением 512х512, больше нет необходимости.
В ТЕ делаем карту высот с помощью одного из генераторов фракталов (не помню, какого). 
Рис. 1
Здесь я в ФП удвоил изображение, отзеркалив его по вертикальной и горизонтальной оси. Это можно сделать и в Брайсе, расположив 4 террайна, отзеркалив их. Затем сделать рендер по высоте (Altitude Mask) и вставить картинку в ТЕ. Это чтоб увеличить частоту повторения волн. Можно третий, самый удобный вариант. Сделать карту высот в DTE. Там сразу же и частоту настроить.
Назначаем подходящий материал, настраиваем цвета диффузного рассеяния, подсветки и пр. по своему вкусу. В источник D для канала Ambience грузим градиент для подсветки верхушек волн. Как делать градиент и управлять им, читайте здесь.
Рис. 2
Вот значения шума и фазы в DTE. Чтобы "взлохматить" гребешки волн, я ввел некоторое значение шума (рис. 3 слева) и фазы (рис. 3 справа). Здесь множество вариантов, можете найти свои.
Рис. 3
Желательно в карте высот самую верхнюю точку сделать белой со значением, близким к 255. Если будет ниже, то белая составляющая градиента может оказаться выше гребешков волн и подсвечивать пустоту, ибо он назначается как Object Space и действует на весь габаритный контейнер объекта (террайна). Впрочем, в данном случае можно управлять градиентом, как описано в уроке. Потянуть в Edit Texture за Y вниз, либо задать другой масштаб текстуры по Y.
Если всё сделано правильно, то получится примерно так.
Рис. 4
