Открываем Photoshop, создаем новый файл — File\Файл > New\Новый (Ctrl+N) размером 4x4 px
Удерживая клавишу Ctrl жмем + до увеличения масштаба 1600%
Выбираем инструмент Pencil Tool\Карандаш (cool.gif ставим две точки, размерами 2px)

Далее сохраняем рисунок как шаблон заливки. Идем в Edit\Редактировать > Define Pattern\Сохранить узор, обзываем шаблон, например dotted border

испытываем нашу новую заливку.
Создаем новый документ (Ctrl+N), с произвольными размерами.
Выбираем инструмент Rectangular Marquee Tool\Квадратное выделение (M) выделяем необходимую область для заливки фигуры.
Собственно заливаем выделение, с помощью инструмента Paint Bucket Tool (G)

Снимаем выделение Select\Выделение > Deselect\Отменить (Ctrl+D)

Идем в Blending Options\Стиль слоя (правая кнопка по слою с фигурой > Blending Options)

Переходим в раздел Stroke\Обводка, меняем толщину обводки на 1px

Fill Type\Тип обводки ставим Pattern\Узор

Выбираем нашу заливку (dotted border)

Получаем результат, радуемся )