Закругленные углы

1. Создаем выделение нужной формы и заливаем его черным:

2. "Размываем" его: Filter->Blur-Gaussian Blur со значением 5

3. Затем Ctrl-L или Image->Adjust->Levels... и в Input levels вводим следующие значения: 120:1.00:140

И вот результат:

А с этим можно сделать все, что подскажет Ваша фантазия, например: