Лишь слегка изменив условие вывода частиц, можно добиться такого:
if((int) (Math.pow(x - player.posX, 2) + Math.pow(z - player.posZ, 2)) == radius)
Конечно, это один из методов, но лично мне проще такой, хоть это и не совсем экономно - обходить все точки в круге, чтобы получить лишь некоторые