Потому что нужно так:
protected <T extends EntityAnimalMist> void closePanic(Class <T> clazz, EntityPlayer sourse, long time) {
List<T> list = this.world.getEntitiesWithinAABB(clazz, this.getEntityBoundingBox().grow(16.0D, 3.0D, 16.0D));
...
}
Класс нужен, чтобы getEntitiesWithinAABB...