В гуи обычно стоит ортогональное проецирование, так что сначала тебе придется сбросить проекционную матрицу(glLoadIdentity),
затем уже задать перспективу через glFrustum. Или второй вариант - gluPerspective, там уже все за тебя сделано, надо просто fov, передний, задний планы и отношение сторон указать.