Как писать парсер на JavaCC? Не смог найти учебники по нему, конечно прочитал одину статью на котором описывается процесс создания калькулятора, но все таки не понял.

Изучаешь теорию формальных автоматов, изучаешь теорию формальных языков, читаешь «Книгу дракона». Возвращаешься к задаче.