Мучать is widely used in the colloquial speech (in the meaning close to to annoy, I think)
"Ах, не мучай меня, дорогая, - сказала Герцогиня, - цифры - это моё слабое место!"

"Вопрос меня мучает: котик у вас кастрированный?"
( https://www.youtube.com/watch?v=L_JCi2LO0dE 00:05:12)

Пытать - also =выпытывать информацию (by questioning):
Тут давай его пытать я:"Опасаюсь, маху дам.
Как проверить? Лезть под платье? -Так схлопочешь по мордам"
 (полный текст: http://www.bards.ru/archives/part.php?id=15647)

Also, мучиться (мучаться) - to struggle:
Я до сих пор мучаюсь с этой проблемой.

Suddenly, пытаться = to try.