В общем случае "зря" означает "без получения желаемого результата". Более детально, оно может означать "пытался, но не получилось", "получилось, но результат был далёк от ожидаемоего" и, возможно, иные похожие значения.

"Он зря старался убедить его [сделать что-либо]" - здесь "зря" можно понять как "старался убедить, но не убедил" или как "старался убедить, убедил, но затем что-то пошло не так".

Чтобы избежать двусмысленности, можно использовать слово "тщетно":
"Он тщетно пытался/старался убедить его [сделать что-либо]" - здесь смысл только один: "пытался убедить, но не убедил"