"Прошлой субботой" doesn't make my ears bleed. I hear alot of people use it and I tend to use it oftentimes myself. Some Google examples:

Прошлой субботой 26 марта приобрел в магазине "Синематика" на Свободы 31 (рядом с клубом "Здоровье") DVD диск "Константин"

Но прошлой субботой, решив что дальше тянуть нельзя, я разжился такой вот прелестью:

Прошлой субботой я со своими друзьями решил потрясти своим телом в клубе и заодно, естественно, подцепить очередную красотку.
It's just a colloquial thing, I wouldn't recommend to use it in formal writing.