Sometimes there can be a subtle difference. It's slightly more pronounced in adjectives "обычный-обыкновенный":
обычный - usual, common -> everyday, widespread, familiar
обыкновенный - usual, common -> ordinary, typical for this kind of things
обыкновенно - done in typical/habitual/expected/etc. manner

So "обыкновенно" does not necessarily mean high style. The most common example of colloquial usage is:
- Как ты это сделал? (about something obvious)
- Как-как.. Обыкновенно. (~duh! how do you think???)
Как стирать носки в стиралльной машинке?
Обыкновенно. Кидаешь носки в машинку. Засыпаешь порошок и вперед
Source: Ответы@Mail.Ru: как стирать носки в стиралльной машинке?
It sounds high srtyle and archaic mostly when used instead of "usually", when you describe some regular activity or habits:
Я обыкновенно обычно пью чай по утрам.
Он обыкновенно обычно не здоровается с незнакомыми людьми.