The full phrase actually is "Поздравляю с днём рождения". We use the same pattern for holiday/season greetings etc: "(поздравляю) с праздником", "(Поздравляю) с Новым Годом" etc.