You should use было when the noun is in genitive, i.e. with не or with numerals not ending with 1:
У него не было проблем.
У него было пять проблем.
У него было двадцать три проблемы.
but:
У него была одна проблема.
У него была двадцать одна проблема.
У него были проблемы.
Whit numerals 2, 3, 4 both variants can be used (though, I’m not sure if both are normative):
У него были две проблемы.
У него было две проблемы.