В данном случае самым точным я считаю без зазрения/угрызений совести. Но это характеризует скорее Буша, а не его речь. Английское же предложение, мне кажется, характеризует именно речь. Хотя, по-моему, здесь не велика разница, на чем сделать акцент.
In this case the most exact phrase I think would be без зазрения/угрызений совести (not be conscience-stricken). But that describes Bush's personality and not his speech. On the contary, the English version is more about his speech. But I personally see little difference here which one to stress.