Search:

Это тебе не квадратуру круга выводить :D

I've heard of an identical English phrase "to fathom the unfathomable".

BTW, you actually can square a circle :)
http://www.cut-the-knot.com/impossible/sq_circle.shtml