cos(a)=a*b/(|a|*|b|)
определим длину вектора b
|2a-5b|=17
4a^2-20ab+25b^2=289
c другой стороны
(3a+2b)(2a-3b=42 => 6a^2+4ab-9ab-6b^2=6a^2-5ab-6b^2=42
таким образом, имеем систему уравнений
4a^2-20ab+25b^2=289
6a^2-5ab-6b^2=42
второе уравнение умножим на 4 и вычтем его с первого
-20a^2+49b^2=121
49b^2-20*4^2=121
49b^2=121+320
49b^2=441
b^2=9 => |b|=3
4a^2-20ab+25b^2=289 = > 4*4^2-20ab+25*3^2=289 => 20ab=0 => ab=0
тогда
cos(a)=a*b/(|a|*|b|)=0? (3*4)=0 => a=90°
