Вектор `veca+3vecb` перпендикулярен вектору `7veca...

Решим через скалярные произведения. Обозначим
$A=\vec a\cdot\vec a=|\vec a|^2$, $B=\vec b\cdot\vec b=|\vec b|^2$, $x=\vec a\cdot\vec b$.

Из перпендикулярности имеем:

$$(\vec a+3\vec b)\cdot(7\vec a-5\vec b)=0 \Rightarrow 7A+16x-15B=0,$$ $$(\vec a-4\vec b)\cdot(7\vec a-2\vec b)=0 \Rightarrow 7A-30x+8B=0.$$

Решая систему:

$$\begin{cases} 7A+16x-15B=0\\ 7A-30x+8B=0 \end{cases} \quad\Longrightarrow\quad A=2x,\; B=2x.$$

Так как $A>0$ и $B>0$, следует $x>0$. Тогда

$$\cos\theta=\frac{\vec a\cdot\vec b}{|\vec a||\vec b|} =\frac{x}{\sqrt{AB}} =\frac{x}{\sqrt{(2x)(2x)}}=\frac{x}{2x}=\frac12.$$

Следовательно, угол между $\vec a$ и $\vec b$:

$$\boxed{\theta=60^\circ}.$$