formula の仕様の問題だと思われますが, \left, \right はエラーになります.
そのため, よく行列を記述するときに仕様する記法(以下にサンプルを示します)は,うまく行きません.
\[
A = \left[
\begin{array}{cc}
0 & 1 \\
-6 & -5 \\
\end{array}
\right]
\]
ですので, 行列を表示したい場合,以下の記法を使用するべきです.
\begin{bmatrix}
a & b \\
c & d \\
\end{bmatrix}