mp::cpp_int **mas = new mp::cpp_int *[n.convert_to<size_t>()];
for (mp::cpp_int i = 0; i<n; i++)
        mas[i] = new mp::cpp_int[n.convert_to<size_t>())];

отсутствует оператор "[]", соответствующий этим операндам

mas[i.convert_to<size_t>()] = new mp::cpp_int[n.convert_to<size_t>()];