При наличие корней в системе уравнений выдает ошибку

#include <stdio.h>
#include <stdlib.h>
 
int * f(int n)
{
    int * x = (int *)malloc(n*sizeof(int));
        for(int i = 0; i < n; i++)
                x[i] = i;
    return x;
}
 
int * f2(int * x, int m)
{
    int *p = x;
    p = realloc(p, m * sizeof(int));
    return p;
}
 
 
int main ()
{
    int i, * a = f(10);
        printf("f1 : \n");
    for(i = 0; i < 10; i++)
                printf("%d ",a[i]);
        a = f2(a, 5);
        printf("\nf2 : \n");
        for(i = 0; i < 5; i++)
                printf("%d ",a[i]);
    free(a);
    return 0;
}

#include <stdio.h>
#include <stdlib.h>
#include <time.h>
#define N 4
 
typedef struct
{
    int*a;
    bool l;//нулевой ли вектор
}
lama;
 
int* WC(int *w1,int f,int n)//alfa na vector
{
    int i=0;
    int *w=(int*)malloc(n*sizeof(int));
    for(i=0;i<n;i++)
        w[i]=0;
    for(i=0;i<n;i++)
        w[i]=(w[i]+w1[i]*f)%2;
    return w;
}
 
int WW(int *w1,int *w2,int n)//skal proizv
{
    int i=0;
    int w=0;
    for(i=0;i<n;i++)
        w=(w+w1[i]*w2[i])%2;
    return w;
}
 
int* MW(int n, int *a, int *w)
{
    int i,j;
    int *w1=(int*)malloc(n*sizeof(int));
    for (j=0;j<n;j++)
        w1[j]=0;
    for (j=0;j<n;j++)
    for (i=0;i<n;i++)
        w1[j]=(w1[j]+a[j*n+i]*w[i])%2;
    return w1;
}
 
lama form(int n,int *a,int *w1, int *w0)
{
        int i=0;
        int *w2;
        lama w;
        w.l=false;      
        int q,q1,e=0;
        w.a=(int*)malloc(n*sizeof(int));
        w2=(int*)malloc(n*sizeof(int));
        w2=MW(n,a,w1);
        q=(WW(MW(n,a,w2),w1,n))*(WW(w2,w1,n));  
        if(w0==NULL)
        {
                for(i=0;i<n;i++)
                {
                        w.a[i]=(w2[i]+WC(w1,q,n)[i])%2; //в двоичном сложении 1+1=1-1=0, если не учитывать перенос разряда
                        e+=w.a[i];
                }
        }
        else
        {
                q1=(WW(MW(n,a,w2),w0,n))*(WW(MW(n,a,w0),w0,n));
                for(i=0;i<n;i++)
                {
                        w.a[i]=(w2[i]+WC(w1,q,n)[i]+WC(w0,q1,n)[i])%2;
                        e+=w.a[i];                      
                }
        }       
        if(e==0) 
            w.l=true;
        free(w2);
        return w;
}
int*XX(int*a,int*w,int k,int n)//nepr
{
        int j,i,q;
        int*x =(int*)malloc(n*sizeof(int));  
        for(i=0;i<n;i++)
            x[i]=0;
        for(i=0;i<=k;i++)
        {               
                q=WW((w+i*n),w,n)*WW(MW(n,a,(w+i*n)),(w+i*n),n);
                for(j=0;j<n;j++)
                    x[j]=(x[j]+q*w[i*n+j])%2;
        }       
        return x;
}
bool prov(int*a,int*x,int*b,int n)
{       
    int i,j = 0;
    int * b1=MW(n,a,x);
    for(i=0;i<n;i++)
    if(b1[i]!=b[i])
        j++;
    return (j == 0 ? true : false);
}
int main()
{
        int *x,i,j,k=0;
        lama p; 
        int * a=(int*)malloc(N*N*sizeof(int));
        int * b=(int*)malloc(N*sizeof(int));
        int * w=(int*)malloc(N*N*sizeof(int));
        for(i=0;i<N;i++)//-пользовательское задание матрицы А
                for(j=0;j<N;j++)
                {
                        printf("Enter a[%i,%i] : ",i,j);
                        scanf("%i",&a[i*N+j]);
                }
        for(i=0;i<N;i++)
        {
                printf("Enter b[%i] : ",i);
                scanf("%i",&b[i]);
        }
        for (i=0; i<N; i++)
        {
                for (j=0; j<N; j++)
                        printf("\t %i", a[i*N+j]);
                printf ("\n");
        }
        for(i=0;i<N;i++)        
                printf("b[%i]=%i\n",i,b[i]);
        for(j=0;j<N;j++)
                w[j]=b[j];
        i=1;
        do
        {
                if(i==1) 
                    p=form(N,a,b,NULL);
                else 
                    p=form(N,a,(w+(i-1)*N),(w+(i-2)*N));
                for(j=0;j<N;j++)//было j<=N
                {
                        w[i*N+j]=p.a[j];//запись вектора W[i] в матрицу омег                    
                }
                k++;
                i++;
        }
        while(!p.l);
        if(p.l)
        {
                for (i=0; i<=k; i++)
                {
                        for (j=0; j<N; j++)
                                printf("\t %i", w[i*N+j]);
                        printf ("\n");
                }
                x=XX(a,w,k,N); 
                prov(a,x,b,N);
               if(!prov(a,x,b,N)) 
                    printf("answer does not exist\n");
                else 
                {
                        printf("answer is true\n");
                        printf("answer: ");
                        for(i=0;i<N;i++)
                                printf("%i ",x[i]);
                        printf("\n");
                }
        }
        else 
            printf("algorithm does not work\n");
 /*       free(a);
        free(b);
        free(w);*/
        return 0;
}