Большое потребление памяти приложением

#include <iostream>
#include <vector>
#include <fstream>
#include <Cstring> 
#include <math.h>
#define N 170
using namespace std;
int n, k, m;
const double pi=3.1415926536;
double eps = 0.00001;
vector <int> st(10000);
 
ifstream in;  // Ïîòîê in áóäåì èñïîëüçîâàòü äëÿ ÷òåíèÿ
ofstream out; // Ïîòîê out áóäåì èñïîëüçîâàòü äëÿ çàïèñè
 
int a[100000][1500];
double b[10000][1500];
 
void glavelem( int k, double mas[][N+1], int n, int otv[] );
int j=0;
int gen(int pos)
{ 
    if (pos == 0) 
    {
        for (int i = k-1; i >= 0; i--)
            {
                 printf("%d ", st[i]);
                
                a[j][k-i-1] = st[i];
               
                out<<"a["<<j<<"]["<<k-i-1<<"]="<<st[i]<<" "; //-pravilnaya str
             }
             j++;
             printf("\n");
             out<<"\n";
        return 1;
    }
    
    int ans = 0;
    for (int i = 0; i < n; i++) 
    {
        st[pos-1] = i;
       
        ans += gen(pos-1);
       
    }
    return ans;
}
 
int main()
{           
     in.open("in.txt");
    out.open("out.txt");
    cout<<"Vvedite p, N, M posledovatelno cherez probel:"<<endl;
    cin>>n>>k>>m;            //k=N - drobnye koeff,  n=p - prostye chisla, m - celaya chast
    float nk1 = pow(n,k);
    
    int nk = nk1;
    
    printf("%d ",nk);
    printf("\n");
     for (int i1=0; i1<100000; i1++)
         for (int j1=0; j1<1500; j1++)
         a[i1][j1]=0;
         
    printf("Total: %d ", gen(k));
    printf("\n");
 
double sum[200000];
int i,j,w,k1;
double mas[N][N+1];
double mas1[N][N+1];
 for (int i1=0; i1<200000; i1++)
     sum[i1]=0;
 
 for (int i1=1; i1<nk; i1++)
{    for (int j1=0; j1<k; j1++) 
        { 
        sum[i1]+=a[i1][j1]/pow(2,j1+1);
//        sum[i1+nk-1]-=a[i1][j1]/pow(2,j1+1);
        }
    out<<"sum["<<i1<<"]="<<sum[i1];
    out<<"\n";
//    out<<"sum["<<i1+nk-1<<"]="<<sum[i1+nk-1];
//    out<<"\n";
}
       for (i=0; i<(nk*2-2)/2; i++)
          {
                 for (j=0; j<pow(n,k+m); j++)
                   {   
                       b[i][j] = cos(2*pi*sum[i+1]*j/nk);
                       b[i+(nk*2-2)/2][j] = sin(2*pi*sum[i+1]*j/nk);
                   }
           }
       for (i=0; i<(nk*2-2); i++)
           {   
               for (j=0; j<pow(n,k+m); j++)
                     out<<b[i][j]<<" ";
               out<<endl;
           }
////////////////////////////////////////////////////////////////////////////////
 
for (j=nk*2-2;j<=pow(n,k+m)-1;j++)
{   
     for (i=0;i<nk*2-2;i++)
         mas[i][nk*2-2]=b[i][j];
     for (i=0; i<nk*2-2; i++)
     for (w=0; w<nk*2-2; w++)
         mas[i][w]=b[i][w];
         
         for (i=0; i<nk*2-2; i++)
         for (w=0; w<nk*2-1; w++)
             if (fabs(mas[i][w])<eps) mas[i][w]=0;       // zamena na 0
             
         //vivod matricy: kotoruyu nado reshat
       out<<"\n";
       out<<"j="<<j<<endl;  
      for (i=0; i<nk*2-2; i++)
      {   
          for (w=0; w<nk*2-1; w++)
              out<<mas[i][w]<<" ";        
          out<<endl;
      }  
       
// METOD GAUSSA:         
  double x[N]; //---------Êîðíè ñèñòåìû
  int otv[N]; //-------Îòâå÷àåò çà ïîðÿäîê êîðíåé
 
   //----------Ñíà÷àëà âñå êîðíè ïî ïîðÿäêó
  for (i = 0; i < nk*2-2; i++)
    otv[i] = i;
  //--------------Ïðÿìîé õîä ìåòîäà Ãàóññà
  for (k1 = 0; k1 < nk*2-2; k1++)
  {
      glavelem(k1, mas, nk*2-2, otv); //------Óñòàíîâêà ãëàâíîãî ýëåìåíòà
    
      for (w = nk*2-2; w >= k1; w--)
           mas[k1][w] /= mas[k1][k1];
      for ( i = k1 + 1; i < nk*2-2; i++ )
      for ( w = nk*2-2; w >= k1; w-- )
        {
            mas[i][w] -= mas[k1][w] * mas[i][k1];
        }
  }
  //Îáðàòíûé õîä
  for ( i = 0; i < nk*2-2; i++ )
    x[i] = mas[i][nk*2-2];
    
  for ( i = nk*2-2 - 2; i >= 0; i-- )
    for ( w = i + 1; w < nk*2-2; w++ )
      x[i] -= x[w] * mas[i][w];
      
  //-----Âûâîä ðåçóëüòàòà
  for ( i = 0; i <nk*2-2; i++ )
    for ( w = 0; w < nk*2-2; w++ )
      if ( i == otv[w] )
      { //----Ðàññòàâëÿåì êîðíè ïîïîðÿäêó
        out<<"x["<<i<<"] = "<<x[w]<<endl;
      }     
  for (int r = nk*2-2; r <= pow(n,k+m)-1; r++)
      {
          x[r]=0;
          x[j]=1;
          out<<"x["<<r<<"] = "<<x[r]<<endl;
      }              
}
     in.close();
     out.close();
     
    system("PAUSE");
    return 0;
}
//----------------------------------------------
//Îïèñàíèå ôóíóöèè
//----------------------------------------------
void glavelem(int k2, double mas[][N+1], int n2, int otv[] )
{   // in.open("in.txt");
    // out.open("out.txt");
  int i2, j2, i_max = k2, j_max = k2;
  double temp;
  //Èùåì ìàêñèìàëüíûé ïî ìîäóëþ ýëåìåíò â ñòîëáöå
j2=k2;
  for ( i2 = j2; i2 < n2; i2++ )    
      if ( fabs( mas[i_max] [j_max] ) < fabs( mas[i2] [j2] ) )
          {
            i_max = i2;
            j_max = j2;
          }
    
  //Ïåðåñòàâëÿåì ñòðîêè
  for ( j2 = k2; j2 < n2 + 1; j2++ )
  {
    temp = mas[k2][j2];
    mas[k2][j2] = mas[i_max][j2];
    mas[i_max][j2] = temp;
  }
 
//  Ïåðåñòàâëÿåì ñòîëáöû
  for ( i2 = 0; i2 < n2; i2++ )
 {
    temp = mas[i2] [k2];
    mas[i2] [k2] = mas[i2] [j_max];
    mas[i2] [j_max] = temp;
 }
 
   //  Ó÷èòûâàåì èçìåíåíèå ïîðÿäêà êîðíåé
  i2 = otv[k2];
  otv[k2] = otv[j_max];
  otv[j_max] = i2;
}