[WarDuck]

Facendo un rapido conto stai cercando di allocare spazio sullo stack per 800000 interi, ovvero 3.2M circa.

Credo che di default lo stack sia limitato a 2MB. Fai una prova per curiosità a ridurre quei valori.

Comunque puoi adottare una strategia ibrida, usando una matrice di puntatori:

int* mioarray[10][8];

// inizializzazione

for (int i=0; i < 10; i++)
{
   for (int j=0; j < 8; j++)
   {
       mioarray[i][j] = malloc( 100000 * sizeof(int) );
   }
}

Chiaramente è solo un esempio, puoi adottare questo al tuo caso.