Quel libro probabilmente è molto buono come gamba del tavolo, non ci piove
Non credo che nell'ambito della grafica 3D sia molto utile farsi tutta sta teoria all'inizio, visto che poi quando vai a picchiarti con OpenGL va quasi completamente a farsi benedire.
Magari può servire avere un fondamento più solido di geometria analitica se devi mettere mano agli shaders (che sono abbastanza ignoranti come spazi vettoriali, matrici e cose simili), ma in realtà la pratica e sbatterci la testa sono la cosa più importante.
Il minimo che ti serve per partire è OpenGL liscia (o DX su Windows) ed una libreria matematica che faccia le trasformazioni al posto tuo (rendendo abbastanza inutile il libro di cui sopra

) tipo GML, CML o Sony Vectormath.
Tutto il resto è il motore grafico che prende le posizioni di oggetti, telecamera e luci e le "traduce" in chiamate OpenGL.
Il mio consiglio comunque è di scaricarvi Unity3D che è già ottima out of the box, ha una pipeline per gli asset eccellente, è cross platform, e si programma in C#.
Per farti un motore c'è sempre tempo quando saprai bene come si fa un gioco e cosa ti semplifica davvero la vita.