Wieso denn nicht mit Fraps? Die Limitierung kann man einstellen, 30 Frames sind aber genügend für ein flüssiges Bild, immerhin braucht das Video nachher auch volle 30 Bilder / Sekunde, das kann nicht einfach mal nach oben oder unten schwanken wie generell beim Spielen.
Dass die Dateien so riesig werden ist doch normal und gut. Damit hat man Roh-Material, welches noch nicht komprimiert ist. Dieses muss man dann später natürlich nach eigenen Vorgaben re-encoden um damit die Grösse runterzuschrauben. Aber dann hat man immerhin die volle Kontrolle über das End-Material was komprimierung und aussehen betrifft.