Eine sehr häufig verwendete Möglichkeit ist
Fraps
Kostet aber CPU Zeit.
Eine andere Möglichkeit ist, die Ausgabe der Graphikkarte auf einen zweiten Rechner umzuleiten und dort aufzunehmen. Hängt natürlich sehr stark davon ab, mit welchem Aufwand Du das tun und wieviel Geld Du investieren willst.
Wenn Deine Graphikkarte einen Videoausgang hat (z.B. S-VHS-Buchse), dann könntest Du mit einem Analog/Digital-Konverter das Videosignal einfach auf einem zweiten Rechner aufnehmen. Damit erreichst Du auf jeden Fall PAL-Auflösung (768x576).
Diese Konverter sind mittlerweile schon relativ billig geworden. Es gibt sie für USB und für Firewire. Die mit Firewire sind meiner Meinung nach insofern praktischer, weil sie problemlos ohne Treiber mit beliebigen Videoschnittprogrammen verwendet werden können. Sie spielen dem Computer ja einfach eine Videokamera vor, die ein DV-Signal liefert. Bei den USB-Geräten benötigt man immer Treiber und teilweise Spezialsoftware.