Die 3DFX.mdf/mds ist das ISO. Mounten kann man unter Windows (ab Windows 7) am einfachsten mit Alcohol Portable. Für Win 98 kann man ein virtuelles Laufwerk mit einer alten Version von Daemon Tools erstellen und dann das ISO mounten.
Deine Voodoo CD konnte ich nicht installieren, das war nur eine Torrentdatei, keine Ahnung was ich damit anfangen soll.
Torrent ist ein Filesharingprotokoll. Dafür braucht man einen Clienten, zum Beispiel Transmission.
Du kannst aber auch normal im Browser downloaden, denn du einen der beiden Pfeile klickst:
ich habe auch doppelt so viel RAM
Was, du hast 1024 MB RAM verbaut? Als ich damals (ganz stolz) 1024 MB verbaut hatte, ging auf Betriebssystemebene gar nichts mehr. Nur noch Bluescreens am laufenden Band. Das bei mir dann auch der (gezwungene) Umstieg auf Windows XP.
Win98/ME konnte damals nicht mehr als 512 MB umgehen. 768 MB liefen zwar stabil - nutzen konnte Windows die Menge nicht.
Aus heutiger Sicht (Retroperspektive) ist die Voodoo 5 vielleicht legendär. Damals war sie der Geforce 2 unterlegen und kaum jemand hat das Ding gekauft.
Ich rate mal, es ist der Pentium III. Der passive Kühlkörper sieht schon sehr abenteuerlich aus. 
----
Zu der Zeit war ich schon auf den AMD-Zug gesprungen, darum nur geraten, 
Also ich sehe kein Highlight. 
