Den Grundstein der Sammlung bilden alte Hofsammlungen, vor allem das einstige Münz- und Antikenkabinett. Bereits dort konnte
man unter Vasen, Medaillen, Kameen und anderen Erwerbungen fürstlichen Sammeleifers Funde aus Hallstatt, Peschiera und den
Schweizer Pfahlbauten bewundern.
Mit der organisatorischen Planung des Hauses, das »Dem Reiche der Natur und seiner Erforschung« gewidmet sein sollte, war
seinerzeit Ferdinand von Hochstetter beauftragt worden. Der Geologe, der sich auch um die anthropologische Forschung sehr
verdient gemacht hat, richtete neben den Abteilungen der traditionellen Naturwissenschaften auch eine Anthropologisch-Ethnographische
Abteilung ein. Die Funde des Münz- und Antikenkabinettes, ergänzt durch zahlreiche Schenkungen der Anthropologischen Gesellschaft,
wurden zur Prähistorischen Sammlung.
Die prähistorische Sammlung wird in mehrere Einzelsammlungen untergliedert. Diese sind:
- Sammlung Altsteinzeit
- Sammlung Jungsteinzeit
- Sammlung Bronzezeit
- Sammlung Ältere Eisenzeit
- Sammlung Jüngere Eisenzeit
- Sammlung Frühgeschichte
- Sammlung Goldobjekte
- Sammlung Prähistorischer Bergbau
- Sammlung Kaukasus
- Sammlung Prähistorische Textilien
Den stärksten Zuwachs verzeichnete die Sammlung in den Jahrzehnten bis zum Ersten Weltkrieg. Unter Josef Szombathy gelangten
aus Ausgrabungen und durch Ankäufe Objekte aus allen Teilen der Monarchie in die Vitrinen und Depots mit der Absicht, Gegenstände
aus allen kulturgeschichtlichen Perioden des Reiches zu vereinen.
Noch heute wächst die Sammlung kontinuierlich weiter. Funde aus den Forschungsgrabungen der Abteilung fügen ihr immer wieder
neue und einzigartige Zeugnisse der Vergangenheit hinzu.