Rensch lehrte auf dem Gesamtgebiet der Zoologie. Im Zentrum seines Denkens standen stets Probleme der Evolution. Sie wurden zum Leitfaden für sein gesamtes wissenschaftliches Arbeitsspektrum. Dieses umfaßte die Bereiche der Morphologie und Systematik (Artbildungsprozesse), der Tiergeographie und Tierökologie, der Sinnes- und Nervenphysiologie. Sie führten den Mitbegründer der Synthetischen Evolutionstheorie aber auch zu den Fragen nach den evolutionären Grundlagen des Verhaltens. So begann mit Rensch die Ära der tierpsychologischen Forschung in Münster. Spezialvorlesungen befaßten sich u. a. mit der "Allgemeinen Tierpsychologie" und den "Höheren Hirnleistungen der Tiere". Untersuchungen zur Lernfähigkeit, zu Gedächtnisleistungen, aber auch zur Übertragbarkeit von Erlerntem auf neue Situationen und damit zu Abstraktions- und Generalisationsvermögen bei Tieren in Abhängigkeit von der phylogenetischen Stellung und der Differenzierung des Gehirns sowie neurobiologische Untersuchungen wurden zu Forschungsschwerpunkten. Planvolles, zukunftsorientiertes Handeln sowie Kreativität (Malversuche) wies Rensch für Menschenaffen nach.

Die Untersuchungen zur Psychophylogenese führten Rensch zu jenen Grenzen, wo biologische Forschung in die Lehre vom Menschen und schließlich in die Probleme der Biophilosophie und Erkenntnistheorie übergeht.

Durch seine Forschungen und zahlreichen Publikationen wirkte Rensch somit richtungsweisend in drei großen Wissenschaftsbereichen: im Bereich der Abstammungslehre und der transspezifischen Evolution, der Tierpsychologie und der Biophilosophie.