Ende 1995 wurde das Inmit auf Initiative von Institutionen und Persönlichkeiten aus Wissenschaft, Politik und Wirtschaft gegründet und nahm seine Arbeit im Frühjahr 1996 in Trier auf. Von Beginn an bestand eine enge Anbindung an die Universität Trier. Dies sowohl durch den Status als An-Institut der Universität als auch durch die enge Verbindung zur damals neu eingerichteten Professur für Mittelstandsökonomie.

Gründer des Instituts und Vorstand bis zu seinem Tod im Dezember 2010 war Univ.-Prof. Dr. Axel G. Schmidt (Inhaber der Professur für Mittelstandsökonomie an der Universität Trier).