Un concepto clave del Neoinstitucionalismo es el de los costes de transacción, popularizado por Ronald Coase. Estos son los costes asociados a la realización de un intercambio en el mercado, más allá del precio del bien: costes de búsqueda de información, de negociación de contratos y de vigilancia de su cumplimiento.
El Neoinstitucionalismo sostiene que las instituciones existen precisamente para reducir estos costes y facilitar la cooperación humana. Un sistema judicial eficaz o unos derechos de propiedad bien definidos, por ejemplo, reducen la incertidumbre y los costes de transacción, fomentando la inversión y el comercio.
Figuras clave de esta escuela, como Douglass North y Oliver Williamson (ambos premios Nobel), han utilizado este enfoque para explicar fenómenos que la economía neoclásica no abordaba, como el surgimiento de las empresas, la evolución de las formas de gobierno o las causas históricas del desarrollo y el subdesarrollo.
El Neoinstitucionalismo no ve la economía como un sistema de mercados abstractos, sino como un complejo entramado de relaciones humanas moldeadas por las instituciones, la historia y la cultura.