Uso de la entropía condicional como método para la reducción de dimensionalidad. Una aplicación en gestión de la innovación

Abstract

En una gran cantidad de contextos de investigación se presentan situaciones de alta dimensionalidad dada por la gran cantidad de observaciones, de variables, o por mayor cantidad de variables que de observaciones. La clasificación supervisada suele ser una técnica estadística muy utilizada para detectar variables que sean relevantes en la distinción entre grupos. No obstante, la alta dimensionalidad dada por una mayor cantidad de variables que de observaciones, hace que las técnicas convencionales sean inestables y poco confiables. Los métodos filtro resultan una buena estrategia para realizar un ordenamiento de las variables dada su importancia en la distinción entre grupos y reducir dimensionalidad. En este trabajo, se aplica un filtro que trabaja con la entropía condicional como medida de evaluación, en datos referidos al área de gestión de la innovación caracterizados por la presencia de variables cualitativas ordinales. Una vez ordenadas las variables, el investigador especialista en la temática decidirá las acciones a tomar. Por un lado, puede seleccionar las variables más relevantes para analizar su comportamiento con mayor detalle. Por otro, puede "descartar" las menos relevantes para, de esta manera, reducir la dimensionalidad y poder aplicar técnicas convencionales a las variables remanentes.

High dimensional databases caused by large number of observations, attributes or by a greater number of attributes than observations are present in a large amount of research contexts. Supervised classification is often a statistical technique used to discover the attributes that are relevant to the distinction between groups. However, in contexts of high dimensionality with higher amount of attributes than observations, the application of conventional classification techniques generally do not work quite right. The filter methods are a good strategy to order the attributes given its importance in the distinction between groups and to reduce dimensionality. In this paper a filter that works with the conditional entropy as a measure of evaluation is applied to innovation management data characterized by the presence of ordinal attributes. Given a ranking of the attributes, the specialist researcher will decide the actions to take. On one hand, the most relevant attributes can be selected to analyze their behavior in more detail. On the other, the less relevant ones can be discarded in order to reduce the dimensionality and to apply conventional techniques to the remaining attributes.