El presente documento es el informe del resultado del trabajo del grupo 7, formado por:
- Mario Ruano Fernández
- Juan Carlos Cortés Muñoz
- Alejandro José Muñoz Aranda
- María Elena Molino Peña
Previo al inicio de la documentación puntualizar que se ha hecho uso de dos datasets, uno de ellos para el análisis básico y otro para el avanzado. La justificación de la toma de esta decisión se detallará más adelante y pude encontrarse en el notebook de análisis avanzado.
El documento se organizará de la siguiente manera, en primer lugar se definirán los dos problemas elegidos que se pretenden resolver aplicando Machine learning, en la sección 2 hablaremos sobre el proceso de análisis y los algoritmos seleccionados para cada caso, en cuanto a la sección 3 se describen todas las fases que se ha aplicado a los datos, por otro lado, en la sección 4 se describen las conclusiones obtenidas, y por último, se recogen las asignaciones y definiciones del trabajo realizado por cada subequipo.
Los problemas que se plantean resolver se han seleccionado de la herramienta Kaggle, donde se pueden encontrar multitud de retos disponibles y dataset adecuados para aplicar diferentes técnicas de Machine learning.
Los sistemas de alquiler de bicicletas suelen recopilar información interesante sobre la trazabilidad de cada arrendamiento. El principal objetivo es mejorar la gestión y anticipar la demanda de bicicletas que habrá en un determinado rango de tiempo. Por lo tanto, la tarea que se propone es predecir la demanda de bicicletas en una serie de franjas horarias, empleando el conjunto de datos que contiene las siguientes variables:
- id: identificador (variable cuantitativa discreta)
- year: años (2011 y 2012) (variable cuantitativa discreta)
- hour: hora del día (0 to 23) (variable cuantitativa discreta)
- season: 1 = invierno, 2 = primavera, 3 = verano, 4 = otoño (variable cuantitativa discreta)
- holiday: si fue un día de vacaciones (variable cuantitativa discreta)
- workingday: si fue un día de trabajo (variable cuantitativa discreta)
- weather: tres categorías en rango de mejor a peor tiempo (1 a 3) (variable cuantitativa discreta)
- temp: temperatura en grados Celsius (variable cuantitativa continua)
- atemp: sensación de temperatura en grados Celsius (variable cuantitativa continua)
- humidity: humedad relativa (variable cuantitativa continua)
- windspeed: velocidad del viento (km/h) (variable cuantitativa continua)
- num_bikes: número total de bicicletas alquiladas en para esas condiciones (variable cuantitativa discreta)
Para el desarrollo de esta parte del proyecto se propone estudiar el conjunto de datos, la viabilidad de aplicar algoritmos de regresión lineal y los algoritmos más eficientes para resolver el problema que se encuentren en el paquete caret. Además, se analizará si es posible la aplicación de técnicas de Clustering.
Algunas de las Organizaciones No Gubernamentales suelen recaudar dinero para ayudar a personas o países que se encuentran en situación de necesidad. En este caso, la organización HELP International desea identificar los países más precarios para emplear de forma estratégica y eficaz el dinero recaudado. Por lo tanto, la tarea que se propone es agrupar los países según sus valores sociales, económicos y de salud, empleando el conjunto de datos que dispone de los siguientes valores:
- contry: nombre del país (variable cualitativa)
- child_mort: muerte de niños menores de 5 años por cada 1000 nacimientos
- exports: exportaciones de bienes y servicios per cápita. En porcentaje del PIB per cápita
- health: gasto sanitario total per cápita. En porcentaje del PIB per cápita
- imports: importaciones de bienes y servicios per cápita. En porcentaje del PIB per cápita
- income: renta neta per cápita
- inflation: medida de la tasa de crecimiento anual del PIB total
- life_expec: número medio de años que viviría un recién nacido si se mantuvieran las actuales pautas de mortalidad
- total_fer: número de hijos que nacerían de cada mujer si se mantienen las actuales tasas de fecundidad por edad
- gdpp: PIB per cápita. Calculado como el PIB total dividido por la población total.
Para el desarrollo de esta parte del proyecto se propone estudiar el conjunto de los datos y aplicar técnicas de Clustering para detectar los países más necesitados según sus características.
La selección del conjunto de datos y la definición del problema a resolver es esencial para definir el proceso de análisis que se va a llevar a cabo.
En esta primera fase del proyecto se aplican algoritmos Supervisados para resolver el problema de las bicicletas anteriormente propuesto. Tomando como conjunto de datos el dataset "Bike Rental Data" y aplicando modelos de regresión se pretende predecir el número de bicicletas que se alquilarán en el futuro según las codiciones temporales.
Con el proposito de resolver este problema se plantean una serie de etapas a seguir y métodos a aplicar. Las etapas y objetivos que plantea el grupo son los siguientes:
- Preprocesado de los datos: renombrar y eliminar atributos, búsqueda de valores perdidos, detección de outliers, estudio de las variables.
- Análisis y Visualización de los datos: comprobar la homogeneidad de los datos, histogramas, estudio de los datos.
- Regresión lineal: dispersión de los ejemplos frente a la variable a predecir, estudio de la correlación, construcción y estudio del modelo, predicción.
- Algoritmos paquete Caret: creación modelos Random Forest, xgbTree y gbm.
- Comparativa y predicción final: obtener el modelo con mejores resultados.
El segundo análisis del proyecto estará enfocado al estudio y aplicación de algoritmos No Supervisados con el fin de resolver el problema de los países anteriormente identificado. Empleando como conjunto de datos el dataset "Country Data" y aplicando modelos de Clustering como K-means y jerárquicos se desea ayudar a la ONG HELP International a seleccionar los países con más necesidades.
Con el propósito de resolver este problema se plantean una serie de etapas a seguir y métodos a aplicar. Las etapas y objetivos que plantea el grupo son los siguientes:
- Viabilidad de aplicar clustering al dataset "Bike Rental Data": estudiar los resultados obtenidos tras aplicar Clustering.
- Análisis y preprocesado de los datos: renombrar y eliminar atributos, búsqueda de valores perdidos, detección de outliers, estudio de las variables.
- Clustering: escalar valores de las variables, aplicar algoritmo Particional K-means y Clustering Jerárquico.
En los siguientes apartados se detallan los pasos y las decisiones tomadas en cada una de las etapas realizadas para el nivel de análisis básico, en el cual se han desarrollado y puesto en práctica técnicas de regresión para predicción de valores en el caso del alquiler de bicicletas.
En relación al preprocesado de los datos, se ha hecho uso de la librería tidyverse, lo que ha sido gran utilidad para manipular los datasets de forma fácil y rápida.
Se comenzó buscando valores perdidos (NA) y outliers en las distintas variables del datasets de bicicletas, tanto en el subconjunto de entrenamiento como en el de test.
El dataset elegido está bastante limpio, por lo que no tuvieron que realizarse demasiadas operaciones de preprocesado: no faltaban datos, se eliminaron algunas filas con outliers y se prescindió de la columna de identificador, la cual no aportaba valor.
En la fase de análisis y visualización se plantearon una serie de cuestiones para poder observar la relación y la importancia que tienen las diferentes variables con la variable a predecir.
Ayudándonos del paquete ggplot, para mostrar de forma visual los resultados, y haciendo las distintas operaciones con tidyverse, hemos dado respuesta a cuestiones como cuántos ejemplos hay según el año, la hora del día, la estación del año, los días laborales o los días de vaciones, así como en función del estado del tiempo. También se han observado los totales de de cuántas bicicletas son alquiladas según la hora del día, la estación o el estado del tiempo a través de histogramas.
Con el apoyo de la visualización se ha tenido un conocimiento mayor de los datos con los que se trabajaba antes de proceder a estudiar, analizar e implementar distintas técnicas de predicción.
Como primer paso para el estudio de la regresión, se analizó la viabilidad de aplicar un modelo de regresión lineal para dar resolución al problema. En concreto, se hizo uso del método lm del paquete stats de R.
Se empezó estudiando la correlación de las distintas variables para poder observar relaciones lineales con respecto a la variable objetivo. En el dataset con el que se ha trabajado no se daban correlaciones altas, siendo la más destacable una correlación moderada, en torno a 0.5.
Estos datos hicieron suponer que esta técnica de regresión no tendría buenos resultados para la predicción de los datos del problema. Tras graficar los valores de correlación, se procedió a entrenar un modelo. Los valores de rendimiento fueron realmente bajos, por lo que se descartó este tipo de modelo y se optó por aplicar diferentes algoritmos que se incluyen en el paquete Caret.
Haciendo uso del paquete Caret se han aplicado un total de tres métodos algorítmicos diferentes, con la intención de generar varios modelos, compararlos y seleccionar el mejor entre estos para realizar la predicción final.
Se optó por comenzar con el algoritmo de Random Forest. Los valores de rendimiento obtenidos no fueron malos. La predicción se ajustaba bastante a los datos reales.
Se continuó aplicando el método xgbTree, uno de los que mejores resultados ofrece en problemas similares al estudiado. También se consiguieron niveles de rendimiento muy altos, aunque sin mejorar en gran medida a los que ya se habían obtenido con Random Forest.
Por último, se generó un modelo aplicando el algoritmo Stochastic Gradiend Boosting (gbm). A pesar de que este algoritmo también aplica bien en estos casos, no llegó a un peor rendimiento.
Para todos los casos se realizaron diferentes pruebas de afinación del algoritmo a través de la parametrización, seleccionando la configuración que mejor resultado de rendimiento y menor error ofrecía.
Tras realizar una comparativa entre los tres modelos entrenados, se visualizaron las distintas predicciones y se seleccionó el modelo generado con xgbTree para la predicción final.
En los siguientes apartados se detallan los pasos y las decisiones tomadas en cada una de las etapas realizadas para el nivel de análisis avanzado, en el cual se han desarrollado y puesto en práctica principalmente técnicas de Clustering para la agrupación de países con mayores dificultades sociales y económicas.
Destacar que la aplicación de algoritmos No Supervisados se ha dividido en dos análisis fundamentales. En primer lugar, se realizó un estudio de Clustering sobre los datos "Bike Rental data". Tal y como se esperaba tras la realización del notebook básico, los datos no se distribuyen de forma dispersa, aspecto que incrementaba la dificultad de extraer información de las agrupaciones. Por ello, en segundo lugar, se seleccionó un nuevo problema a resolver con datos más adecuados para el empleo de modelos de agrupación.
En cuanto al análisis y preprocesado de los datos "Country data" se aplica la misma lógica en el notebook básico. Antes de la limpieza y transformación del dataset, se estudian las variables que se contemplan en la resolución del problema. Posteriormente, tiene lugar la búsqueda de valores perdidos, la detección y estudio de los outliers y además, se observa la correlación entre las diferentes variables. Finalmente, para aplicar los algoritmos de Clustering, se examina si las variables son de clase numérica y se escalan los datos seleccionados.
Para completar todos los retos que se plantéan en esta etapa, se utilizan los siguientes paquetes: de tidyverse para manipulación de los datos y visualización, de Visadat para búsqueda de valores nulos, de ggplot2 para visualización y de corrplot para la correlación de las variables.
Acerca de la aplicación de Clustering Paticional, el primer paso es identificar el número de centros óptimo con el método K-means. Una vez se conoce el valor, se ejecuta el algoritmo K-means, que agrupa los ejemplos según la similitud de sus características. Además, para entender mejor los datos se realiza un análisis con mayor profundidad a través de gráficas y procesado de los datos agrupados por cluster.
Para completar estas tareas se hace uso de las librerías anteriores y de NbClust y factoextra para la visualización de los clusters.
Respecto al Clustering Jerárquico se emplean dos métodos diferentes "complete" y "single". Ambos permiten estudiar el dendograma de forma visual donde las agrupaciones en se generan en forma de árbol donde cada rama es un cluster. Al igual que en el anterior, el primer paso es identificar el número de centros óptimo con el método hcut. Tras la aplicación de los algoritmos, con el fin de comparar y estudiar los resultados obtenidos, se emplean gráficas y se procesan los datos que se han agrupado en los distintos clusters.
En esta etapa, se utilizan todas las librerías anteriores y además se añade ape, que mejora la visualización de los dendogramas.
Al finalizar el problema para el nivel básico, se llega a la conclusión de que el dataset utilizado no se adapta bien a modelos de regresión lineal, siendo necesario resolverlos mediante otra técnica algorítmica. Es un dataset preparado para poder trabajar la visualización y realizar análisis exploratorio de datos.
En relación a los métodos utilizados para regresión, aunque todos ellos aplican bien a problemas no lineales, se han obtenido resultados muy similares en el caso de Random Forest y xgbTree. Ambos modelos ajustan bastante bien la predicción. Finalmente se ha optado por el modelo de xgbTree por presentar los mejores valores de rendimiento y el menor error.
Las conclusiones obtenidas tras la ejecución de algoritmos de Clustering sobre los problemas presentados son las siguientes:
-
Bikes Rental data: se generan 6 clústeres con diferentes características, de las que se puede destacar que a temperaturas cálidas superiores a 30º, humedad óptima y en las estaciones primavera, verano u otoño, el número de bicicletas que se alquilan es mucho mayor. Por otro lado, otra de las agrupaciones destaca por ser ejemplos registrados durante la madrugada. Para obtener mayor información consultar el notebook con el análisis avanzado.
-
Country data: se generan 5 clústers con diferentes características desde los países más necesitados a los menos. Se puede destacar que aproximadamente unos 50 países que requieren ayuda internacional, entre todos ellos el que más necesidades presenta es Nigeria. Para obtener mayor información consultar el notebook con el análisis avanzado.
El proyecto se ha dividido de forma equitativa por todos los miembros del grupo. Ambos subequipos han participado en el estudio, desarrollo o búsqueda de información del análisis básico y avanzado. A pesar de ello, cada notebook ha sido auditado por un subequipo concreto que se ha encargado de revisar y coordinar la ejecución del mismo. En concreto:
- Mario Ruano Fernández y Juan Carlos Cortés Muñoz: dirección del notebook de análisis básico, estudio de los problemas seleccionados, búsqueda de información sobre regresión y clustering, aplicación de los algoritmos supervisados.
- Alejandro José Muñoz Aranda y María Elena Molino Peña: dirección del notebook de análisis avanzado, estudio de los problemas seleccionados, búsqueda de información sobre regresión y clustering, aplicación de los algoritmos de clustering.