MENU
Canal 26
Buscar Noticias
OSA Argentina
27.09.2023  por TOTALMEDIOS

El dilema de los datos: del Data Lake al Data Warehouse

En un mundo dominado por los datos, ¿cómo balancear entre pocos datos y estar inundado por ellos? Diego Lis, CTO de Seenka Media Data, analiza soluciones a este dilema, partiendo de un Data Lake y llegando a un Data Warehouse, listo para ofrecer información valiosa y oportuna.

Por Diego Lis, CTO de Seenka Media Data

En un mundo dominado por los datos, enfrentamos un desafío: ¿Cómo balancear entre tener pocos datos y estar inundado por ellos? ¿De qué sirve tener muchos datos si no se usan? ¿Cómo diferenciar la paja del trigo?
Kantar IBOPE Media
Orillando el problema

Digamos que quieres conocer la presencia de tu marca en los medios. Tal vez necesitas entender cómo impacta esta presencia en tus ventas, optimizar tu inversión o comparar tu estrategia con la de tu competencia. En cualquier caso, vas a necesitar datos.

Contactas algunas agencias y proveedores y compras un CSV con datos del último trimestre. Luego de algunas semanas de análisis, compruebas que en ese trimestre has perdido decenas de oportunidades. Tomas nota de algunos aprendizajes, pero sabes que esas oportunidades no volverán a aparecer. Comprendes que la información la necesitas en tiempo real.

En busca de más

Por suerte, hay un mundo enorme de datos ahí afuera, esperando ser capturados y analizados. Mediante el método de scraping, capturas noticias de portales, contenido de redes sociales, e incluso te aventuras en el mundo de las señales audiovisuales como YouTube, televisión y radio.

Luego de un año de trabajo, ya tienes funcionando todos los crawlers que trabajarán día y noche. Decides almacenar la información en una base de datos no relacional que permite escalar en volumen y tener flexibilidad en el esquema de datos como Elastic Search o MongoDB.

Además, utilizas un Bucket de Google Storage o S3 para guardar la información audiovisual de manera fiable y performante. Creas así un Data Lake, es decir, un repositorio centralizado de datos en bruto.

Al poco tiempo tu Data Lake tiene millones de datos esperando que los uses. Sin embargo, la información que proviene de los medios es completamente heterogénea. Contiene textos, imágenes, audios, videos, cortos y largos, bien y mal escritos, etc. Necesitas, en efecto, transformar estos datos para normalizarlos y poder consumirlos de manera más homogénea.

Dando sentido a tus datos

La normalización de un dataset es particularmente importante en el caso de los medios. ¿De qué me sirve obtener diariamente el texto de miles de noticias si no sé a quién se menciona y de qué temática se habla? ¿Para qué saber que se han emitido cierta cantidad de publicidades si no puedo identificar cuál es la marca, el mensaje central de la misma, su audiencia e impacto?

Afortunadamente, viene a tu rescate el Machine Learning. En los últimos años, viene creciendo de manera exponencial el interés por este campo en el ámbito académico y en la industria. En este gráfico, podemos ver la cantidad de papers de inteligencia artificial que se han publicado en el sitio arXiv en los últimos 30 años.

Decides entonces contratar un equipo especializado de ingenieros de machine learning. Luego de dos años de trabajo aplicando decenas de técnicas, logras convertir tus datos "no estructurados" en datos "estructurados". Es decir, le das sentido a tus datos.

Y así decides utilizar un motor de base de datos relacional, como PostgreSQL o MySQL, donde vas guardando la información estructurada, normalizada y homogénea, para facilitar su análisis posterior. Estás por cantar victoria cuando descubres algo inquietante: la cantidad de datos que has acumulado, que ya llega a los centenares de millones, es tan grande que resulta demasiado lento hacer cualquier consulta medianamente compleja.

La etapa final: El Data Warehouse

Por fin, logras implementar una última etapa en tu pipeline: utilizas un base de datos orientada a columnas, como BigQuery o ClickHouse, para crear un Data Warehouse, es decir, una base de datos optimizada para el análisis y generación de informes.

En esta nota:

Otras noticias del día

Campañas

Campaña de VML junto a Fundación Jean Maggi por la Semana de la Accesibilidad

En el marco de la Semana de la Accesibilidad, Fundación Jean Maggi y VML Argentina lanzan la “Silla Monster”, una intervención creativa que busca visibilizar el bloqueo de rampas y abrir el debate sobre la falta de accesibilidad en el espacio público. Ver más

Empresarias

Mario Koltan presenta “Minga” en la Feria del Libro de Buenos Aires

El nuevo libro de Mario Koltan se presentará en la Feria Internacional del Libro de Buenos Aires con una propuesta que interpela el clima social actual y plantea una reflexión sobre los límites de la resignación y el rol colectivo frente a la injusticia. Ver más

Campañas

PUMA acompaña a Platense para su debut en la Libertadores

En la previa de su debut como local en la CONMEBOL Libertadores, PUMA y Platense presentan una nueva camiseta alternativa junto a una colección exclusiva que combina identidad barrial, diseño y proyección internacional. Ver más

multimedia / campañas publicitarias

“Darse un baño de inversión”

Agencia: la américa Marca: Banco provincia Soporte:

Con más de 200 años de historia y sucursales en cada rincón, el Banco Provincia busca sacarle el miedo a invertir. A través de una campaña original y refrescante, propone aprender a invertir de forma clara y segura, con la tranquilidad de siempre tener a quién recurrir.

“Silla Monster”

Agencia:Vml

Marca:Fundación jean maggi

Soporte:

“Estamos en familia”

Agencia:Digitas buenos aires

Marca:Terrabusi

Soporte:Tv y web

Pay with your sunset

Agencia:Gut

Marca:Corona

Soporte:

“Quien lo dice importa”

Agencia:Zurda agency

Marca:La nacion

Soporte:Vía pública, digital, redes sociales

Ver todos