Data Mining

(1)

Data Mining

3 - Présentation de l’outil KXEN

Azzedine Boumghar Azzedine.Boumghar@kxen.com

Master MI2 Pro EID - Université Paris 13 Data mining et Business Intelligence FDON

KXEN-Confidential 2

1.1. ACCUEILACCUEIL

2.

2. INTRODUCTIONINTRODUCTION

3.

3. LE DATA MINING PAR KXENLE DATA MINING PAR KXEN

4.

4. KXEN ANALYTIC FRAMEWORKKXEN ANALYTIC FRAMEWORK AGENDA

AGENDA AGENDA

KXEN-Confidential 3

Agents: Australie, Asie, Chine

Représentation mondiale de KXEN

Filiales : France, UK, USA

Distributeurs: Europe, Moyen-Orient, Afrique, Amérique Latine

KXEN-Confidential 4

Stratégie de Kxen

La Société

■ Entreprise fondée en Juillet 1998, Aux USA, état du Delaware Investisseurs actifs

■ Sofinnova France & USA, Innovacom, XAnge Capital, Motorola Investment funds

Comité scientifique reconnu

■ Vladimir Vapnik, Gregory Piatetsky-Shapiro, Gilbert Saporta, Isabelle Guyon, Bernhard Schölkopf, Leon Bottou, etc Programme Universitaire

■ Apprentissage de KXEN dans les Universités et les grandes Ecoles dont Centrale Paris, CNAM, UTC, Lille, Montpellier, Ensai Programme de certification

KXEN-Confidential 5

Quelques Clients

KXEN-Confidential 6

De nombreux partenaires

Partenaires Technologiques

Partenaires Conseil et Intégration

(2)

KXEN-Confidential 7

Des centaines de questions

Style de vie du Client Style de vie

du Client SegmentationSegmentation

Valorisation Client Valorisation

Client RentabilitéRentabilité

Fidélisation Fidélisation Satisfaction

Client Satisfaction

Client

Propension D’achat Propension

D’achat Analyse Tarifaire Analyse Tarifaire

Optimisation Campagnes Optimisation Campagnes Rétention

Client Rétention

Client

Cross Sell Up Sell Cross Sell

Up Sell Satisfaction

Client Satisfaction

Client

Segmentation De marché Segmentation

De marché Analyse du Panier Moyen Analyse du Panier Moyen

Optimisation des canaux Optimisation des canaux Prévisions

des ventes Prévisions des ventes

Recomm.

En Temps Réel Recomm.

En Temps Réel

Analyse de l’attrition

en temps réel Analyse de l’attrition

en temps réel

Choix du Canal de vente Choix du Canal de vente

Constitution des Offres Constitution des Offres

Analyse des Profits/Pertes Analyse des Profits/Pertes Prévisions

Financières Prévisions Financières

Gestion du Risque Gestion du

Risque Capital Client Capital Client

Détection de Fraude Détection de Fraude Rétention

Client Rétention

Client

…et bien d’autres

…et bien d’autres Client

Client MarketingMarketing VentesVentes FinanceFinance

KXEN-Confidential 8

Quelles évolutions?

Data Mining pour vous et moi

Pas de connaissances statistiques poussées exigées pour créer et déployer des modèles.

Le procédé de préparation de données et de découverte de la connaissance est automatisé.

Compréhension par des graphiques significatifs et des indicateurs de performance

Data

Data MiningMiningpour vous et moipour vous et moi

Pas de connaissances statistiques poussPas de connaissances statistiques pousséées exiges exigéées pour cres pour crééer et der et dééployer des ployer des modmodèèles. les.

Le procLe procééddééde prde prééparation de donnparation de donnéées et de des et de déécouverte de la connaissance est couverte de la connaissance est automatis

automatiséé. .

ComprComprééhension par des graphiques significatifs et des indicateurs de phension par des graphiques significatifs et des indicateurs de performanceerformance

C’est rapide

Construisez des modèles analytiques en quelques secondes ou minutes au lieu de jours et de semaines.

Appliquez-les plus souvent et en temps réel pour prendre de meilleures décisions

CC’’est rapideest rapide

Construisez des modConstruisez des modèèles analytiques en quelques secondes ou minutes au lieu de les analytiques en quelques secondes ou minutes au lieu de jours et de semaines.

jours et de semaines.

AppliquezAppliquez--les plus souvent et en temps rles plus souvent et en temps rééel pour prendre de meilleures del pour prendre de meilleures déécisionscisions

Conçu pour être Intégré

Architecture standard, DCOM, CORBA, PMML, XML

Une API bien documentée intégrable facilement dans des applications existantes et des processus

ConçConçu pour être Intu pour être Intéégrgréé

Architecture standard, DCOM, CORBA, PMML, XMLArchitecture standard, DCOM, CORBA, PMML, XML

Une API bien documentéUne API bien documentée inte intéégrable facilement dans des applications existantes et des grable facilement dans des applications existantes et des processus

processus

KXEN-Confidential 9

Que fait KXEN

KXEN permet de réaliser Des modèles descriptifs

■ Exploration des données du passé

■ … pour expliquer le passé

■ Information descriptive sur les variables et leurs relations

Des modèles prédictifs

■ Exploitation des données du passé

■ … pour prévoir et expliquer le futur

■ Information prédictive sur la future valeur de la variable cible

KXEN-Confidential 10

x t

y

Que fait KXEN

1. Expliquer / comprendre

■ Le modèle est une description / simplification du phénomène

■ Il permet de répondre à des questions comme : Quelles sont les variables significatives

Quel est l’impact d’une variation de l’une des variables … 2. Prévoir

■ Le modèle donne une estimation de la classe ou de la valeur

■ Des modèles différents donnent des prévisions différentes Quelle est la “bonne” prévision ?

Existe-t-il un moyen de garantir qu’on obtient une bonne prévision ?

Questions

■ Comment coder les variables ?

■ Comment faire avec des centaines de variables ?

■ Comment choisir le « bon » modèle

? Réponse KXEN

■ Automatisation

La mission KXEN

KXEN fournit une technologie de modélisation prédictive et descriptive des données,

… permettant aux statisticiens et aux utilisateurs métier,

… de transformer rapidement et facilement les données en informations puis en connaissances afin d’aider à la prise de décision.

Méthodologie KXEN

Gain en productivité

■ Automatisation

Codage, pas de recherche d’algorithme, test intégré, débriefing intégré

Qualité, efficacité KI Robustesse KR

■ Régression robuste Ergonomie Accessibilité

■ Facilité de débriefing

■ Discours Marketing

Approche traditionnelle

Sélectionner Les variables Sélectionner

Les variables ComprendreComprendre

Question MétierQuestion Métier

Appliquer Appliquer Préparer les données

Préparer les données Construire Le modèle Construire Le modèle Tester

le modèle Tester le modèle

Approche KXEN

Question MétierQuestion Métier Construire le modèleConstruire le modèle ComprendreComprendre AppliquerAppliquer

(3)

Définition du Data Mining

Ensemble de technologies avancées susceptibles d’analyser l’information

Comprendre et prévoir des phénomènes ou des comportements

Prendre des décisions

Data Sources Data Sources

Manipulation de données Manipulation de

données Préparation des données Préparation des

données Modélisation des données Modélisation des

données ProductionProduction SGBD

Oracle, Teradata, DB/2, ...

Fichiers plats csv, txt, tab … Natifs SAS, SPSS, Excel, … SGBD Oracle, Teradata, DB/2, ...

Fichiers plats csv, txt, tab … Natifs SAS, SPSS, Excel, …

C, JAVA, VB, SAS

… C, JAVA, VB, SAS

…

SQL PMML JAVA

… SQL PMML JAVA

… Scoring Code SQL PMML JAVA SAS VB C

… Scoring Scoring Code Code SQL SQL PMML PMML JAVA JAVA SAS SAS VB VB C C

…

… KXEN Apply mode Probabilités Alertes, Déviations (Temps réel) KXEN KXEN Apply Applymodemode Probabilités Alertes, Déviations (Temps réel) Consistent

Coder K2C Consistent

Coder K2C Event Log

KEL Event Log

KEL

Sequence Coder

KSC Sequence

Coder KSC

Time Series KTS Time Series

KTS Robust Regression

K2R Robust Regression

K2R

Smart Segmenter

K2S Smart Segmenter

K2S Model

Export KMX Model Export KMX

Association Rules KAR Association Rules

KAR

KXEN Analytic Framework

KXEN Robust Regression K2R

Problématique

Cibler une catégorie de personnes

■ … Celles qui gagnent plus de 50000$

… pour proposer un service

Optimisation de ma campagne marketing

■ Nombre d’envois?

Comment faire ?

Process KXEN

Construire un modèle en utilisant le passé

Apprentissage Expliquer les résultats

Prévoir Appliquer

Déploiement du SCORE dans la base de données

Processus de modélisation et de déploiement

Apprentissage TRAINING DATA

Known Output _____________

_____________

Yes No Yes TRAINING

DATA Known Output _____________

_____________

Yes No Yes

Manipulation Des données Manipulation Des données

Présentation et Déploiement Présentation et

Déploiement Préparation des

données Préparation des

données

Modélisation Des données Modélisation Des données Les données

Les données

Nouvelles données

Modèle d’

apprentissa ge

TEST DATA

Unknown Output ____________

____________

?

? TEST DATA

Unknown Output ____________

____________

?

Description

0 0.05 0.1 0.15 0.2 0.25

Predicted Output

Yes No Yes Predicted

Output Yes No Yes

(4)

KXEN Robust Regression K2R

Demo

K2R dans le processus de modélisation

Sélection de Variables S Séélection delection de

Variables

Variables Préparation des données

Pr Prééparationparation des donn des donnééeses

Construction du modèle Construction

du modèle Test du ModèleTest du Modèle Manipulation

de données Manipulation Manipulation

de donn de donnééeses

Construit automatiquement des modèles afin de prévoir une variable binaire ou continue et répondre à une question métier

Construit automatiquement des mod Construit automatiquement des modèèles les

afin de

afin de prpréévoirvoirune variable binaire ou une variable binaire ou continue et r

continue et réépondre pondre ààune question méune question métiertier

KXEN Régression Robuste

K2R utilise un algorithme de régression et de codage des données qui :

■Construit automatiquement et rapidement des modèles prédictifs

■Manipule sans risque des centaines de variables

■Fournit des indicateurs pour évaluer la qualité et la robustesse d’un modèle.

■Détermine et classe les variables clés expliquant une question donnée.

■Simule en temps réel de nouveaux cas.

■Détecte les individus atypiques

Des rapports compréhensibles

Informations concises sur les modèles construits

■ Indicateurs Ki et Kr

■ Courbes de profits

Rapports détaillés

■ Variables : Ki individuel, % de valeurs manquantes, et valeurs de remplacements

■ Détail des variables posant problème

■ Contributions des variables Carte de score complète

KXEN Process de modélisation

Débrief du modèle Débrief du modèle

Déploiement du modèle Déploiement du modèle Construction d’un modèle Construction d’un modèle Construction d’un modèle Construction d’un modèle

Exécuter le modèle Exécuter le modèle Description des variables

et définition des rôles Description des variables

et définition des rôles Sélection de la source

de données Sélection de la source

de données Sélection du type d’analyse Sélection du type d’analyse

Déploiement du modèle Déploiement du modèle Construction d’un modèle Construction d’un modèle

Analyse descriptive Analyse descriptive Evaluation du Modèle (Qualité / Robustesse) Evaluation du Modèle (Qualité / Robustesse) Modèle généré Modèle généré

(5)

KXEN-Confidential 25 Model Deployment

Model Deployment Déploiement du modèle Déploiement du modèle Débrief du modèle Débrief du modèle Construction d’un modèle Construction d’un modèle

Déploiement

Back testing Back testing

Génération des codes sources

Génération des codes sources Appliquer le modèle Appliquer le modèle

Update du modèle Update du

modèle Batch / Temps réel

Batch / Temps réel

RDBMS (UDF, SQL, PMML)

RDBMS

(UDF, SQL, PMML) Outside RDBMS (C, HTML SAS…) Outside RDBMS (C, HTML SAS…)

Déploiement Déploiement Déploiement Déploiement

KXEN Robust Regression K2R

informations complémentaires

Le processus de modélisation

Et deux indicateurs

■ Précision : KI

■ Robustesse : KR

Matrice Ki/Kr

Utilisable en production Besoin de plus

d’exemples (lignes) Elevé

Besoin de plus de variables (colonnes) Besoin de plus de

données (des lignes et/ou des

colonnes) Faibl

e

Elevé Faible

Kr (Robustesse)

KI (Qualité)

Cible

Wizard Aléatoire Validation Test

Légende

50 15

100

100 50

Kr ≈≈≈≈1- B/(A+B+C)

A

Ki

_Valid

≈≈≈≈ (B+C)/(A+B+C)

B _C

Population Ki & Kr : Indicateurs de performance

(6)

KXEN Smart Segmenter K2S

K2S

Création de segments homogènes à partir d’un grand nombre de variables

K2S utilise la technique des K-means (centroïdes) La segmentation peut-être supervisée ce qui la rend

très opérationnelle.

L’utilisateur doit spécifier le nombre de classes Classe les variables importantes par segment. Cela

permet d’identifier facilement les variables structurantes (Kullback – Leibler)

Des expressions logiques (type SQL) permettent un débriefing très puissant de chacun des segments.

Choisir le type de segmentation

Contraintes opérationnelles

■ Le choix du nombre de segments est toujours limité par votre capacité à les utiliser.

Signification métier

■ Interprétation des résultats : Une segmentation n’est pertinente que si elle est utilisable et facile à expliquer

Ki et Kr

■ A Ki et Kr équivalent, un nombre de segments plus petit est préférable.

Applications de K2S

Adapter la stratégie d’entreprise avec les résultats d’une segmentation robuste et traiter les clients différemment selon leur segment d’appartenance

Connaître l’étape du cycle de vie d’un client permet d’adapter l’offre commerciale

Contacter un groupe clé de clients ayant un grand nombre de ressemblances peut augmenter l’efficacité d’une campagne.

Paramétrages de K2S

Sélection du jeu de données description

■ Fichier plat, Table, etc.

■ Table d’analyse – KEL, KSC, SQL, capacités de manipulation des données

Définir éventuellement une cible

■ Par défaut la dernière variable dans la description

■ Continue ou binaire

Choisir un nombre de segments

■ Par défaut 10

Variables exclues (facultatif)

■ Par défaut : aucune

Identifier la variable de poids (facultatif)

■ Par défaut : aucune

Définition de la catégorie cible (facultatif)

■ Par défaut : la moins fréquente

Calcul des expressions SQL (facultatif)

■ Activé par défaut

Statistiques Croisées

Segment Nom: nom du segment Fréquences: pourcentage de la population dans le segment % de ‘étiquettes': Dans le cas binaire : pourcentage de la catégorie cible. Dans le cas continu : moyenne de la cible

Segment Nom: nom du segment Fréquences: pourcentage de la population dans le segment % de ‘étiquettes': Dans le cas Dans le cas binaire : pourcentage de la cat binaire : pourcentage de la catéégorie gorie cible. Dans le cas continu : moyenne cible. Dans le cas continu : moyenne de la cible

de la cible

Étant donné un segment, parcourir chaque variable pour détecter les profils se différenciant de la population totale.

(7)

Description des segments

Le choix de calculer les expressions SQL vous permet de voir, dans le compte rendu du modèle, les expressions SQL définissant chaque segment généré.

KXEN Smart Segmenter K2S

Démo

Data Sources Data Sources

Data Manipulation

Data Preparation

Data Modeling

Data

Modeling ProductionProduction RDBMS

Oracle, Teradata, DB/2, ...

Text Files csv, txt, tab … Native SAS, SPSS, Excel, … RDBMS Oracle, Teradata, DB/2, ...

Text Files csv, txt, tab … Native SAS, SPSS, Excel, …

C, JAVA, VB, SAS

… C, JAVA, VB, SAS

…

SQL PMML JAVA

… SQL PMML JAVA

… Générer le Code Oracle Teradata IBM DB2 PMML JAVA SAS VB C

… G Géénnéérerrerlele Code Code Oracle Oracle Teradata Teradata IBM DB2 IBM DB2 PMML PMML JAVA JAVA SAS SAS VB VB C C

…

… Appliquer Scoring Alerts, Deviations Real Time Appliquer Appliquer Scoring Alerts, Deviations Real Time ENCODER

LES VARIABLES ENCODER

LES VARIABLES FUSIONNER

et AGREGER

par dates FUSIONNER

et AGREGER

par dates

RECONSTITUER LES SEQUENCES RECONSTITUER

LES SEQUENCES

SERIE TEMPORELLE

SCORER SCORER

SEGMENTER SEGMENTER

EXPORTER LES MODELES EXPORTER LES MODELES

COMPRENDRE LES REGLES D’ASSOCIATION COMPRENDRE LES REGLES D’ASSOCIATION

Fonctionnalités de KXEN

KXEN Association Rules KAR

KAR dans le processus de modélisation

KAR manipule les données pour construire une table analysable en utilisant toutes les transactions d’une session

KAR détecte les règles d’association contenues dans la table de transaction

Construction du modèle Construction du Construction du

mod modèèlele

Test du modèle Test du Test du mod modèèlele Manipulation

de données Manipulation

de données Préparation des données Pr Prééparationparationdesdes

donn donnééeses

Généralités sur les règles d’associations

Un grand nombre de tickets de caisses contiennent :

■ un blouson

■ un T-shirt

■ un pull

SI un client achète un blouson ET un T-shirt, ALORS il achète aussi un pull.

■ Blouson & T-shirt => pull

(8)

Généralités sur les règles d’association Pourquoi ?

Ventes au détail et marketing de masse:

compréhension des comportements d'achats :

■Optimiser l'organisation de la surface de ventes

■Mettre en avant les offres spéciales appropriées

■Gérer les stocks

■…

Services bancaires:

■Cross-selling, Up-selling

■… Autres …

Généralités sur les règles d’association Pour quoi ?

KXEN Association Rules (KAR) génère les règles d’association. Elles fournissent des résultats clairs et utiles, par exemple pour l’analyse de panier.

Elles mettent en lumière des rapports entre des produits

ou des services et suggèrent immédiatement des actions appropriées.

Les règles d'association sont utilisées dans l'exploration de données catégoriques, aussi appelé items.

Comment fonctionne KAR?

Les forces de KAR

Produit des résultats clairs et compréhensibles, Permet un processus de modélisation non supervisé

(pas de variable cible),

Explore de grands jeux de données grâce à sa capacité à produire d'abord des règles sur plusieurs petites parties du fichier avant de les agréger (exploration par chunks),

Permet de générer seulement les règles les plus appropriées (aussi appelé règles primaires).

KAR : L’analyse du panier Transaction 2

Transaction 2

Transaction 1 Transaction 1

Transaction 3 Transaction 3

SESSION SESSION

ANTECEDENTANTECEDENT

=>

(ce qui implique)

CONSEQUENTCONSEQUENT

Définitions

PaniersPaniers

L'historique des données permet de construire des règles d'association.

Deux études de fichiers de données : 1: Fichier des Références

2: Fichier des Transactions (table des Transactions)

(9)

…

Tee- shirt 2

4

Veste 2

3

Tee- shirt 1

2

Veste 1

1

Item Id caddie Clé

…

M. Ferrero 2

M. Smith 1

Nom du client Id caddie

Table Caddie Table Caddie

Table des transactions Table des transactions

Comprendre les résultats KAR Support, Confiance et KI Création des règles d' association

3 Indicateurs Clés sont utilisés pour qualifier une règle

=Prob[ Pull-over & Veste & Tee-Shirt ] / Prob[ Pull- over ]

LIFT

= Mesure de la qualité. Est fonction du lift KI

= Pourcentage des sessions vérifiant le conséquent de la règle parmi ceux vérifiant l'antécédent de la règle.

Prob[ Pull-over | Veste & Tee-Shirt ]

Confiance

= Pourcentage des sessions contenant tous les items d’une règle.

Prob[ Veste & Tee-Shirt & Pull-over]

Support

Veste, Tee-Shirt => Pull-over Indicateur

Comprendre les résultats KAR Support

34% des clients ont acheté une veste ET un tee-shirt ET un pull-over.

Veste ET Tee-Shirt ET Pull-over Veste ET

Veste ET TeeTee--ShirtShirtET Pull-ET Pull-overover

Base de données des Achats Base de donn

Base de donnéées des Achatses des Achats

Comprendre les résultats KAR Confiance

75% des clients, qui ont acheté une veste et un tee- shirt, ont aussi acheté un pull-over.

ATTENTION ! La relation n’est pas réciproque : un client ayant acheté un pull-over n’achète pas

obligatoirement une veste et un tee-shirt.

Base de données des Achats Base de donn

Base de donnéées des Achatses des Achats

Pull-over Pull Pull--overover Veste ET Tee-shirt

Veste

VesteET TeeET Tee--shirtshirt 75%75%

Comprendre les résultats KAR KI

100%

Sessions Parfait

Aléatoire Training

Antecedent = A 100%

Conséquent

60%= Prob [A | B])

Conséquent = B

Règle du Support

Confiance = Règle du Support / Antecedent Support

30%

[ ]

⁽ ¹⁾

1 × −

= − Lift

B ob Pr

A ob KI Pr

KXEN Association Rules

Démo avec KAR

(10)

=>

(implique ?)

KAR : Détection de combinaisons d’achat

Objectifs de KAR :

■ Adapter les méthodes de ventes

Recommandations, placement des produits

■ Adapter la politique tarifaire

■ Orienter le comportement d’achat des clients

Résultats de KAR :

■ Détections de règles

KXEN Time series KTS

Séries temporelles Prévision d’un signal évoluant avec le temps

Objectifs de KTS :

■Prévision des ventes d’un produit

■Prévision de l’évolution d’un chiffre d’affaire

■Prévisions boursières (analyse des cours)

■Prévisions des flux d’appels

■…

Séries temporelles Prévision d’un signal évoluant avec le temps

Résultats de KTS

■ Prévision du signal prenant en compte:

cycles (périodique, saisonnier)

tendance

les fluctuations

les variables exogènes

Facilité d’utilisation

Possibilité de créer et déployer des modèles sans expertise technique Préparation des données et processus d’extraction de la connaissance automatisés Meilleure compréhension grâce à des graphiques pertinents et

des indicateurs de performance

Facilit

Facilitéédd’’utilisation utilisation

PossibilitPossibilitééde créde créer et der et dééployer des modployer des modèèles sans expertise techniqueles sans expertise technique

PrPrééparation des donnparation des donnéées et processus des et processus d’’extraction de la connaissance automatisextraction de la connaissance automatisééss Meilleure comprMeilleure comprééhension grâce hension grâce ààdes graphiques pertinents et des graphiques pertinents et

des indicateurs de performance des indicateurs de performance

Vitesse

Construction de modèles analytiques complexes en minutes au lieu d’heures ou jours Utilisation plus fréquente, en temps réel pour prendre de meilleures décisions

Vitesse Vitesse

Construction de modConstruction de modèèles analytiques complexes en minutes au lieu dles analytiques complexes en minutes au lieu d’’heures ou joursheures ou jours

Utilisation plus frUtilisation plus frééquente, en temps rquente, en temps rééel pour prendre de meilleures del pour prendre de meilleures déécisionscisions

Mise en production aisée : Intégration

Architecture standard de composants, DCOM, CORBA, PMML, XML

API documentées pour une intégration facile dans les applications et process existants

Mise en production ais

Mise en production aiséée : Inte : Intéégrationgration

Architecture standard de composants, DCOM, CORBA, PMML, XMLArchitecture standard de composants, DCOM, CORBA, PMML, XML

API documentAPI documentéées pour une intes pour une intéégration facile dans les applications et gration facile dans les applications et processprocessexistantsexistants

Les différentiateurs KXEN

KXEN change les règles du jeu en mettant des techniques avancées d’analyse prédictive à la portée des non-spécialistes

KXEN change les r

KXEN change les rèègles du jeu en mettant des techniquesgles du jeu en mettant des techniques avanc

avancéées des d’’analyse pranalyse préédictive dictive ààla portéla portée des none des non--spspéécialistescialistes

EXTREME DATAMINING

KXEN Analytic Framework Merci à vous !

azzedine.boumghar@kxen.com