Introduction to data mining with Weka by OPEN MINER
-
Upload
openminer -
Category
Technology
-
view
124 -
download
2
description
Transcript of Introduction to data mining with Weka by OPEN MINER
About Us
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
Part 0
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
2
Instructors
อ.สิ�ริ�วริริณ แต้ว�จิ�ต้ริ อยู่��รุ่ะหว่�างศึ�กษาต่�อรุ่ะดั�บปรุ่�ญญาเอก ที่��สถาบ�น
เที่คโนโลยู่�นานาชาต่�ส�รุ่�นธรุ่ มหาว่�ที่ยู่าล�ยู่ธรุ่รุ่มศึาสต่รุ่% และ Japan Advance Institute of Science and Technology
ปรุ่�ญญาโที่ สาขาว่�ชา Computer Engineering มหาว่�ที่ยู่าล�ยู่เกษต่รุ่ศึาสต่รุ่%
ปรุ่�ญญาต่รุ่� สาขาว่�ชา Computer Engineering มหาว่�ที่ยู่าล�ยู่เกษต่รุ่ศึาสต่รุ่%
Email: [email protected], [email protected]
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
3
Course Outline
1st day Introduction to data mining Introduction to Weka Preprocess Regression & Classification
Techniques Linear Regression Decision tree
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
4
Course Outline (cont’)
2nd day Regression & Classification Techniques
K-Nearest neighbors Neural Networks Support Vector Machines (SVM)
Clustering Association rule discovery JAVA + WEKA PHP + WEKA Knowledge Flow
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
Part IIntroduction to Data Mining
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
6
What is data mining?
“The exploration and analysis of large quantities of data in order to discover meaningful patterns and rules” – Data Mining Techniques (2nd Edition) เป)นการุ่ว่�เครุ่าะห%ข*อม�ลเพื่,�อหารุ่�ปแบบ (patterns) หรุ่,อคว่ามส�มพื่�นธ%
(relation) รุ่ะหว่�างข*อม�ลในฐานข*อม�ลขนาดัใหญ�
“Extraction of interesting (non-trivial, previously, unknown and potential useful) information from data in large databases” – Data Mining Concepts &Techniques (2nd Edition) เป)นกรุ่ะบว่นการุ่ดั�งข�าว่สารุ่ที่��น�าสนใจ และม�ปรุ่ะโยู่ชน%แต่�ไม�เคยู่รุ่� *มาก�อน
จากฐานข*อม�ลขนาดัใหญ�
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
7
Loyalty Cards
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
Loyalty Cards (2)
Tesco Lotus
BigC Carrefour
TOPS
ช,�อบ�ต่รุ่ Club card
BigCard I wish SPOT
เรุ่��มต่*นโปรุ่โมช�น
08/2552 09/2552 07/2550 ~2548
ส�ที่ธ�ปรุ่ะโยู่ชน%
สะสมแต่*ม ที่�ก 2 บาที่ไดั* 1 แต่*ม
รุ่�บเง�นค,น 5
บาที่ เม,�อซื้,2อส�นค*าครุ่บ 500 บาที่
สะสมแต่*ม รุ่�บส�ว่นลดัส3าหรุ่�บสมาช�กและ personal shopping list
Reference : น�ต่ยู่สารุ่ positioning ฉบ�บเดั,อนพื่ฤศึจ�กายู่น 2552
8
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
9
Summary
ในป6จจ�บ�นข*อม�ลม�จ3านว่นเพื่��มมากข�2นเรุ่,�อยู่ๆ แต่�ไม�ไดั*น3ามาใช*ปรุ่ะโยู่ชน% การุ่ซื้,2อส�นค*าในห*างสรุ่รุ่พื่ส�นค*าต่�างๆ ข*อม�ลการุ่ลงที่ะเบ�ยู่นเรุ่�ยู่นของน�ส�ต่ Social network : facebook, twitter ข*อม�ลช�ว่สารุ่สนเที่ศึ เช�น protein sequence, gene ฐานข*อม�ลล�กค*าภายู่ในบรุ่�ษ�ที่
Data mining เป)นการุ่หาคว่ามส�มพื่�นธ%ต่�างๆ ที่��ปรุ่ากฏอยู่��ในข*อม�ลที่��ม�ขนาดัใหญ�
ว่�เครุ่าะห%พื่ฤต่�กรุ่รุ่มการุ่ซื้,2อส�นค*าของล�กค*าแต่�ละคน เพื่,�อน3าเสนอโปรุ่โมช�นให*ต่รุ่งก�บคว่ามต่*องการุ่
ว่�เครุ่าะห%ข*อม�ลปรุ่ะว่�ต่�การุ่ศึ�กษาเพื่,�อแนะน3าให*น�ส�ต่ปรุ่ะสบคว่ามส3าเรุ่:จในอาช�พื่ ว่�เครุ่าห%ข*อม�ลโปรุ่ต่�นรุ่ะดั�บปฐมภ�ม� เพื่,�อใช*ในการุ่ที่3านายู่โครุ่งสรุ่*างของโปรุ่ต่�น ว่�เครุ่าะห%แนว่โน*มต่�างๆ เก��ยู่ว่ก�บส��งที่��สนใจ
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Cross Reference Industry Standard Process for Data MiningPart II
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINER
WWW.OPEN-MINER.COM
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
11
CRISP-DM
CRoss-Industry Standard Process for Data Mining (CRISP-DM) พื่�ฒนาข�2นโดัยู่
บรุ่�ษ�ที่ DaimlerChryslerบรุ่�ษ�ที่ SPSSบรุ่�ษ�ที่ NCR
Workflow มาต่รุ่ฐานส3าหรุ่�บการุ่ที่3า data mining ปรุ่ะกอบดั*ว่ยู่ 6 ข�2นต่อน
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
12
Data Mining Workflow
Business Understanding + Data Understanding + Data Preparation ใช*เว่ลาถ�ง 80% ของที่�2งหมดั
บที่คว่ามเพื่��มเต่�ม : http://open-miner.com/2009/11/03/introduction-datamining/
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
13
CRISP Example
การุ่ใช*เที่คน�คดัาต่*าไมน%น�งเพื่,�อพื่�ฒนาค�ณภาพื่การุ่ศึ�กษาคณะว่�ศึว่กรุ่รุ่มศึาสต่รุ่%
( http://www.nectec.or.th/NTJ/No11/No11.php ) รุ่ศึ. ดัรุ่. กฤษณะ ไว่ยู่ม�ยู่ ช�ดัชนก ส�งส�รุ่� ธนาว่�นที่% รุ่�กธรุ่รุ่มานนที่%
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
14
CRISP Example (5)
Data Understanding ข*อม�ลการุ่ลงที่ะเบ�ยู่นของ
น�ส�ต่ต่�2งแต่�ป= 2535-2542 น�ส�ต่จ3านว่น 10,000 กว่�า
คน ข*อม�ล 476,085 แถว่
ข*อม�ลแบ�งเป)น 2 ส�ว่น ข*อม�ลปรุ่ะว่�ต่�ส�ว่นต่�ว่ของ
น�ส�ต่ เช�น ช,�อ ที่��อยู่�� ภ�ม�ล3าเนา อายู่� เป)นต่*น
ข*อม�ลการุ่ลงที่ะเบ�ยู่นของน�ส�ต่ช�2นป=ที่�� 1 จ3านว่น 9 รุ่ายู่ว่�ชา
Stu_code
Sex Address
GPA
37058063
Male Bangkok
2.3
37058167
Male Songkla
3.2
…. … … …
ข้อมู�ลปริะว�ต้�สิ�วนต้�วน�สิ�ต้
Stu_code
Sub_code
… Grade
37058063
คอมพื่�ว่เต่อรุ่%
… C+
37058063
คณ�ต่ศึาสต่รุ่%
… D
…. … … …
ข้อมู�ลการิลงทะเบี�ยนต้�วน�สิ�ต้
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
15
CRISP Example (6)
Stu_code
Sex Address
GPA
37058063
Male Bangkok
2.3
37058167
Male Songkla
3.2
…. … … …
ข้อมู�ลปริะว�ต้�สิ�วนต้�วน�สิ�ต้ (Old)
Stu_code
Sub_code
… Grade
37058063
คอมพื่�ว่เต่อรุ่%
… C+
37058063
คณ�ต่ศึาสต่รุ่%
… D
…. … … …
ข้อมู�ลการิลงทะเบี�ยนต้�วน�สิ�ต้ (Old)
Stu_code
Sex Address
GPA
37058063
Male Bangkok
BAD
37058167
Male Songkla
GOOD
…. … … …
ข้อมู�ลปริะว�ต้�สิ�วนต้�วน�สิ�ต้ (New)
Stu_code
Sub_code
… Grade
37058063
คอมพื่�ว่เต่อรุ่%
… Medium
37058063
คณ�ต่ศึาสต่รุ่%
… Low
…. … … …
ข้อมู�ลการิลงทะเบี�ยนต้�วน�สิ�ต้ (New)
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
16
Data Mining Concepts and Techniques
Classification เป)นการุ่จ3าแนกข*อม�ลออกเป)น
ปรุ่ะเภที่ต่�างๆ อาศึ�ยู่การุ่เรุ่�ยู่นรุ่� *จากข*อม�ลเก�า
Regression การุ่ปรุ่ะมาณค�าจ3านว่นหรุ่,อ
ปรุ่�มาณที่��เป)นต่�ว่เลข อาศึ�ยู่การุ่เรุ่�ยู่นรุ่� *จากข*อม�ลเก�า
Clustering แบ�งข*อม�ลเป)นหลายู่ๆ กล��ม อาศึ�ยู่คว่ามคล*ายู่คล�งก�นของ
ข*อม�ล
Associate อาศึ�ยู่คว่ามส�มพื่�นธ%ของข*อม�ล
ที่��เก�ดัรุ่�ว่มก�น สรุ่*างเป)นกฎคว่ามส�มพื่�นธ%
Supervised learning Unsupervised learning
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
17
Data Mining Software
Commercial Software SAS® Enterprise
Miner
DB2 Intelligent Miner
Microsoft SQL Server 2008
Open source software or Freeware Weka
RapidMiner
KNIME (Konstanz Information Miner)
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
18
Data Mining Software (2)
Weka
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Introduction to WekaPart III
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINER
WWW.OPEN-MINER.COM
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
20
What is Weka ?
Weka Waikato Environment for Knowledge Analysis เป)นซื้อฟต่%แว่รุ่% open source ส3าหรุ่�บการุ่ว่�เครุ่าะห%ข*อม�ลดั*ว่ยู่
เที่คน�ค Data Mining สามารุ่ถดัาว่น%โหลดัมาใช*ไดั* ฟริ� !!! พื่�ฒนาดั*ว่ยู่ภาษา Java และสามารุ่ถที่3างานไดั*บน
WindowsLinuxMAC OS
ดัาว่น%โหลดั Weka ไดั*จาก http://www.cs.waikato.ac.nz/ml/weka/
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
21
Download Weka
http://www.cs.waikato.ac.nz/ml/weka/
เว่อรุ่%ช�นน�2จะม�โปรุ่แกรุ่มJava รุ่ว่มมาให*ดั*ว่ยู่
เว่อรุ่%ช�นน�2จะไม�ม�โปรุ่แกรุ่มJava รุ่ว่มมาให* ต้องมู� Java ในเคริ !องแลว !!
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
22
Weka Explorer
Tab ส3าหรุ่�บเรุ่�ยู่กใช*งานฟ6งก%ช�นต่�างๆ ของ data mining
Workspace: เป)นส�ว่นส3าค�ญของ Weka Explorer จะใช*ในการุ่ปรุ่�บเปล��ยู่น พื่ารุ่าม�เต่อรุ่%ต่�างๆ และแสดังผลการุ่ที่3างาน
Status: บอกว่�า Wekaก3าล�งที่3างานอะไรุ่อยู่��
Log: เก:บรุ่ายู่ละเอ�ยู่ดัของการุ่ที่3างานต่�างๆ
จะเต่*นเม,�อก3าล�งที่3างานอยู่��
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
PreprocessPart IV
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
24
Agenda
ข*อม�ล อ�นสแต่นซื้% (instance) แอต่ที่รุ่บ�ว่ต่% (attribute)
โหลดัข*อม�ลเข*าไปใช*ในโปรุ่แกรุ่ม Weka ไฟล% CSV ไฟล% ARFF ฐานข*อม�ล
Preprocess Data ดั*ว่ยู่ Weka แปลงข*อม�ลจากต่�ว่เลขให*เป)นช�ว่ง เพื่��มข*อม�ลที่��ขาดัหายู่ ค*นหาข*อม�ล Outlier
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
25
ข*อม�ลที่��ใช*เป)น input ส3าหรุ่�บ Weka
Load data into Weka (2)
อ�นเต้อริ"เน#ต้
(Internet)
ฐานข้อมู�ล(Databa
se)
ไฟล" (File)
ARFF
CSV
ข้อมู�ลจิ&าลอง
(Generate Data)
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
26
Lab 4-1: Generate CSV file
ว�ต้ถุ(ปริะสิงค": เพื่,�อสรุ่*างไฟล% CSV ดั*ว่ยู่โปรุ่แกรุ่ม Excel และโหลดัไฟล%เข*าใช*งานใน Weka
ต้าริางท�! 1: สมาช�ก
Note : In sex attribute, value 0 = Female, 1 = Male, 2 = Others
บ�นที่�กไฟล%ในช,�อ customers.csv
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
27
Weka & MySQL (4)
URL : ช,�อ URL ของ database server
Click ป�Aม Userjdbc:mysql://localhost:3306/weka_course
Server URL & port
Database name
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
28
Replace missing values in Weka
กดัป�Aม Choose เล,อก filters เล,อก unsupervised เล,อก attribute เล,อก ReplaceMissingValues
กดัป�Aม Apply
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Regression & Classification
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
Part V
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
30
Agenda
การุ่ปรุ่ะมาณค�าจ3านว่น (Regression) และ การุ่จ3าแนกปรุ่ะเภที่ข*อม�ล (Data classification) คว่ามหมายู่และการุ่ปรุ่ะยู่�กต่%ใช* ข*อม�ล training, testing การุ่ที่ดัสอบปรุ่ะส�ที่ธ�ภาพื่ และการุ่แปลคว่าม
เที่คน�คต่�างๆ ในการุ่ปรุ่ะมาณค�าจ3านว่น และ จ3าแนกปรุ่ะเภที่ข*อม�ล Linear Regression Decision tree K-nearest neighbors Neural Network Support Vector Machines (SVM)
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
31
What is classification?
ค&าถุามู : มู�ริ�ปภาพอะไริปริากฏอย��บีาง ?
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
32
Example: Classification (3)
Model สรุ่*างไดั*จากการุ่เรุ่�ยู่นรุ่� *ดั*ว่ยู่ training data ใช*ส3าหรุ่�บจ3าแนกข*อม�ลใหม�ที่��ยู่�งไม�รุ่� * class Decision tree model
Evaluate Model
โมเดัลในรุ่�ปแบบ Tree
สิ�เข้�ยว
ภาพป,าไมู ภาพชายทะเล
< 100
≥ 100
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
33
Example: Classification (4)
Unseen data ข*อม�ลใหม�จะไม�ม�ค3าต่อบ (class) อยู่��ดั*ว่ยู่ แต่�เม,�อผ�านการุ่
ปรุ่ะมว่ลผลจากโมเดัล ถ�งจะที่รุ่าบค3าต่อบ
สิ�แดง สิ�เข้�ยว สิ�น&/าเง�น134.86 96.01 158.83
แอต่ที่รุ่�บ�ว่ต่%
? ?
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
Classification Steps (3)
แอต่ที่รุ่�บ�ว่ต่% 1
แอต่ที่รุ่�บ�ว่ต่% 2
คลาส
1 0 A
0 1 B
34
เทคน�คClassification
โมูเดล (Model)
ข้อมู�ลเริ�ยนริ�(Training data)
ข้อมู�ลทดสิอบี(Evaluate
data)
Classify/Predictแอต่ที่รุ่�บ�ว่
ต่% 1แอต่ที่รุ่�บ�ว่ต่% 2
1 0
คลาสิA
ข�2นต่อนการุ่สรุ่*างโมเดัล(classification model building)
ข�2นต่อนการุ่ว่�ดัปรุ่ะส�ที่ธ�ภาพื่ (evaluation)
34
Unseen data
แอต่ที่รุ่�บ�ว่ต่% 1
แอต่ที่รุ่�บ�ว่ต่% 2
1 0
คลาสิท�!ท&านาย
A
คลาสิ
จิริ�งAเปรุ่�ยู่บเที่�ยู่บผลที่��ไดั*
จากโมเดัลและค3าต่อบจรุ่�ง
การุ่ใช*งานจรุ่�ง3
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
35
Classification in Weka (cont’) คล�กที่�� tab Classify
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
36
1: Classifier
เที่คน�คในการุ่ที่3า classification แบบต่�างๆ Bayes
สรุ่*างโมเดัลโดัยู่อาศึ�ยู่การุ่ค3านว่ณคว่ามน�าจะเป)น (probability) ของข*อม�ลต่�างๆ
Functions สรุ่*างโมเดัลโดัยู่อาศึ�ยู่การุ่ค3านว่ณที่าง
คณ�ต่ศึาสต่รุ่% โมเดัลเป)นรุ่�ปแบบของสมการุ่
Lazy ต่�างจากเที่คน�ค classification แบบอ,�นๆ ไม�ม�การุ่สรุ่*างโมเดัลไว่*ก�อน ใช*ข*อม�ลเรุ่�ยู่นรุ่� *เพื่,�อจ3าแนกปรุ่ะเภที่ข*อม�ลของ
ข*อม�ลใหม�ไดั*เลยู่
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
37
Lab 5-2: German Credit Card Business Understanding
การุ่อน�ม�ต่�บ�ต่รุ่เครุ่ดั�ต่ของธนาคารุ่ต่�างๆ จ3าเป)นจะต่*องพื่�จารุ่ณาป6จจ�ยู่หลายู่ๆ ดั*านของล�กค*าผ�*ขออน�ม�ต่� ที่� 2งน�2เพื่รุ่าะคว่ามเส��ยู่งที่��อาจจะเก�ดัข�2นจากการุ่ใช*บ�ต่รุ่เครุ่ดั�ต่ของล�กค*าอาจจะที่3าให*ธนาคารุ่ส�ญเส�ยู่เง�นเป)นจ3านว่นมาก
การุ่สรุ่*างรุ่ะบบช�ว่ยู่การุ่ต่�ดัส�นใจ (decision support system) ในการุ่อน�ม�ต่�บ�ต่รุ่เครุ่ดั�ต่แบบอ�ต่โนม�ต่�จะช�ว่ยู่ให*ธนาคารุ่สามารุ่ถที่3างานไดั*เรุ่:ว่ข�2น
Data Understanding ธนาคารุ่ไดั*เก:บรุ่ว่บรุ่ว่มข*อม�ลการุ่ขออน�ม�ต่�บ�ต่รุ่เครุ่ดั�ต่จากล�กค*าเก�าจ3านว่น 600 คน โดัยู่ธนาคารุ่จะเก:บค�ณล�กษณะของล�กค*าแต่�ละคนไว่* เช�น จ3านว่นเง�นในบ�ญช� เป)นต่*น รุ่ว่บรุ่ว่มเก:บไว่*ในไฟล% GermanCreditBalance.arff ซื้��งอยู่��ในแผ่�น CD
โฟลเดัอรุ่% dataset/GermanCredit
รุ่ายู่ละเอ�ยู่ดัของแอต่ที่รุ่�บ�ว่ต่%ต่�างๆ ดั�ไดั*จากไฟล% GermanCredit.pdf
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
Part VI Clustering
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
39
Segmentation
แบ�งล�กค*าออกเป)นกล��มๆ ยู่�อยู่ เพื่,�อจะไดั*พื่�จารุ่ณาล�กษณะของแต่�ละกล��มไดั*ง�ายู่ข�2น สมาช�กในแต่�ละกล��ม
คว่รุ่จะม�ล�กษณะที่��คล*ายู่ๆ ก�น และคว่รุ่จะม�ล�กษณะที่��ต่�างก�นก�บกล��มอ,�น ๆ
ต่�ว่อยู่�างแอต่ที่รุ่�บ�ว่ต่%ที่��ใช*ในการุ่แบ�งกล��ม ข*อม�ลเช�งพื่,2นที่�� (geographic)
จ�งหว่�ดั ข*อม�ลเช�งปรุ่ะชากรุ่ (demographic)
อายู่� เพื่ศึ รุ่ายู่ไดั*
พื่ฤต่�กรุ่รุ่มการุ่บรุ่�โภค (behavior) ส�นค*าที่��เคยู่ซื้,2อ จ3านว่นครุ่�2งที่��กล�บมาซื้,2อ
ภ�ม�ภาค
จ3านว่นสมาช�กในครุ่อบครุ่�ว่ การุ่ศึ�กษา อาช�พื่
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
40
Data clustering
การุ่แบ�งกล��มหรุ่,อคล�สเต่อรุ่��ง (clustering) เป)นเที่คน�คหน��งที่��น�ยู่มใช*ก�นในการุ่ว่�เครุ่าะห%ข*อม�ล
หน*าที่��ของคล�สเต่อรุ่��ง การุ่แบ�งข*อม�ลออกเป)นกล��มยู่�อยู่ๆ โดัยู่ต่*องการุ่ให*ข*อม�ลในกล��มเดั�ยู่ว่ก�น
ม�คว่ามเหม,อนก�นมากๆ และข*อม�ลที่��อยู่��ต่�างกล��มก�นม�คว่ามต่�างก�นมากๆ เรุ่าจะเรุ่�ยู่กแต่�ละกล��มยู่�อยู่ว่�าคล�สเต่อรุ่% (cluster)
คล�สเต่อรุ่��งเป)นว่�ธ�สามารุ่ถที่3าไดั*โดัยู่ไม�ต่*องอาศึ�ยู่การุ่เรุ่�ยู่นรุ่� * (unsupervised learning)คล�สิเต้อริ"
1
คล�สิเต้อริ" 3
คล�สิเต้อริ" 2
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
41
Clustering in Weka (cont’)
คล�กที่�� tab Cluster
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
42
Example1 : Clustering bank data ข*อม�ลรุ่ายู่ละเอ�ยู่ดัล�กค*าของธนาคารุ่ (bank)
id age sex region inco
memarri
edchildr
encar
save_act
current_act
mortgage
pep
ID12101
48 FEMALEINNER_CI
TY1754
6NO 1 NO NO NO NO
YES
ID12102
40 MALE TOWN30085.1
YES 3YES
NO YES YES NO
ID12103
51 FEMALEINNER_CI
TY16575.4
YES 0YES
YES YES NO NO
ID12104
23 FEMALE TOWN20375.4
YES 3 NO NO YES NO NO
ID12105
57 FEMALE RURAL50576.3
YES 0 NO YES NO NO NO
ID12106
57 FEMALE TOWN37869.6
YES 2 NO YES YES NOYES
ID12107
22 MALE RURAL8877.07
NO 0 NO NO YES NOYES
ID12108
58 MALE TOWN24946.6
YES 0YES
YES YES NO NO
ID12109
37 FEMALESUBURB
AN25304.3
YES 2YES
NO NO NO NO
ID12110
54 MALE TOWN24212.1
YES 2YES
YES YES NO NO
ID12111
66 FEMALE TOWN59803.9
YES 0 NO YES YES NO NO
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
Association RulesPart VII
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
44
Market Basket Analysis
รุ่�เรุ่��มจากการุ่ส�งเกต่�การุ่ซื้,2อส�นค*าใน supermarket ข*อม�ลการุ่ซื้,2อส�นค*าของล�กค*าแต่�ละคน ว่�เครุ่าะห%พื่ฤต่�กรุ่รุ่มของผ�*บรุ่�โภค
ชอบซื้,2อส�นค*าชน�ดัไหนพื่รุ่*อมก�นบ*าง ?
Customer1
Apple, Beer, Cereal, Diapers
Apple, Beer, Diapers, Eggs
Beer, Eggs
Customer2
Customer3
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
45
Data from point-of-sale (4)
Transaction- time
Product
01-13-2009 20:04
Apple
01-13-2009 20:04
Beer
01-13-2009 20:04
Cereal
01-13-2009 20:04
Diapers
01-14-2009 11:30
Apple
01-14-2009 11:30
Beer
01-14-2009 11:30
Diapers
01-14-2009 11:30
Eggs
01-15-2009 14:15
Beer
01-15-2009 14:15
Eggs
POS database
TID
Product
1 Apple, Beer, Cereal, Diapers
2 Apple, Beer, Diapers, Eggs
3 Beer, EggsTransaction database
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
46
Association Rules in Weka (cont’) คล�กที่�� tab Associate
OPEN MINER
www.open-miner.comwww.facebook.com/
openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
47
Lab 7-1: Market Basket
Business Understanding ซื้�เปอรุ่%มารุ่%เก:ต่แห�งหน��งต่*องการุ่ที่3ารุ่ะบบ CRM ก�บล�กค*าที่��เข*ามาซื้,2อส�นค*าโดัยู่
ต่*องการุ่หาว่�าม�ส�นค*าชน�ดัใดับ*างที่��ล�กค*าม�กจะซื้,2อพื่รุ่*อมก�นบ�อยู่ๆ เพื่,�อน3าไปจ�ดัโปรุ่โมช�น
Data Understanding ซื้�ปเปอรุ่%มารุ่%เก:ต่แห�งน�2ไดั*ที่3าการุ่เก:บปรุ่ะว่�ต่�การุ่ซื้,2อส�นค*าของล�กค*าจ3านว่น
1,000 คน โดัยู่ข*อม�ลของล�กค*าแต่�ละรุ่ายู่จะแบ�งเป)น 2 ส�ว่นใหญ�ๆ ค,อ
ข*อม�ลรุ่ายู่ละเอ�ยู่ดัเก��ยู่ว่ก�บล�กค*าแต่�ละรุ่ายู่ ม�จ3านว่น แอต่ที่รุ่�บ�ว่ต่%…… ข*อม�ลส�นค*าที่��ล�กค*าซื้,2อแต่�ละครุ่�2ง ม�จ3านว่น แอต่ที่รุ่�บ�ว่ต่% ……
ข*อม�ลเหล�าน�2ไดั*ถ�กรุ่ว่บรุ่ว่มเก:บไว่*ในไฟล% supermarket_basket_transactions_2005.arffในแผ�น CD โฟลเดัอรุ่% dataset/supermarket
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
Part VIII Command line & Integrate System
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
49
Weka in command line
การุ่เรุ่�ยู่กใช*งาน Weka ดั*ว่ยู่การุ่พื่�มพื่%ค3าส��งผ�านที่าง DOS เล,อก Run > พื่�มพื่% cmd จะปรุ่ากฏหน*า DOS (หน*าจอดั3าๆ)
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
50
Lab8-2: Weka in Java Program (2) พื่ารุ่าม�เต่อรุ่%ของเที่คน�คต่�างๆ ดั�ไดั*จาก Weka Explorer
ข�2นต่อนการุ่ compile โปรุ่แกรุ่มjavac -classpath “C:\Program Files\Weka-3-6\weka.jar” testClassifier.java
ข�2นต่อนการุ่ run โปรุ่แกรุ่มjava -classpath “C:\Program Files\Weka-3-6\weka.jar;.” testClassifier
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
BY OPEN MINERWWW.OPEN-MINER.COM
Part IX Knowledge Flow
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
52
Weka KnowledgeFlow
สามารุ่ถเล,อก component ต่�างๆ ของ Weka มาเรุ่�ยู่งต่�อก�น เพื่,�อให*ที่3างานเป)นแบบ workflow
OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
53
Example: Knowledge flow (7) เล,อก component TextViewer จากแที่:บ Visualization ว่างไว่*ในส�ว่น Layout และคล�กขว่าที่��
ClassifierPerformanceEvaluator เล,อกเมน� text แล*ว่ลากล�กศึรุ่มายู่�ง TextViewer OPEN MINERwww.open-miner.com
www.facebook.com/openminer
Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14
54
Contact Us
อ.ส�รุ่�ว่รุ่รุ่ณ แต่*ว่�จ�ต่รุ่ E-mail
[email protected] Website
http://www.open-miner.com Google Buzz
http://www.google.com/profiles/openminer