오렌지317 완전 초짜 ORANGE 3 : 시스템 제작 과정 ▷시스템 제작 과정 AI 문제 확인 AI 솔루션 확인 AI 솔루션 설계 AI 솔루션 개발 평가 및 피드백 -AI로 해결 가능한 문제 찾기 EX) 주택가격 -문제 해결 방법 찾기 -다양한 분석틀 이용 -구체적 '안' 설계 -어디에서 데이터를 수지할까? 데이터 수집의 한계 -오렌지3 워크플로우 제작 -새로운 데이터에 적용 -결과 확인 ▷시스템 제작 예제 확인 1) 네트워크 분석 모델 네트워크 분석은 군집화와 연결성이 좋다. 일반적인 데이터도 Distances(계층적 군집화 모델)로 instance간 거리(유사도)를 수치화하면, 네트워크 위젯으로 분석하고 표현할 수 있다. 또한, Distances 위젯으로 분석했기 때문에 Distance Matrix나 Hierarchical Clustering 위젯 등으로 시.. 2021. 9. 9. 완전 초짜 ORANGE 3 : 네트워크 분석 ▷네트워크 분석 -개인과 집단들 간의 관계를 모형화 해, 그 구조, 확산, 진화 과정을 계랑적으로 분석하는 것 -노드 : 분석하려고 하는 객체 -링크 : 노드와 노드 사이의 연결성 (단방향 / 양방향) -밀도 : 노드에 연결되어 있는 링크의 수 -중심성 : 어떤 노드가 가장 중요한지 살피는 척도 -네트워크 중심성의 척도 : 연결 중심성 / 근접 중심성 -연결 중심성 : 노드에 연결된 연결성(링크)의 크기로 중심성을 평가 -근접 중심성 : 노드와 노드 사이의 거리로 중심성을 평가 ▷네트워크 분석 위젯 ▷ Network Analysis / Network Clustering / Network Explorer -분석을 시작하기 전에 해당 네트워크에 대한 개략적인 정보를 얻을 수 있는 위젯이 Network Ana.. 2021. 9. 8. 완전 초짜 ORANGE 3 : 시계열 분석 ▷시계열 분석(Time Series Analysis) -시간의 흐름에 따라 일정 간격으로 사건을 관찰 기록한 데이터로 미래 관측값을 예측하는 것 -시계열 자료 + 분석 = 시계열 분석 -시계열 자료 : 1) 연속 시계열 : 연속적으로 생성되는 자료 2) 이산 시계열 : 일정한 시차를 두고 생성되는 자료 -시계열의 요인 : 1) 추세 요인 (Trend Factor) 2) 계절 요인 (Seasonal Factor) - 고정된 주기에 따라 자료 변화 3) 추세 요인 + 계절 요인 혼합 4) 순환 요인 (Cyclical Factor - 알려지지 않은 주기를 가지고 자료 변화 5) 불규칙 요인 (Irregular Factor) - 일상의 대부분의 시계열 자료들 ▷차분(Differencing) -정상 과정(Stat.. 2021. 9. 7. 완전 초짜 ORANGE 3 : 연관 분석 ▷연관 분석(Association Analysis) -비지도 학습의 하나 = 연관된 정보를 찾아가는 분석. -장바구니 분석 / 서열 분석. -데이터 사이의 순서와 상관관계를 살펴봄. -주로 기업이 구매 패턴을 분석 시 사용. -장비구니 분석 예 : 월마트 분석 = 20, 30대의 남자가 마트를 갈 때 기저귀와 맥주를 함께 구입한다. / 남자가 마트를 갈 때는 주로 아내의 심부름으로 가는 경우가 많음. 그래서 아기 기저귀를 사고 자신이 마실 맥주를 함께 구입하는 것. -서열 분석 예 : A 를 산 다음에 B를 산다 >> 보험사의 부정행위 적발 ▷연관성 규칙(Association Rule) -조건과 반응 : if A then B / A → B 이고, B → C 라면 A → C 일거라는 것 / 이때 A가 B의.. 2021. 9. 6. 완전 초짜 ORANGE 3 : 지오코딩 ▷지오코딩(Geocoding) -지리공간 인공지능 = Geo AI -지오코딩 = 고유명칭(주소, 지명 등)을 위도, 경도의 좌표값으로 변환 -역지오코딩 = 위도, 경도의 좌표 값을 주소(고유명칭)으로 변환 -지리 공간 서비스를 시각화하고, 지리적 위치의 패턴과 추세를 시각화함. -응용분야 : 모빌리티 / 부동산 가격 예측 등 ▷지오코딩(Geocoding) 위젯 ▷Geocoding Geocoding 위젯은 등록된 고유명칭을 위도, 경도 값으로 바꿔준다. 이때 등록되지 않은 고유명칭이 나올 경우 위처럼 등록된 고유명칭으로 바꿔줘야 컴퓨터가 인식할 수 있다. ▷Choropleth Map 이 위젯은 통계 변수의 측정에 비례해 영역이 음영처리되는 주제 맵으로 표시한다. 즉 하나의 커다란 세계지도 역할이다. ▷Ge.. 2021. 9. 5. 완전 초짜 ORANGE 3 : 내가 분석한 실습예제 1. 모델 생성 위와 같이 로지스틱 회귀 / 서포트백터머신 / 결정트리 / 랜던포레스트 /k-Nearest Neighbor 의 5가지 지도학습 알고리즘을 활용하여 타이타닉 생존자 예측 모델을 테스트 했습니다. 2. 학습 / 예측 현재 5가지 모델 중 random forest 모델의 area under ROC curve / accuracy / f1 score / 정밀도 / 재현율이 가장 높습니다. Tree 모델보다 근소하게 높습니다. 따라서 타이타닉 생존자 예측에 가장 최적화된 모델은 random forest 모델일 것으로 예상됩니다. 3. 평가 random forest 와 Tree 모델을 비교해보면 TN/FN 영역에서는 랜덤 포레스트가, FP/TP 영역에서는 트리 모델이 좀 더 우위인 것을 확인할 수 있.. 2021. 9. 4. 완전 초짜 ORANGE 3 : 비지도학습 군집화 위젯 ▷Distances + Hierarchical Clustering (계층적 군집화) 계층적 군집화에 활용되는 Distances + Hierarchical Clustering 위젯이다. 두개를 묶어서 세트로 활용하는 경우가 많다. distances 위젯이 군집화 데이터 처리를 한다면, Hierarchical Clustering 위젯은 시각화하여 보여준다. 현재 크게 2가지 군집으로 나뉜것을 볼 수 있다. ▷Distances Matrix (계층적 군집화) Distances Matrix 는 데이터 세트 요소와 요소 사이의 거래 행렬을 만들어 표현한다. 이를 통해 각 요소간의 분포 정도를 수치 데이터로 확인할 수 있다. ▷k-Means + Silhouette Plot (분할적 군집화 + 중심기반 ) 마찮가지로 .. 2021. 9. 3. 완전 초짜 ORANGE 3 : 비지도학습(차원축소) ▷차원의 저주 -차원이 증가할수록 변수들의 밀집도가 넓어짐. 따라서 개별 차원 내 학습 데이터의 수가 적어짐. -예) kNN 모델에서 차원이 커질수록 주변의 데이터들이 멀어짐 -따라서 변수들을 상관관계가 높은 묶음으로 묶고 데이터 차원을 축소해 정제하는 과정이 필요함. -예) 고전, 프랑스어, 영어 >> 언어 능력 -PCA ( Principal Component Analysis ) : 주성분 분석 - 변수들의 선형 조합에 의해 대표적인 주성분을 만들어 차원을 줄이는 방식(고유분산이 필요 x) -t-SNE (t-Stochastic Neighbor Embedding) : t-분산 확률적 인접 임베딩 방법을 사용해 데이터를 표시하는 방식 / 확률 분포에 의해 2차원 공간에 mapping 함 -FA (Facto.. 2021. 9. 2. 완전 초짜 ORANGE 3 : 비지도학습 군집화 기초 ▷군집화(Clustering) -주어진 데이터를 유사한 데이터 그룹으로 나누는 것 군집화(Clustering) 분류(Classification) -정확히 지정된 속성 없이 유사 속성에 따라 나눠가는 것 -비지도학습(기준을 찾아가는 과정) -정해진 기준(label)에 따라 나누는 것 -지도학습(기준 미리 제시) -군집화 알고리즘의 종류 계층적 군집화 응집형(Bottom - up) -계층적 트리모형 / 덴드로그램 사용 -Hierarchical Clustering 위젯 분리형(top-down) 분할적 군집화 중심기반(Centeroid) -k-Means(k평균군집화) 위젯 밀도기반(Core point) -DBSCAN 위젯 -군집화의 사용 : 지도학습의 분류의 전단계에 활용하면 좋음 / 대량의 데이터를 요약하고 .. 2021. 9. 1. 이전 1 2 다음
