| 데이터 콘텐츠 |

데이터 활용을 위한 실전 가이드와 다양한 지식 콘텐츠를 전달합니다.

데이터를 유사한 속성으로 묶어준다고요? 📊

8bc7fd0065607.jpg

<노코드 머신러닝>이 궁금하다면, 여기 클릭📊



오늘도 어김없이 돌아온 <노코드 머신러닝> 3️⃣번째 시간! 어려운 프로그래밍 대신 평소에 자주 사용하는 엑셀로 머신러닝을 해볼 텐데요! 오늘은 거대한 양의 데이터들을 유사한 속성으로 묶어주는 K-평균 클러스터링에 대해 알아보도록 하죠! 엑셀로 파헤치는 K-평균 클러스터링의 작동원리, 궁금하지 않으신가요?


  

이 뉴스레터를 보면 좋은 사람은?

👶🏻 : 러닝머신? 머신러닝? 머신러닝을 처음 들어보는 왕왕왕초보!

👲🏻 : 실무에서 사용하는 엑셀로 노코드 머신러닝 하고 싶으신 분!

👸🏻 : ‘나도 어디서 K-평균 클러스터링 해봤어~’ 라고 자랑하고 싶으신 분!

-에이블런 리사 드림💌





💬 클러스터링이 뭐야?

#군집화 #계층적_클러스터링 #분할적_클러스터링 #유유상종


우리가 관심을 가지는 ‘K-평균 클러스터링’을 알아보기 전, ‘클러스터링’(Clustering)에 대한 이해가 필요한데요. 여러분은 클러스터링의 의미를 알고 계시나요? 🤷🏻‍♀️🤷🏻‍♂️ 클러스터링이란 ‘무리를 이룬다’는 뜻으로, 서로 유사한 속성을 갖는 데이터를 같은 군집으로 묶어주는 작업을 의미합니다. 즉, 서로 비슷한 데이터들끼리 그룹을 만들어주는 것이라고 이해하면 쉽죠! 이러한 클러스터링은 2가지 종류로 구분되는데요. 바로 계층적 클러스터링(Hierarchical Clustering)과 분할적 클러스터링(Partitional Clustering)입니다.
13cb74ad9e6db.png


먼저 계층적 클러스터링부터 살펴보도록 해요. 계층적 클러스터링이란 유사한 데이터들을 차례로 묶어 계층적으로 결합하는 방법입니다. 여기서 유사하다는 의미는 ‘데이터가 가까이 위치한다’는 것으로 위 사진을 통해 자세히 알 수 있는데요. (가장 먼 데이터나 데이터들의 평균 등을 이용할 수도 있지만, 이번에는 가장 가까운 데이터를 연결하는 최단 연결 방법을 사용하도록 할게요) 먼저, 각 데이터인 a, b, c, d, e가 적힌 네모 상자를 하나의 최초 군집으로 생각합니다. 그 후, 가까이 위치한 순서에 따라 한 번에 2개씩의 데이터를 묶어 하나의 군집을 만들어주는 것이죠. 이때, 세로 선의 길이를 클러스터간의 거리라고 생각하면 되는데요. 즉, 제일 가까이 위치한 a와 b가 하나의 군집이 된 후, 그 다음으로 가까이 위치한 c와 d가 하나의 군집이 됩니다. 그 후 c와 d 군집에 가까이 위치한 e가 결합하여 c, d, e 군집이 만들어지고 최종적으로는 군집 a, b와 군집 c, d, e가 합쳐진 하나의 군집이 되는 것이죠. 이러한 계층적 클러스터링은 사전에 군집의 개수를 지정하지 않는다는 특징이 있어요.


55456b77232e6.png


이번에는 분할적 클러스터링인데요. 분할적 클러스터링이란 각 데이터들을 사전에 정해둔 군집 중 하나의 군집으로 분할해주는 방법입니다. 즉, 계층적 클러스터링과는 다르게 사전에 군집의 개수를 지정해준다는 특징이 있어요. 클러스터링을 하기 전 군집수를 K개로 지정한 후, 유사도가 높은 데이터끼리 묶어 K개의 군집에 분할해주는 것이죠. 위 사진에서도 알 수 있듯이 우리가 원하는 군집의 수인 K를 3으로 설정한 후, 유사도가 높은 데이터들을 묶은 결과입니다. (자세한 방법은 아래에서 설명하도록 할게요) 여기서 잠깐! 🙋🏻‍♀️🙋🏻‍♂️ 우리가 관심을 가지는 K-평균 클러스터링’은 대표적인 분할적 클러스터링에 속한답니다.

그렇다면, 이러한 클러스터링을 사용하는 이유는 무엇일까요? 바로 ‘유유상종’의 결과를 얻을 수 있기 때문이죠. ‘유유상종’은 같은 성격을 가진 무리끼리 모이고 사귄다는 의미인데요. 거대한 양의 데이터들을 유사한 속성으로 묶어 숨겨진 유의미한 구조를 파악할 수 있다는 장점이 있습니다! 즉, 지금까지 발행한 뉴스레터를 클러스터링한다면 데이터 교육 홍보와 데이터 지식 콘텐츠 등으로 묶을 수 있는 것이죠. 또한, 이커머스 업계에서는 사용자들의 리뷰 작성이나 이벤트 참여에 관한 데이터를 활용하여 군집별 고객의 정보를 파악해 각 군집에 알맞은 사용 목적 및 구매 요인을 파악했습니다. 뿐만 아니라 유명 포털 사이트는 K-평균 클러스터링을 활용하여 유사한 뉴스를 군집으로 묶어주었고, 실시간으로 양산되는 뉴스로 인한 불편을 해소했어요. 




💬 클러스터링 VS 분류

#사전정보존재의유무 #비지도학습 #지도학습


지금까지 클러스터링에 대하여 열심히 알아보았어요. 클러스터링은 서로 유사한 속성을 갖는 데이터를 같은 군집으로 묶어주는 작업이었죠! 그런데, 생각해보니 조금 이상한 점이 있어요.🤯 ‘분류’ 역시 종류에 따라서 데이터를 나눠주는 작업인데요. 그렇다면, 클러스터링과 분류는 어떠한 차이점이 있는걸까요?



57126f47eab14.png


클러스터링과 분류를 구분하는 기준은 바로 ‘사전정보의 존재 유무’인데요! 클러스터링이란 사전정보가 존재하지 않는 비지도 학습입니다. 즉, 왼쪽 사진과 같이 모두 색이 동일한(정답이 없는) 데이터를 비슷한 특징으로 군집화하여 새로운 데이터에 대한 결과를 예측하는 것이죠. 이와 다르게 분류란 사전정보가 존재하는 지도학습입니다. 즉, 오른쪽 사진과 같이 색으로 구분되는(정답이 있는) 데이터를 활용해 새롭게 들어오는 데이터에 답할 수 있도록 학습을 시키는 것이죠. 




💬 K-평균 클러스터링이 뭐야?

#K_군집의수 #작동원리_파헤치기


그렇다면 이제 본격적으로 K-평균 클러스터링을 알아보도록 해요. 여기서 의미하는 K-평균은 K-팝, K-컬처와 같이 Korea를 의미하는 것일까요? 정답은 아닙니다! 🙅🏻‍♀️🙅🏻‍♂️ K란 내가 설정하고 싶은 군집의 개수를 의미하는데요. 따라서 K-평균 클러스터링이란 각 데이터와 군집 내의 중심점 사이의 평균 거리를 계산하여 가장 가까운 K개의 군집으로 배정하는 방법인 것이죠! 조금 어려우시다고요?🙄 K-평균 클러스터링의 작동원리를 자세히 살펴보며, 이해해보도록 해요. 


3efd9c15f844a.png

① 먼저 데이터 a, b, c, d, e를 K-평균 클러스터링으로 군집화하려고 합니다.
c806410856d65.png

② 원하는 군집의 개수(K)를 설정한 후, 초기의 중심점을 K개만큼 임의로 지정해주면 됩니다. 이번 예시에서는 군집의 수인 K를 2개로 지정한 후, 2개의 중심점을 임의로 설정해주었는데요. 바로 진한 보라색 점인 중심1, 중심2가 되는 것이죠.


61c03b1d35125.png

③ 설정한 중심점을 기준으로 가장 가까운 데이터를 선택하여 군집으로 만들어주면 됩니다. 데이터 a와 b, c는 중심1과 가깝게 나타났으며, 데이터 d와 e는 중심2와 가깝게 나타났죠. 따라서 a,b,c가 하나의 군집이 되며 d,e가 또다른 군집으로 설정되는데요.

 

e87f1ce3675e7.png

④ 그 다음에는 중심점이 이동을 합니다. 이때의 중심점은 각 군집의 데이터들의 평균값으로 계산이 됩니다. 따라서 a,b,c가 하나의 군집이기 때문에 a,b,c 사이로 중심1이 이동하며 d,e가 하나의 군집이기 때문에 d와 e 사이로 중심2가 이동하는 것이죠.


1f51bab4f1987.png

 ⑤ 앞선 ③번에서 했던 과정과 동일하게 설정한 중심점을 기준으로 가장 가까운 데이터를 선택하여 군집으로 만들어주면 됩니다. 이때 데이터 a와 b는 중심1과 가깝게 나탔으며, 데이터 c,d,e는 중심 2와 가깝게 나타났죠. 


e6610484ba986.png

⑥ 따라서 이번에는 데이터 a와 b가 하나의 군집이 되며, 데이터 c,d,e가 하나의 군집이 됩니다. 새롭게 형성된 군집을 바탕으로 중심점을 이동한 결과, a와 b 사이로 중심1이 이동하며 c,d,e 사이로 중심2가 이동하게 됩니다. 이때, 각 군집이 잘 설정되어 중심들이 변화가 없는 것을 알 수 있는데요. 따라서 최종 군집은 a와 b 그리고 c,d,e가 되는 것을 확인할 수 있죠!
 


이러한 클러스터링은 같은 군집에 속한 데이터들은 유사하고, 다른 군집에 속한 데이터들은 서로 이질적일수록 더욱 좋겠죠? K-평균 클러스터링 미션 클리어 😎

b46febf6bfb99.png

How K-mean clustering groups data-: A Simple Example
Shokoufeh Mirzaei 


지금까지 자세한 작동원리로 알아본 K-평균 클러스터링, 엑셀로 해보고 싶으시다고요? 그럼 위에 있는 유튜브 사진을 클릭해 주세요! 🔼🔼🔼 



이번주 에이블레터 어떠셨나요?
좋았어요😁    아쉬웠어요😕

지난 <노코드 데이터분석> 다시 보기
유튜브에 베이즈 정리가 적용된다고?😲
베이즈 정리가 순진하다고요?🥴


c11515b710a6b.jpg

0ff0b1b773878.jpg

지금 이 콘텐츠 공유하기👇          


Contact Us

비전문가를 위한 데이터 활용교육, 기업맞춤형 교육, 사업문의, 인터뷰,

채용, 강사 등 어떠한 문의라도 환영합니다. 연락주세요!

--
에이블런(이하 ‘회사’라 한다)는 개인정보 보호법 제30조에 따라 정보 주체의 개인정보를 보호하고 이와 관련한 고충을 신속하고 원활하게 처리할 수 있도록 하기 위하여 다음과 같이 개인정보 처리지침을 수립, 공개합니다.

제1조 (개인정보의 처리목적)
회사는 다음의 목적을 위하여 개인정보를 처리합니다. 처리하고 있는 개인정보는 다음의 목적 이외의 용도로는 이용되지 않으며, 이용 목적이 변경되는 경우에는 개인정보보호법 제18조에 따라 별도의 동의를 받는 등 필요한 조치를 이행할 예정입니다.

1. 홈페이지 회원 가입 및 관리
회원 가입 의사 확인, 회원제 서비스 제공에 따른 본인 식별․인증, 회원자격 유지․관리, 제한적 본인확인제 시행에 따른 본인확인, 서비스 부정 이용 방지, 만 14세 미만 아동의 개인정보처리 시 법정대리인의 동의 여부 확인, 각종 고지․통지, 고충 처리 등을 목적으로 개인정보를 처리합니다.

2. 재화 또는 서비스 제공
물품 배송, 서비스 제공, 계약서 및 청구서 발송, 콘텐츠 제공, 맞춤서비스 제공, 본인인증, 연령인증, 요금 결제 및 정산, 채권추심 등을 목적으로 개인정보를 처리합니다.

3. 고충 처리
민원인의 신원 확인, 민원사항 확인, 사실조사를 위한 연락․통지, 처리 결과 통보 등의 목적으로 개인정보를 처리합니다.

4. 마케팅 및 광고 목적의 정보 제공
①개인정보를 제공 받는 자 : 에이블런 ②제공 받는 자의 개인정보 이용 목적 : 데이터 정보 관련 교육 및 세미나, 프로모션, 뉴스레터, 취창업처 중개 등을 목적으로 한 광고 및 마케팅 정보 제공에 활용 ③제공할 개인정보 항목 : 성명, 연락처, 이메일 주소, 생년월일, 성별, 최종학력, 재직자여부, 재직회사정보 등 ④제공받는 자의 개인정보 보유 및 이용기간 : 사용자 요청시 즉시 파기

제2조 (개인정보의 처리 및 보유기간)
① 회사는 법령에 따른 개인정보 보유, 이용 기간 또는 정보주체로부터 개인정보를 수집 시에 동의 받은 개인정보 보유, 이용 기간 내에서 개인정보를 처리, 보유합니다.
② 각각의 개인정보 처리 및 보유 기간은 다음과 같습니다.

1. 홈페이지 회원 가입 및 관리 : 사업자/단체 홈페이지 탈퇴 시까지
다만, 다음의 사유에 해당하는 경우에는 해당 사유 종료 시까지
1) 관계 법령 위반에 따른 수사, 조사 등이 진행 중인 경우에는 해당 수사, 조사 종료 시까지
2) 홈페이지 이용에 따른 채권 및 채무관계 잔존 시에는 해당 채권, 채무 관계 정산 시까지


2. 재화 또는 서비스 제공 : 재화․서비스 공급완료 및 요금결제․정산 완료 시까지
다만, 다음의 사유에 해당하는 경우에는 해당 기간 종료 시까지
1) 「전자상거래 등에서의 소비자 보호에 관한 법률」에 따른 표시․광고, 계약내용 및 이행 등 거래에 관한 기록
- 표시․광고에 관한 기록 : 6월
- 계약 또는 청약 철회, 대금결제, 재화 등의 공급기록 : 5년
- 소비자 불만 또는 분쟁 처리에 관한 기록 : 3년
2) 「통신비밀보호법」 제41조에 따른 통신사실확인자료 보관
- 가입자 전기통신일시, 개시․종료 시간, 상대방 가입자 번호, 사용도수, 발신기지국 위치추적자료 : 1년
- 컴퓨터 통신, 인터넷 로그 기록자료, 접속지 추적자료 : 3개월

제3조(이용자 및 법정대리인의 권리와 그 행사 방법)

① 정보주체는 회사에 대해 언제든지 다음 각 호의 개인정보 보호 관련 권리를 행사할 수 있습니다.
1. 개인정보 열람 요구
2. 오류 등이 있을 경우 정정 요구
3. 삭제요구
4. 처리정지 요구
② 제1항에 따른 권리 행사는 회사에 대해 전자우편을 통하여 하실 수 있으며 회사는 이에 대해 지체없이 조치하겠습니다.
③ 정보주체가 개인정보의 오류 등에 대한 정정 또는 삭제를 요구한 경우에는 회사는 정정 또는 삭제를 완료할 때까지 당해 개인정보를 이용하거나 제공하지 않습니다.
④ 제1항에 따른 권리 행사는 정보주체의 법정대리인이나 위임을 받은 자 등 대리인을 통하여 하실 수 있습니다. 이 경우 개인정보 보호법 시행규칙 별지 제11호 서식에 따른 위임장을 제출하셔야 합니다.
⑤ 정보주체는 개인정보 보호법 등 관계 법령을 위반하여 회사가 처리하고 있는 정보주체 본인이나 타인의 개인정보 및 사생활을 침해하여서는 아니 됩니다.


제4조(처리하는 개인정보 항목)
회사는 다음의 개인정보 항목을 처리하고 있습니다.

1. 홈페이지 회원 가입 및 관리
필수항목 : 성명, 회사명, 직함, 생년월일, 아이디, 비밀번호, 주소, 전화번호, 성별, 이메일주소, 아이핀번호 등
선택항목 : 관심분야 등

2. 재화 또는 서비스 제공
필수항목 : 성명, 회사명, 직함, 생년월일, 아이디, 비밀번호, 주소, 전화번호, 이메일주소, 아이핀번호, 신용카드번호, 은행계좌정보 등 결제정보
선택항목 : 관심분야, 과거구매내역 등

3. 인터넷 서비스 이용과정에서 아래 개인정보 항목이 자동으로 생성되어 수집될 수 있습니다.
IP주소, 쿠키, MAC주소, 서비스 이용기록, 방문기록, 불량 이용기록 등

제5조(개인정보의 파기)
① 회사는 개인정보 보유 기간의 경과, 처리목적 달성 등 개인정보가 불필요하게 되었을 때에는 지체없이 해당 개인정보를 파기합니다.
② 정보주체로부터 동의받은 개인정보 보유 기간이 경과하거나 처리목적이 달성되었음에도 불구하고 다른 법령에 따라 개인정보를 계속 보존하여야 하는 경우에는, 해당 개인정보를 별도의 데이터베이스(DB)로 옮기거나 보관장소를 달리하여 보존합니다.
③ 개인정보 파기의 절차 및 방법은 다음과 같습니다.
1. 파기 절차
회사는 파기 사유가 발생한 개인정보를 선정하고, 회사의 개인정보 보호책임자의 승인을 받아 개인정보를 파기합니다.
2. 파기 방법
회사는 전자적 파일 형태로 기록․저장된 개인정보는 기록을 재생할 수 없도록 로우레밸포멧(Low Level Format) 등의 방법을 이용하여 파기하며, 종이 문서에 기록․저장된 개인정보는 분쇄기로 분쇄하거나 소각하여 파기합니다.

제6조(개인정보의 안전성 확보조치)
회사는 개인정보의 안전성 확보를 위해 다음과 같은 조치를 하고 있습니다.
1. 관리적 조치 : 내부관리계획 수립 및 시행, 정기적 직원 교육 등
2. 기술적 조치 : 개인정보처리시스템 등의 접근 권한 관리, 접근통제시스템 설치, 고유 식별정보
등의 암호화, 보안프로그램 설치
3. 물리적 조치 : 전산실, 자료보관실 등의 접근통제

제7조(개인정보 자동 수집 장치의 설치∙운영 및 거부에 관한 사항)
① 회사는 이용자에게 개별적인 맞춤 서비스를 제공하기 위해 이용정보를 저장하고 수시로 불러오는 ‘쿠키(cookie)’를 사용합니다.
② 쿠키는 웹사이트를 운영하는데 이용되는 서버(http)가 이용자의 컴퓨터 브라우저에 보내는 소량의 정보이며 이용자들의 컴퓨터 내의 하드디스크에 저장되기도 합니다.
가. 쿠키의 사용 목적: 이용자가 방문한 각 서비스와 웹 사이트들에 대한 방문 및 이용형태, 인기 검색어, 보안접속 여부, 등을 파악하여 이용자에게 최적화된 정보 제공을 위해 사용됩니다.
나. 쿠키의 설치∙운영 및 거부 : 웹브라우저 상단의 도구>인터넷 옵션>개인정보 메뉴의 옵션 설정을 통해 쿠키 저장을 거부 할 수 있습니다.
다. 쿠키 저장을 거부할 경우 맞춤형 서비스 이용에 어려움이 발생할 수 있습니다.


제8조(개인정보 보호책임자)
① 회사는 개인정보 처리에 관한 업무를 총괄해서 책임지고, 개인정보 처리와 관련한 정보주체의 불만 처리 및 피해구제 등을 위하여 아래와 같이 개인정보 보호책임자를 지정하고 있습니다.

▶ 개인정보 보호책임자
성명 : 박진아
직책 : 대표
연락처 : 02-589-2020, contactus@ablearn.kr, 0504-496-1031

② 정보주체께서는 회사의 서비스(또는 사업)을 이용하시면서 발생한 모든 개인정보 보호 관련 문의, 불만 처리, 피해구제 등에 관한 사항을 개인정보 보호책임자 및 담당부서로 문의하실 수 있습니다. 회사는 정보주체의 문의에 대해 지체없이 답변 및 처리해드릴 것입니다.


제9조(개인정보 처리방침 시행 및 변경)
이 개인정보 처리방침은 2021. 4. 19부터 적용됩니다.

다른 글들도 확인해보세요.