본문 바로가기

분류 전체보기163

[SAS] SAS를 이용해 데이터 중복제거하기 proc sql 사용 SAS데이터를 핸들링 하면서 가장 많이 하는 작업중 하나가 중복제거 작업입니다. 보통 가장 일반적으로 사용하는 것이 proc sort에서 nodupkey를 옵션으로 걸어서 사용을 많이합니다. 그렇다면 중복제거가 proc sort의 nodupkey만 있는 것이냐? 아니다! proc sql의 distinct문이 있다. 그런데 왜 두개가 따로 있는것인가? 뭐 따지고 보자면 중간의 정렬과정인 sorting작업이 sql에서는 해줄 필요가 없기때문에 sql문에 아마도 대용량 데이터에서는 더 빠른 처리 결과를 낼 것이다. 그럼 proc sql의 distinct를 이용하여 데이터의 중복제거를 하는 방법을 알아보자. 아래와 같이 중복이 있는 데이터 셋을 생성하였다. 위의 5개변수와 10개의 관측치를 가진 데이터를 이용하.. 2013. 11. 18.
[BIGDATA] bigdata(빅데이터)의 정의 3V, 4V, 5V에 대하여 Bigdata(빅데이터)라는 신조어가 생기면서 Bigdata를 어떻게 정의를 할 것이냐를 두고 말이 많다. 가장 처음 나온게 3V - volume(양), variety(다양성), velocity(속도) 라고 대부분 정의하였다. 하지만 시간이 흐르면서 추가되기 시작하였고... 지금은 5V까지 나와서 말이 많다. 간단하게 흐름을 알아보자. 위의 구조처럼 처음 3V를 시작으로 4V 그리고 지금 5V까지 Bigdata의 정의에 대해 말이 나오고 있다. 4V에서 Veracity(진실성, 정확성)를 추가한 경우와 Value(가치)를 추가한 두가지 경우가 대립하게 되었고, 결국에는 이 모든 것을 포함해 5V가 나오게 된 것이다. IBM에서는 Veracity를 추가해 4V로 bigdata(빅데이터)를 설명하고 있다. .. 2013. 11. 18.
[SAS] SAS를 이용해 두개의 데이터셋의 변수들이 일치하는 기준으로 merge해서 붙이기 SAS를 이용해 두개의 데이터셋의 변수들이 일치하는 기준으로 merge해서 붙이기 이게 무슨 말인가? 두개의 데이터셋이 있는데 변수들의 값이 일치하는 것끼리 붙여버리는 것입니다. 말로 설명하는데는 한계가 있으니 사진을 참고 하시기 바랍니다. ex1과 ex2라는 두개의 데이터 셋이 있습니다. 같은 변수도 있고 다른 변수들도 있는데~ key와 name이라는 변수들이 일치하는 기준으로 두개의 데이터셋을 하나로 합치는 것입니다. ex3을 보시면 제대로 붙었다는 것을 확인 할 수가 있습니다. sort와 merge는 자주 사용하는 것이니 잘 알아두시면 유용하게 쓰일거라 생각됩니다. 2013. 11. 15.
[My Story] SAS와 커뮤니케이션 스킬 SAS에 대한 글을 작성 할 때 마다 항상 고민이 됩니다. 주어진 데이터에 대해 설명을 하고 거기에 대한 코딩 해석과 정보에 대해 전달을 하고 싶지만 이 모든 것을 그림과 텍스트를 통해서 전달하려니 이만 저만 어려운 것이 아닙니다. 업무를 진행하면서도 통계와 SAS에 대해 잘 모르는 사람과 일을 할 시에 상대가 요구하는 것이 무엇인지 정확하게 파악하는 것이 중요한데 상대도 SAS의 구조에 대해 잘 모르니 이렇게? 저렇게?해서 해달라고 요청을 하지만 중간에 말 한마디 전달이 잘못되면 작업을 다시 해야되는 경우가 많습니다. 그만큼 커뮤니케이션 스킬이 중요한 것 같습니다. 지금은 이 블로그도 시작단계이기 때문에 제가 전달하고자 하는 정보가 100% 전달되지는 않을 것입니다. 앞으로 지속적으로 발전하여 SAS,.. 2013. 11. 15.
[SAS] SAS를 이용해 joinkey별로 code에 중복자료가 있을시 모두 출력하기 SAS를 이용해서 joinkey별로 code에 중복자료가 있을 경우 중복된 값 뿐만 아닌 중복값에 해당하는 joinkey데이터를 모두 불러오는 방법을 알아 보도록 하겠습니다. 위의 사진과 같이 데이터가 조인키별로 코드가 있는 데이터가 있습니다. 만약 조인키별 코드가 중복값이 있을 경우 그에 해당하는 조인키에 대한 관측치 모두를 출력해 보도록 하겠습니다. 위와 같이 sas 코딩 후 실행을 시키면 코드중복이 있는 조인키에 대한 모든 값들을 출력할 수가 있습니다. 조인키 3과 4는 코드가 중복된 것이 없기에 출력이 되지 않습니다. statsbigdata.com 김진휘 2013. 11. 15.
[SAS] SAS를 이용해 joinkey별 동일한 code의 갯수를 비교후 많은 것들만 출력 SAS를 이용해서 조인키별로 동일한 code값을 많이 가진 값만 데이터를 출력하는 방법이다. 바로 앞에 게시했던 데이터를 이용하며, 연결되어 코딩을 실시하였다. http://statsbigdata.com/13 코딩은 위의 게시글과 연결된다고 보면 된다. 위와 같은 데이터와 조건을 가지고 출력결과와 같이 데이터를 생성해 보고자 한다. 코딩을 해보자. 저번 게시글의 코딩에서 연결된 것이다. 이번 게시글에 관련된 코딩은 주석으로 표시한 두번째 데이터셋 관련 코드이다. 당연히 실행하기 위해서는 연결된 것이니 코딩은 전체적으로 다 입력해야하겠죠?? 위의 사진과 같이 조인키별 코드가 많은 것에 대한 각각의 값들을 출력해 보았다. statsbigdata.com 김진휘 2013. 11. 15.
[SAS] SAS를 이용해 조인키별로 그룹에 대해 값과 합계 구하기 SAS를 이용해서 조인키(joinkey)별로 코드의 갯수가 많은 것에 대한 값의 합계를 구해보자. 위와 같은 데이터가 주어진다면 오른쪽 출력결과와 같이 joinkey별로 동일한 code의 갯수를 비교후 많은 code에 대한 값(amt)의 합계를 출력해 보는 것이다. 위와 같이 코딩하면 스크린샷처럼 조인키별 코드값이 큰 것들에 대한 amt의 합계를 출력할 수 있다. statsbigdata.com 김진휘 2013. 11. 15.
[SAS] SAS를 이용해 두개의 데이터 비교후 큰 값과 그에 따르는 값들을 함께 출력하기 SAS를 이용해 두개의 데이터 비교후 큰 값과 그에 따르는 값들을 함께 출력하기 값을 가지는 두개의 변수를 비교해서 큰값과 그에 따르는 다른 변수들을 함께 출력하는 방법입니다. 위와 같이 가격을 비교해서 높은 값을 가지는 가격에 대한 품명과 종류를 함께 출력해봅시다. c변수와 c1을 비교하여 높은 값을 가지는 것을 선택하고 그에 따른 a,b 또는 a1,b1을 가격과 함께 출력하는 것입니다. 두 값 비교해서 큰 값 또는 작은 값을 출력하고 싶을 때 응용하여 사용할 수 있습니다. 김진휘 2013. 11. 14.
[SAS] SAS 그룹별로 가장 큰 값의 데이터만 출력하는 방법 SAS를 이용하여 그룹별로 가장 큰 값을 가진 데이터만 출력하는 방법입니다. 예제데이터로 해본다면 가게별로 가격이 가장 큰값을 가진 데이터만 출력해 보겠습니다. 이런 예제 및 코딩을 응용해 실무에서 그룹별 가장 큰 데이터를 추출할 때 요긴하게 사용될 것입니다. 데이터는 위와 같은 구조이며 결과는 위와 같이 각 그룹(가게)별 값(가격)이 가장 큰 데이터만 출력합니다. 위와 같이 따라하시면 결과가 나옵니다. 실무에서 그룹별 큰값을 추출하고 싶을때 응용해서 요긴하게 사용하시기 바랍니다. 김진휘 2013. 11. 14.
[SAS] SAS를 이용해 중복된 데이터만 추출하는 방법 SAS를 이용해 중복된 데이터만 추출하는 방법을 알아봅시다. 스샷 한장으로 이해할 수 있기를... hahahahaha 프로그램 코딩 data hwi; input j h; cards; 1 1 1 2 2 1 3 3 2 4 2 8 4 4 7 8 ; run; proc sort data=hwi; by j; run; data b; set hwi; by j; if first.j=1 then num=0; num+1; run; proc sort data=b; by j; run; proc means data=b noprint; by j; var num; output out=c(drop=_type_ _freq_) sum=ss; run; proc sort data=c; by j; run; proc sort data=hwi; .. 2013. 11. 13.
[SAS] substr 함수 [코딩] data a; input k$ j h$; cards; ss30 1 d66 jk30 1 d1 ok2 1 dd9 ss27 2 d67 ss 1 d3 ss 1 dd5 s 3 d67 ; run; data b; set a; if substr(k,1,1)='s' & substr(h,1,3) in('d66', 'd67'); run; [해석] a라는 데이터가 있다. a데이터의 k변수 관측치가 s로 시작되는 것중에 h변수 관측치가 d66, d67로 시작되는 것만 추출하여라. 함수 : substr 목적 : 부분 문자열을 추출하거나 문자 값을 대체 할 수 있다. if substr(k,1,1)='s' & substr(h,1,3) in('d66', 'd67'); - k변수의 1번째자리부터 1번째자리가 s인 값을 추출하며.. 2013. 10. 14.
[SAS] proc compare 데이터셋 비교하기 이렇게 a, b 두개의 데이터셋이 있다. 예제는 관측치가 작아서 눈으로 다르다는 것이 확인이 되지만 실무에서 쓰는 대용량의 데이터는 이렇게 확인하는 것이 어렵다. 오늘 알아볼 것은 두개의 데이터셋에 대한 차이를 proc compare을 사용해 확인해보는 것이다. proc compare →서로 같은지 다른지 확인이 안되는 두개의 데이터셋에 대한 차이를 비교해 볼 수 있다. 데이터셋 a와 b의 관측치의 수가 같을 경우 : 서로 다른 변수만 찾아 출력, 두 값을 비교해준다. 데이터셋 a의 관측치가 b의 관측치 보다 많은 경우 (a 관측치 수 > b 관측치 수) : 다른 관측치의 수를 출력. a와 b의 관측치의 수가 동일한 영역까지만 비교 데이터셋 a의 관측치가 b의 관측치 보다 적은 경우 (a 관측치 수 < .. 2013. 10. 14.

티스토리툴바