groupby() 함수를 이용해 데이터프레임을 범주별로 묶어 통계내고 범주별로 출력하는 방법을 소개하겠습니다. 엑셀에서 흔히 쓰는 필터링 역할을 groupby()를 통해 할 수 있는데 한 눈에 볼 수 없다는 단점은 있지만 groupby로 손쉽게 묶어낼 수 있고 빠르게 데이터 처리를 할 수 있기 때문에 유용하게 사용됩니다. 예제 자료는 랜덤으로 (9,4)을 만들어서 넣었습니다. 인덱스는 시간데이터로 하였습니다. 랜덤으로 만들고 시간데이터를 만드는 방법은 이미 포스팅을 해놨으니 관련 포스팅을 참고해주시기 바랍니다. df 9개의 행으로 이루어진 데이터프레임입니다. df를 3개씩으로 범주를 넣어 구분하겠습니다. df['Quarter'] = ['Q1','Q1','Q1','Q2','Q2','Q2','Q3','Q3'..
판다스로 시간데이터를 만들어 보겠습니다. 어디서 데이터를 가져오는 게 아니고 직접 만들어서 하는 방법입니다. 타임시리즈 데이터로써 데이터를 다루고 싶을 때 쓰면 유용한데 date_range() 함수를 쓰면 시간데이터를 만들 수 있습니다. dates = pd.date_range('2020-1-1',periods=6,freq='M') 이렇게 간단히 만들 수 있습니다. 타입은 datetime64로 만들어집니다. 파라미터 date_range()의 파라미터는 다음과 같습니다. 파라미터 포맷 기능 start string/datetime 데이터의 시작시간을 지정 end string/datetime 데이터의 끝시간을 지정 periods integer/None 기간의 수를 지정 freq stgring/Dateoffset..
파이썬으로 만든 데이터프레임을 엑셀 저장하고 불러오는 방법을 소개하겠습니다. 한 시트에 저장하는 방법이 있고 여러 시트에 저장하는 방법이 있습니다. 사실상 여러 시트에 저장하는 방식으로 모든 것을 할 수 있지만 코딩은 최대한 적게 쓰고 많은 일을 하는 것이 좋으므로 너무 간단해서 허무할 수도 있지만 한 시트에 저장하는 방법을 따로 떼서 알려드리겠습니다. 한 시트에 엑셀 저장하기 df = pd.DataFrame({'alpha' : ['a','b','c','d','e'],'beta':['A','B','C','D','E']}) 다음과 같은 데이터 프레임을 엑셀로 저장하는 건 간단합니다. to_excel() 메쏘드를 사용하면 됩니다. df.to_excel('경로'/'파일이름.xlsx') 엑셀로 저장이 되었습니다..
데이터프레임에서 특정조건의 데이터를 필터링하는 2가지 방법을 소개하겠습니다. isin()을 이용하는 방법 비교 조건문을 이용하는 방법 다음과 같이 소문자, 대문자로 이루어진 데이터프레임을 만들었습니다. df = pd.DataFrame({'alpha' : ['a','b','c','d','e'],'beta':['A','B','C','D','E']}) df isin()을 이용하는 방법 isin()을 하면 해당 원소가 있는지를 판단해줍니다. 즉, 해당 값이 있으면 True, 없으면 False를 반환합니다. df['alpha'].isin(['a','b']) 이것을 이용하면 필터링이 가능합니다. df[df['alpha'].isin(['a','b'])] and(&),or(|) 도 가능합니다. df[df['alpha'..
데이터프레임을 돌 때를 순회한다고 하는데 데이터프레임을 어떤 방식으로 순회할 수 있는지 살펴보겠습니다. 다양한 방법으로 순회처리를 할 수 있습니다. 이번 포스팅에서는 4가지 방법을 설명하겠습니다. 인덱스를 사용하는 방법 itertuples iterrows iteritems 4가지 모두 간단합니다. 이런게 있는지 몰라서 못 쓰는 것 뿐이지 한번 보면 바로 쓸 수 있습니다. 이번에 준비한 데이터는 sp500의 종목,종목코드,섹터,업종 데이터입니다. 이전 포스팅에서 여러번 썼지만 뭘 보여줄 때 이만큼 유용한 데이터 파일은 없는 것 같습니다. df Symbol을 인덱스로 두었습니다. 인덱스를 사용하는 방법 가장 많이 사용하는 방법이 아닌가 싶습니다. 예로 바로 보는게 빠르겠죠? 인덱스를 활용해서 종목명을 가져오..
DataFrame을 딕셔너리로 변환하는 방법에 대해 알아보겠습니다. to_dict 을 이용해 할 수 있는데 경우의 수가 좀 있어서 다양하게 딕셔너리를 만들 수 있습니다. 매개변수도 존재하는데 list, records, series, index,split, dict을 괄호에 넣으면 그에 맞게 변환을 해줍니다. column 기준으로 딕셔너리 만들기 {column : {index: value}} column 기준으로 리스트로 반환 {column : list} column 기준으로 series로 반환 {column : series} 각 row를 딕셔너리로 해서 리스트로 반환 [{column1 : value1, column2 : value2}] 각 row를 딕셔너리로 해서 딕셔너리로 반환 {index : {col..
주식 차트를 분석하기 위해 이동평균이 필요할 때가 있습니다. 그렇지만 보통 주식데이터는 주가와 거래량만을 가져오기 때문에 이동평균선을 직접 구해야 합니다. 만약 5일 이동평균선을 구하려고 한다면 5일씩 잘라서 계산을 해야하는데 엑셀로 직접할 수도 있지만 번거롭습니다. Pandas 를 이용하면 이동평균선을 쉽게 구할 수 있습니다. Rolling()이라는 메쏘드를 쓰면 되는데요. Rolling()을 이용하여 10일 이동평균선을 구해보도록 하겠습니다. 삼성전자 가격 데이터입니다. 이것을 df로 하고 구해보겠습니다. 먼저 10일 이동평균선을 구하기 위해서 10일치의 종가의 평균을 구해야 하니 10개를 잡고 그것의 평균을 구합니다. 10개를 잡기 위해서 rolling을 씁니다. window 파라미터에 내가 잡을 ..
일반적으로 수익률을 구하면 다음과 같이 구합니다. (매도가격-매수가격)/매수가격 이렇게 구하는 수익률을 판다스를 이용하면 편하게 구할 수 있습니다. 바로 pct_change() 메쏘드를 쓰면 되는데요. 예를 위해 삼성전자의 종가 데이터를 가져와서 해보겠습니다. 일별 수익률 df['Daily_rtn'] = df['Close'].pct_change() Daily_rtn 으로 새로운 column 을 만들었습니다. Daily_rtn에 일별 수익률이 나오는 걸 볼 수 있습니다. N일 수익률 특정 N일에 대한 수익률을 구하고 싶다면 pct_change(periods=N)을 입력하면 됩니다. N = 3으로 놓겠습니다. df['N=3'] = df['Close'].pct_change(periods=3) N=3 이므로, ..
판다스를 사용하다보면 내가 원하는만큼만 잘라서 다시 DataFrame을 만들어서 데이터 분석을 하고 싶을 때가 있습니다. 저는 특히 시간데이터를 많이 다루다 보니 인덱스 슬라이싱을 해야하는 경우가 많이 생기는 것 같습니다. 그럴 때마다 항상 bool을 이용한 방식으로 인덱스 나누기를 했는데 인덱스가 여러개거나 논리가 많아지면 괄호 하나 따라서 해석이 잘못 되기도 하고 헷갈리기도 합니다. 그러면 자연스럽게 오류가 발생하고 오류를 해결하느라 애를 많이 먹고 시간은 시간대로 흘러갔습니다. 이런 불편함을 감수하던 차에 우연히 새로운 방법을 알게 되서 까먹으면 다시 보려고 포스팅으로 남깁니다. Bool 로 인덱스 나누기 저의 예전 방법은 and, or을 이용한 방식이었는데 CJ제일제당의 과거 주가 데이터로 보여드..
두개 이상의 DataFrame을 합치는 방법에 대해 알아보겠습니다. 판다스에서는 합치는 메소드로 merge(), join(), concat() 등이 있는데 이번 포스팅에서는 merge()에 대해서만 살펴보겠습니다. DataFrame 두개를 먼저 임의로 만들겠습니다. import pandas as pd data1 = {'No':[1001,1002,1003,1005,1006], 'Name':['David','Terry','Tim','John','Max'], 'Department':['Management','Engineer','Engineer','Secretary','Delivery'], 'Entered Date':['2010-01-03','2000-05-20','2007-07-07','2019-03-13',..
Pandas 내의 시간 데이터를 다루는 방법에 대해 알아보겠습니다. 시간데이터(datatime64) 타입으로 변경하기 시간데이터로 바꿔야만 되는 것들이 있습니다. 리샘플링을 할 경우에 시간데이터가 반드시 필요합니다. 그런데 보통 데이터를 받아오면 시간을 나타나는 데이터가 object로 표현되어 있습니다. 이럴 때 시간데이터로 타입으로 변경할 수 있습니다. 먼저 데이터를 불러오겠습니다. import pandas as pd df 다음과 같은 데이터를 가져와 보겠습니다. df.dtypes 타입을 보면 object 입니다. 이 object를 시간데이터인 datatime64 타입으로 변경하겠습니다. df['Data'] = pd.to_datetime(df['Data'],format='%Y-%m-%d %H:%M:%S..
시간 데이터를 DataFrame으로 처리할 때 날짜 단위를 바꿔가면서 분석하고 싶을 때가 있습니다. 다행이도 판다스를 이용하면 주기를 연(Yearly), 월(Monthly), 주(Weekly), 일(Daily) 단위로 축약해서 할 수가 있습니다. 바로 resample() 함수를 사용해서 시간 간격을 재조정합니다. resample() 함수를 사용해 데이터를 가공하는 과정을 리샘플링(Resampling)이라 하는데요. 크게 두가지 부류로 나뉩니다. 업 샘플링 : 분 단위, 초 단위로 샘플양을 증가시키는 리샘플링 다운 샘플링 : 몇 일, 몇 달 단위로 샘플양을 감소시키는 리샘플링 샘플양을 증가시키는 방향으로 가면 업 샘플링이고 감소시키면 다운 샘플링입니다. 보통 일 단위 자료를 많이 쓰기 때문에 분 단위로 간..
데이터를 수집하면 전산오류나 사람의 실수로 결측치가 발생하게 됩니다. 특히 외부에서 데이터를 가져오면 더욱 그럴 수 밖에 없는데 결측치를 방치하고 알고리즘에 데이터셋을 넣게 되면 아무리 좋은 알고리즘이라도 성능이 떨어지고 엉뚱한 결론에 도달할 수도 있습니다. 돈과 관련된 것이라면 아주 치명적인 결과를 만들수도 있습니다. 따라서 본격적인 분석을 하기 전에 결측치를 먼저 처리하는 과정이 필요합니다. 결측치를 처리하는 방법을 몇 가지 소개하겠습니다. 먼저 간단한 DataFrame을 만들겠습니다. import numpy as np import pandas as pd r1 = [1,np.nan,2,3] r2 = [4,5,np.nan,6] r3 = [7,8,9,np.inf] df = pd.DataFrame({'r1..
다들 그러는지 잘 모르겠지만 저는.. 단순하게 pandas.read_excel으로 xlsx를 불러오면 다음과 같은 오류가 뜹니다. import pandas as pd pd.read_excel('./area.xlsx') 그래서 방법을 찾다 알게 된 것이 engine을 바꾸면 된다해서 한 번 바꿔봤습니다. xlrd 가 업데이트 되면서 xlsx 지원을 하지 않는다고 하니 판다스의 기본 engine이 xlrd로 설정되어 있나봅니다. 이유가 분명해서 그런지 생각보다 간단히 해결이 되었습니다. 그냥 engine을 openpyxl로 바꾸면 됩니다. 먼저 openpyxl 모듈이 설치되어 있어야 합니다. 설치가 안 되있다면 다음과 같이 입력해 설치를 합시다.(주피터가 아닐경우 !는 빼야 실행이 됩니다) !pip inst..
이번 포스팅에서는 DataFrame 에서 row를 선택하는 방법에 대해 살펴볼까 합니다. 크게 두가지 방법이 있는데요. 둘 다 인덱스를 사용하는 것은 같지만 DataFrame 에서 사용하는 인덱스를 우리가 설정할 수 있기 때문에 설정을 한 것으로 찾느냐 아니면 DataFrame 에 저장되어 있는 인덱스 번호로 찾느냐는 차이입니다. 데이터 상황에 맞춰서 두가지를 혼용해서 쓸 수 있습니다. 살펴볼 것은 다음과 같습니다. 1. loc 2. iloc 아래와 같은 DataFrame을 가져왔습니다. 2019년 1월 기준 코스피 200 종목입니다. 현재 인덱스가 정해지지 않아서 숫자로 표기되어 있습니다. '종목명' 으로 인덱스를 설정하겠습니다. df = df.set_index('종목명') 1. loc loc를 사용해..