RandomForest Regression¶
RandomForest Regression 학습 알고리즘 설명 및 파라미터 설명서 입니다.
개요¶
RandomForest는 Classification / Regression에 모두 사용 할 수 있으며, 특정 값이 누락되어 있어도 사용 할 수 있습니다.
설명¶
여러개의 Decision Tree를 만들고 앙상블 기법으로 결과를 결정합니다. 때문에, 오버피팅을 방지할 수 있습니다.
Examples¶
- Fit으로 RandomForestRegression 적용해 분류 하는 모델을 생성하는 명령어 예제입니다.
... | fit RandomForestRegression FEATURES * LABEL medv maxDepth=10 INTO modelD
| features | generalizeGini | space | numTrees | rmse | r2 | mae |
|---|---|---|---|---|---|---|
| crim | 0.1687 | 20 | 2.4099 | 0.8691 | 1.8495 | |
| zn | 0.0004 | None | None | None | None | |
| indus | 0.0 | None | None | None | None | |
| chas | 0.0 | None | None | None | None | |
| nox | 0.0432 | None | None | None | None | |
| rm | 0.1709 | None | None | None | None | |
| age | 0.2407 | None | None | None | None | |
| dis | 0.06 | None | None | None | None | |
| rad | 0.0139 | None | None | None | None | |
| tax | 0.0323 | None | None | None | None | |
| ptratio | 0.001 | None | None | None | None | |
| b | 0.1345 | None | None | None | None | |
| lstat | 0.1345 | None | None | None | None |
Parameters¶
... | fit RandomForestRegression FEATURES fields LABEL l_fields maxdepth=3 minInfoGain=0.0 seed=None INTO_model
| 이름 | 설명 | 필수/옵션 |
|---|---|---|
| FEATURES | 학습에 사용될 특징 column을 입력 받습니다. | 필수 |
| LABEL | 학습에 사용될 라벨 column을 입력 받습니다. | 필수 |
| fields | 특징 column들의 이름입니다. | 필수 |
| l_fields | 라벨 column들의 이름입니다. | 필수 |
| params | 알고리즘 setting 파라미터들입니다. | 옵션 |
| INTO_model | INTO model_name으로 이루어져 있습니다. 경로 (/Biris/angora/ml)에 모델 메타 데이터와 함께 저장합니다. |
필수 |
| maxDepth | tree의 깊이를 설정합니다. | 옵션 |
| maxBins | bin의 최댓값을 설정합니다. | 옵션 |
| minInstancesPerNode | split 이후에 반드시 가져야하는 child의 instance 수를 설정합니다. | 옵션 |
| numTrees | 만들 tree의 수를 설정합니다. | 옵션 |
| minInfoGain | tree의 split을 위한 얻을 수 있는 최소 정보입니다. (정확히는 모르겠습니다.) | 옵션 |
| maxMemoryInMB | 최대 메모리를 설정합니다. | 옵션 |
| cacheNodeIds | 각 트리의 instance 마다 cache node id를 사용할지 안할지 여부 결정합니다. | 옵션 |
| subsamplingRate | 각각의 decisiontree에서 learning에 사용할 training data의 비율을 설정합니다. | 옵션 |
| impurity | 계산 결과에서 얻을 수 잇는 정보의 표준을 결정합니다. (Gini, Entorpy) | 옵션 |
| checkpointInterval | cache 하는 checkpoint의 반복 주기를 설정합니다. | 옵션 |
| featureSubsetStrategy | 특징의 수를 고려하여 각각의 tree를 얼마나 펼칠지 결정합니다. (auto, all, onethird, sqrt, log2, (0.0-1.0], [1-n]) | 옵션 |
| seed | 학습에 필요한 seed값 입니다. | 옵션 |
Parameters BNF¶
SparkRandomForestRegression_command : FEATURES fields LABEL l_field params INTO_model
fields : field
| fields COMMA field
field : WORD
| TIMES
| MINUS WORD
l_field : WORD
params : param
| params param
param : WORD EQUALS WORD
| WORD EQUALS DOUBLE
| WORD EQUALS LBRACKET words RBRACKET
| WORD EQUALS LBRACKET doubles RBRACKET
words : WORD
| words COMMA WORD
doubles : DOUBLE
| doubles COMMA DOUBLE
INTO_model : INTO WORD
WORD : \w+
COMMA : \,
FEATURES : FEATURES | features
LABEL : LABEL | label
INTO : INTO
EQUALS : \=
TIMES : \*
MINUS : \-
LBRACKET : \[
RBRACKET : \]
DOUBLE : [-+]?[0-9]+(\.([0-9]+)?([eE][-+]?[0-9]+)?|[eE][-+]?[0-9]+)
params : maxDepth=5, maxBins=32, minInstancesPerNode=1, numTrees=20, minInfoGain=0.0, maxMemoryInMB=256, cacheNodeIds=False, seed=None, subsamplingRate=1.0, impurity='Gini', checkpointInterval=10, featureSubsetStrategy='auto'
