빅데이터 예측 프로젝트가 실패하는 12가지

예측 애널리틱스(predictive analytics)에 대해 잘 모르거나, 이미 관련 프로젝트를 진행해 경험해 보았을 수도 있겠다. 어떤 입장에 있건 예측 애널리틱스라는 단어에는 관심이 갈 것이다. 그러나 애석하게도 예측 애널리틱스와 관련한 프로젝트 곳곳에는 함정이 도사리고 있다.

데이터마이닝 전문기업인 엘더 리서치(Elder Research)의 CEO인 존 엘더는 “분석 프로젝트의 대다수는 실수로 가득하다”라고 말했다.

물론 대부분은 치명적인 실수가 아니고 거의 모든 사례에는 개선의 여지가 있다. 그럼에도 많은 프로젝트들이 실패로 끝나곤 한다. 이는 기업이 많은 시간과 비용을 투자했음에도 결과값이 없다는 것을 의미한다.

또 설령 유용한 모델을 개발했다 하더라도 기업 내에서 많은 난관에 봉착하게 된다. 엘더는 자사 프로젝트의 경우 기술적으로는 90%의 성공률을 보였으나, 그 중 65%만이 고객사에 적용되었다고 말했다.

컴퓨터월드는 엘더 리서치(Elder Research), 애봇 애널리틱스(Abbott Analytics), 프리딕션 임팩트(Prediction Impact) 등 3곳의 컨설팅 회사의 전문가들을 대상으로, 최악의 실수에 대해 설문을 진행했다. 이들의 답변을 토대로 다음 리스트를 정리했다. 예측 애널리틱스 프로젝트가 실패로 이어지는 12가지 경우들이다.

1. 목표를 염두에 두지 않고 프로젝트 시작하기

예측 애널리틱스(predictive analytics)에 대해 많은 관심을 가질 수도 있고 예측 애널리틱스가 가진 잠재적 가치에 대해 높게 평가할 수도 있다. 하지만 대부분의 경우 가장 큰 문제는 기업에서 이를 통해 달성하고자 하는 명백한 목표가 없다는 점이다.
엘더리서치에 데이터 예측 애널리틱스를 맡긴 대기업 고객 중 한 곳에서 실제로 이런 일이 일어났다. 엘더리서치는 이 회사와 업무를 같이 진행하기로 합의하고 이 회사를 위한 모델을 개발했다. “하지만 이 회사의 누구도 이 회사에서 무엇을 판매하려는지 알지 못했다. 결과적으로 프로젝트는 좌초됐다”라고 엘더리서치의 영업담당 임원인 제프 딜은 말했다.
제프 딜은 “내부적으로 필요한 목적에 부합하게 데이터를 사용하였지만, 현재까지도 자신이 보유한 데이터의 가치를 누군가 알아주길 바라고 있을 뿐이다”라고 덧붙였다. 이를 통해 알 수 있는 교훈은 예측 애널리틱스 기법을 통해 얻고자 하는 대상이 명확해야 한다는 점이다. 예측 애널리틱스 기법을 적용하기 전에 명확한 목표가 있어야 하는 것이다.

2. 근거로 사용할 수 없는 데이터를 기반으로 프로젝트를 정의하기

채권추심회사에서는 악성채무자로부터 대출금을 회수할 때 적용할 수 있는 가장 성공적인 추심 방법에 대해 알고자 했다. 하지만 문제는 이미 이 회사는 엄격한 규정을 설정하고 있었으며 모든 대출금 회수과정에 있어 동일한 절차를 적용해왔다는 점이었다.
“데이터마이닝이란 비교의 기술아더”라고 이 프로젝트를 존속시킨 애봇 애널리틱스의 딘 애봇(Dean Abbott)은 말했다. 이 채권추심회사에서는 이미 동일한 조치를 취하게 하는 규정이 적용되고 있었기 때문에 애봇은 어떠한 절차가 대출금 회수 시 더욱 유용하게 적용될 수 있는지 알 수 없었다. 그는 “역사적 사례 데이터가 있어야만 한다”라고 말했다.
그러한 사례를 찾을 수 없는 경우에는, 의도적으로 실험을 계획해 이러한 사례를 만들어 내야 한다. 왜냐하면 그래야만 수집할 데이터가 생기기 때문이다. 예를 들어, 1,000명의 채무자들을 한 그룹으로 묶어 가정했을 때, 그 중 500명에게는 대출금 상환과 관련한 최후통첩장이 발송될 수도 있고, 나머지 500명에게는 전화통화가 이루어질 수도 있다.
애봇은 “예측 모델을 통해 어떤 채무자들이 최후통첩장에 더 민감한 반응을 보이는지, 혹은 전화통화에 더 민감한 반응을 보이는지에 대해 알 수 있게 된다”라고 말했다. 그리고 채무자들의 특성을 확인하고 분류하기 위해, 채무발생의 패턴, 상환기간, 소득, 거주지 우편번호 등을 검토할 수 있다고 덧붙였다.
그는 이어 “예측 모델에 근거해, 채권추심회사는 모든 채무자에게 동일한 전략을 적용하지 않고, 비용상 가장 효율적인 최적의 전략을 사용할 수 있다. 하지만 이러한 전략을 적용하기 전에 먼저 사전 실험이 이루어 져야 한다. 예측 애널리틱스는 사전 데이터가 없는 상태에서는 적용될 수 없기 때문이다”라고 말했다.

3. 데이터가 완전한 상태로 수집되기 전까지 기다리기

한편 결점이 없는 완벽히 정리된 데이터가 있어야만 예측 애널리틱스를 적용할 수 있다는 잘못된 믿음도 있다.
엘더리서치의 고객사인 한 글로벌 석유화학회사에서는, 영업 관련 데이터가 충분히 구비되지 않은 상황에서 잠정적 투자수익률에 대한 예측 애널리틱스 프로젝트를 시작했다. 주요한 타깃 값(a key target value)이 없는 상황이었다.
새로운 데이터를 수집하기 위해 이 회사가 더 많은 시간을 들인다면, 프로젝트는 1년 이상 지연될 수도 있었다. 엘더리서치의 제프 딜은 “다른 어떤 이유보다 이러한 상황으로 인해 프로젝트가 중단되는 경우가 많다”라고 말했다.
하지만 데이터 전문가들은 정리되지 않은 불완전한 데이터를 다루게 되는 경우가 흔하며, 많은 경우에 있어 문제를 해결할 수 있는 방법을 알고 있다. 이 기업의 경우 불완전한 데이터를 토대로 예측 애널리틱스를 적용하기로 결정했으며 그 결과 데이터 전문가들이 다른 데이터로부터 타깃 값를 찾아내는 방법을 알아 낼 수 있었다.
엘더 리서치의 데이터 전문가인 존 에인스워스에 따르면 이 프로젝트는 이제 본 궤도에 올라 상당한 비용 절감효과를 나타내고 있다. 이는 예측 애널리틱스를 통해 정확히 실패를 예측하고 비용상 어마어마한 손실을 야기하는 공장의 폐쇄를 미연에 방지했기 때문이었다. 에인스워스는 고비용 예방점검 절차를 정확히 적용하는 방법을 알게 되었기 때문에 가능했다고 전했다.
제프 딜은 만약 완전한 데이터를 확보할 수 있을 때까지 시간을 지체했다면 우선순위가 변하고 데이터는 수정되지 않기 때문에 이러한 비용절감 효과는 발생하기 어려웠을 것이라고 설명했다.

4. 잘못된 데이터를 이용하기

프리딕션 임팩트(Prediction Impact)의 사장이자 예측 애널리틱스에 대한 저서(Predictive Analytics: The Power to Predict Who Will Click, Buy, Lie, or Die)의 저자이기도 한 에릭 시겔은 포천 1000대 금융회사 중 한 곳과 일한 적이 있었다. 이 고객사는 자사가 고용한 콜센터 인력 중 가장 오랜 기간 근속할 직원들이 누구인지에 대해 알고자 했다.
데이터 분석에 착수한지 얼마 되지 않아 고졸 미만의 학력을 가진 직원들은 그렇지 않은 직원들에 비해 평균적으로 9개월 이상 더 근속할 확률이 2.6배 가량 된다는 결론이 도출됐다. 시겔은 이러한 결과를 바탕으로 “고등학교 중퇴자를 적극적으로 고용할 것을 권고할 뻔 했다”라고 전했다.
하지만 문제가 있었다. 첫 번째 문제는 데이터였다. 이력서를 통해 지원자가 수동으로 입력한 데이터의 경우 일관성 없이 분류돼 있었다. 두 번째 문제는 분류를 담당한 사람에 있었다. 데이터 담당자 한 명이 모든 지원자의 학력수준을 다시 체크했으며, 다른 담당자는 지원자의 최종 학위를 검토했다. 그런데 어떠한 이유에서인지는 명확하지는 않지만 지원자의 최종학위를 검토했던 담당자가 근속연수가 가장 높은 지원자의 최종 학력을 실제보다 더 높게 표시했으며 이로 인해 문제가 발생했던 것이다.
결국 분류 담당자에게 무작위로 직원들의 입사지원서를 배분해 입력하게 하고 모든 담당자가 동일한 방법을 통해 분류하는 과정을 통해 잘못된 결론을 방지할 수 있다.
시겔은 “데이터를 올바로 분류해야만 데이터의 질적 확실성을 보장할 수 있고 이것이 예측 애널리틱스 결과에도 지대한 영향을 미친다”라고 말했다.

5. 미래의 데이터를 근거로 미래를 예측하기

데이터 웨어하우스와 관련한 문제 중 하나는 고정적(static)이지 않다는 것이다. 즉, 정보는 끊임없이 변하고 업데이트된다. 하지만 예측 애널리틱스는 귀납적 러닝 프로세스다. 즉 모델 창출을 위해 과거의 데이터나 학습용 데이터(training data)를 분석하는데 의존한다. 따라서 예측 애널리틱스 이용자는 데이터 상태가 고객 라이프사이클(customer lifecycle) 상에서 초기 상태로 존재할 수 있도록 해야 한다.
데이터의 시간이 기록되어 있지 않다면 이는 미래의 데이터가 포함될 가능성이 높아지는 것을 의미하며, 이는 결과적으로 잘못된 분석결과를 내놓기가 더 쉬워진다는 의미다.
이러한 일이 한 지역의 차량정비 대행업체(auto club)에서 일어났다. 이 업체에서는 회원 중 보험상품을 구매할 확률이 가장 높은 회원을 예상하는 모델을 구축하기 위해 예측 애널리틱스 모델을 구축하고자 했다.
모델 구축을 위해 이 업체는 어느 시점에 회원들이 보험상품 가입을 원했거나 원치 않았는지를 확인하기 전에 이전의 데이터셋을 되살릴 필요가 있었다. 그리고 나서 부차적인 데이터(subsequent data)를 제외시켰다. 이 업체는 전화, 팩스, 이메일 데이터 등의 텍스트 변수를 포함한 의사결정 트리(a decision tree)를 만들었다. 그러자 이 변수에 텍스트가 포함될 경우, 이들이 이후 보험상품을 구입할 확률은 100%라는 터무니없는 결과가 나왔다.
엘더는 “보험을 구입하기 전에 보험을 해지할 수는 없다” 라며, 따라서 예측 애널리틱스 모델을 수립할 때 데이터 중 일부는 별도로 관리해야 한다고 설명했다.

6. 데이터가 완벽히 수집되었다고 생각해 서두르기

예측 애널리틱스 프로젝트를 새로 시작할 때 전체 소요시간의 60~80%는 데이터 준비에 사용된다고 엘더 리서치는 설명했다. 분석 전문가들은 여러 소스로부터 데이터를 취합하고, 데이터 테이블을 취합하는 등 다양한 일을 해야 한다. 그리고 이러한 과정은 심지어 1년까지도 소요될 수 있다.
일부 기업에서 자사의 데이터가 오염되지 않은 상태라고 확신하기도 하지만, 애봇에 따르면 완벽한 데이터를 갖추고 있는 조직은 본적이 없다고 강조했다. 따라서 예상치 못했던 문제가 항상 일어날 수 있다는 설명이다.
한 제약회사의 경우를 생각해보자. 이 회사는 프로젝트 수행을 위해 엘더리서치의 도움을 받았다. 하지만 데이터를 취합하는 도중 리서치 회사에서 속도를 내고 업무를 추진할 것을 주문했다. 엘더리서치는 이러한 요청에 어쩔 수 없이 부응했다. 그리고 프로젝트는 줄어든 예산과 기간으로 진행됐다.
하지만 프로젝트가 시작되었을 때, 이 회사는 문제를 발견했다. 일부 발주의 선적일이 발주일보다 더 이전이었던 것이다. 딜은 “이는 어쩔 수 없는 문제이며, 문제의 해결을 위해 일정 시간이 필요하다”라며, 하지만 프로젝트의 규모가 축소되어 예산이 많지 않아 다시금 문제에 봉착하게 됐다고 전했다.
엘더리서치에서 이 문제를 지적하자 기업 측은 문제를 깨달았고 경영진에게 어떠한 이유에서 프로젝트에 더 많은 시일이 걸리게 되는지 설명해야 했다. 딜은 “신뢰성 문제가 제기될 수 밖에 없다”라고 전했다. 즉 아무리 기업의 데이터가 완전하다고 생각하더라도, 문제가 발생하는 상황을 예견해야 한다. 기대수준을 보수적으로 잡고 프로젝트를 진행해야 하는 것이다.

7. 대규모 프로젝트부터 시작하기

한 대규모 제약회사는 규모가 커서 반드시 성공할 것이라 예상한 계획이 있었다. 이 회사의 추진 팀은 내부 예측 애널리틱스 서비스를 구축하기 시작하면서, ‘헬스케어 산업 전체를 혁신적으로 바꾸어 놓을’ 무언가를 하기로 결정했다. 딜은 고객사와의 미팅에서 회사관계자들이 이를 공개적으로 언급했던 때를 또렷이 기억한다고 말했다.
그는 하지만 프로젝트의 목표가 너무나 거대해서 이를 성사시키기 위해서는 상당한 투자를 필요로 했다며, “결과값이 바로 나오지 않으면 동일한 투자수준을 지속시켜 나가기 어렵다”라고 말했다.
결과적으로 프로젝트는 과욕으로 인해 중단되었다. 즉 의욕만으로 무모하게 일을 추진해 나가서는 안 된다. 특히 이전에 비슷한 프로젝트를 시행해 본 적이 없는 경우에는 더욱 그렇다. 딜은 “크지 않고 달성 가능한 현실적인 목표를 설정하고, 이를 성취하고 난 후 더 목표를 확대시켜 나가는 것이 필요하다”라고 조언했다.

8. 예측 애널리틱스 모델 개발에 있어 전문가의 조언을 간과하기

예측 애널리틱스를 모델을 만드는 것이 단순히 데이터를 집어넣고 기계를 돌리면 자동적으로 결과가 나오게 되는 것이라 잘못 생각하는 사람들이 있다. 하지만 데이터를 수집하는 데이터 마이닝 전문가들은 그러한 과정이 올바르지 않은 결과값을 도출하게 될 뿐이라고 지적했다.

대표적인 사례로 애봇 애널리틱스의 컨설팅을 받았던 한 컴퓨터 수리업체가 있다. 이 회사는 콜센터에서 고장사례 접수 시 기록된 텍스트를 토대로 했을 때, 기술자들이 출장 서비스 시 어떤 부품을 가지고 가야 하는지에 대해 예측하기를 원했다.

애봇은 “언어의 모호한 특성으로 인해 텍스트를 기반으로 예측 애널리틱스 모델링에 유용한 키 콘셉트를 이끌어 내기 어려웠다”라고 회고했다. 하지만 이 기업은 부품 요청사항과 관련하여 90%이상의 정확도를 원했고, 고장접수 텍스트상의 특정 키워드를 바탕으로 예측하는 초기단계의 예측 애널리틱스 모델을 만들었다.

애봇은 “우리는 각 키워드마다 변수를 할당해 변수마다 1이나 0의 값을 입력했다. 그리고 이를 특정 문제가 발생할 때 고객의 문의전화를 통해 기록한 텍스트에서 해당 키워드가 나올 경우 적용했다. 그러나 이는 완전한 실패였다”라고 말했다.

이후 애봇은 더 많은 데이터를 분석했다. 그는 “중요한 것은 현재 보유하고 있는 데이터를 통합해나가는 과정을 통해 각 속성(attribute)이 좀 더 많은 정보를 담게 하는 것이다”라고 말했다. 그의 그의 팀은 성공적인 접근방법을 내놓았다.

애봇은 “산재된 여러 변수들을 존속시키는 대신, 변수를 10가지 이상의 정보가 많은 변수로 축적했고, 각 변수를 이전에 필요로 했던 부품 내역과 연결 지었다”라고 설명했다. 또한, 수리 이력에 있어 나타난 특정 키워드의 발현을 매칭시켜 특정 부품을 필요로 하게 되는 시점의 비율을 확인하고자 했다.

그는 “데이터를 다시 검토해 데이터 전문가들이 원하는 방향으로 정렬시켜 놓았다. 단순히 알고리즘에 의존해 데이터를 정렬하지 않았다. 알고리즘은 단순히 패턴을 파악하는 부분에 있어서만 유용하기 때문에 우리는 이러한 방법을 사용했다”라고 말했다.

9. 데이터 보유 기업가 자발적으로 협력할 것이라고 기대하기

다수의 대규모 예측 애널리틱스 프로젝트가 실패로 돌아가는 이유는 고객사들이 이를 진행하기 전에 사내의 이해관계를 전부 고려해 프로젝트가 진행되기에 순탄한 환경을 만들어 놓지 않기 때문이다. 가장 큰 장애물 중 하나는 데이터를 보유하고 통제하는 사람들이거나, 기업 내 이해관계자들이 이 데이터를 어떻게 이용하는지에 대해 통제하는 사람들이다. 엘더리서치의 고객사인 한 소액대출업체는 내부적 분열로 인해 프로젝트에 착수할 수 없었다.

딜은 “IT담당자들로 인해 문제에 빠졌다. 상부로부터 프로젝트를 진행하라는 허가를 받지 못한 것이다”라고 회고하며, 프로젝트에 핵심적인 모든 주요 담당자들은 첫 미팅이 시작하기 전에 프로젝트에 전념했어야 한다고 강조했다.

한 대부업체의 사례가 있다. 이 회사는 대출금 회수율을 높이기 위해 원대한 계획을 가지고 있었다. 애봇은 이 회사의 프로젝트 착수 회의에 참여했다. 그는 “IT 관계자들이 데이터의 통제권을 가지고 있었으며 데이터마이닝 회사의 전문가들과 기업 고위층에 어떠한 통제권도 넘겨주지 않으려 했다”라고 전했다.

이 기업은 예측 애널리틱스 모델 개발에 수천만 달러를 투여했다. 하지만 경영진은 이에 대해 3년간 유보적인 태도를 취했다. 이는 사실상 프로젝트를 취소시키겠다는 결정을 간접적으로 표현한 것이었다. 딜은 “이 기업에서는 예측 애널리틱스 모델을 실행에 옮겨 모델을 통해 예측되는 결과를 토대로 통계치를 수집했으나, 기업의 의사결정의 변화에 영향을 주지 못했다. 완전히 시간 낭비로 볼 수 있다”라고 말했다.

그는 이어 “예측 애널리틱스 모델이 개발되기는 했다. 하지만 회사 내부의 이해관계자들의 합의를 얻어내지 못했기 때문에 적용될 수 없었다”라고 설명했다. 즉 예측 애널리틱스 모델을 성공적으로 적용시키기 위해서는 기업 전반의 합의를 도출하고 경영진의 전폭적인 지지를 얻어내는 것이 필수적이다.

10. 예측 애널리틱스모델 구축만으로 모든 것이 끝났다고 생각하기

예측 애널리틱스 모델을 성공적으로 구축했다고 가정하자. 그렇다면 그 다음 단계는 무엇일까?

기업 조직에서는 구축하기를 원하는 예측 애널리틱스 모델의 종류와 이를 구축하는데 필요한 투자금에 대해 논의하기를 선호한다. 하지만 그 후에도 기업에 예측 애널리틱스 모델이 제대로 적용되지 않는 경우가 종종 있다.

엘더 리서치의 컨설턴트들이 여러 기업에서 어떠한 방법으로 예측 애널리틱스 모델을 도입하는지에 대해 설문을 진행했을 때, 대다수의 답변은, “예측 애널리틱스를 적용한다는 것의 의미가 무엇인가? 구축하면 바로 적용 가능한 것이 아닌가?” 였다. 하지만 이는 사실이 아니라고 딜은 강조했다.

예측 애널리틱스 모델을 구축한 후 이를 기업환경에서 적용하는 전략은 아주 단순하여 엑셀파일에 간단히 정리되거나 담당자에게 결과가 전달되는 식으로 마무리 될 수도 있지만, 반대로 다양한 소스로부터의 데이터가 모델의 적용을 위해 주어져야 하는 등 매우 복잡한 시스템이 필요할 수도 있다.

딜에 따르면 대부분 기업의 경우는 후자에 속한다. 즉, 대다수의 기업에게 있어서 단순히 엑셀시트 한 장이나 예측 애널리틱스 기법을 통해 도출된 결과 보고서가 출현할 가능성보다는, 복잡한 과정과 거대한 규모의 데이터셋이 제공되는 셈이다. 따라서 기업에서는 5만달러에서 30만달러까지도 들 수 있는 적절한 분석기법 소프트웨어에 투자하는 것뿐만이 아니라, 소프트웨어 엔지니어링 작업을 통해 데이터 소스를 예측 애널리틱스 기법을 실행하는 소프트웨어와 연결시키는 작업 역시 필요할 수도 있다.

끝으로, 분석을 통해 나온 결과값을 시각화 도구 혹은 비즈니스 인텔리전스 도구를 이용해 직원들이 쉽게 결과를 해석할 수 있도록 해야 한다. 그는 “성공적인 모델의 적용은 단순히 모델 구축 이상의 노력을 요한다”라고 말했다.

이와 관련해 적용 관련 전략은 사용자의 필요를 충족시키기 위해 변경되어야 할 수도 있다. 예를 들어, 미 체신청 감찰당국은 엘더리서치의 자문을 받아 계약사기 전문 감찰관의 의심행동 측정 모델을 개발했다.

개발 초기에는 감찰관들이 예측 모델을 인정하지 않았다. 하지만 예측 모델의 사용을 통해 감찰관들도 자신들의 수사에 필요한 정보를 손쉽게 얻을 수 있게 되었다.

이후 엘더리서치는 정보를 어떻게 하면 더욱 설득적으로 표현할 수 있을지에 대해 고민했다. 그리고 어떠한 계약이 사기의 가능성이 높은지 지도상에 색상으로 표현했다. 시간이 지나면서 감찰관들은 위험도의 계량화가 자신들의 수사에 가져다 주는 이점을 깨닫게 되었다.

오늘날 천여 명의 감찰관들이 이를 사용한다. 이러한 상황은 심지어 엘더 리서치의 전문가들에게도 새로운 장면이었다. “사람들이 결과를 어떻게 사용하는지, 그리고 예측 애널리틱스 모델에 대한 이해를 어떻게 구축하는지에 대해 알 수 있는 기회였다”라고 딜은 말했다.

11. 결과값이 명확한 것 같다는 이유로 예측 애널리틱스 모델을 외면하기

한 유흥 접객업체에서는 객단가가 높은 고객을 다시 되찾는 방법에 대해 알고 싶어했다. 애봇 애널리틱스는 95%의 확률로 이들 고객들을 다시금 되찾을 수 있는 모델을 개발했다.

“예측 애널리틱스 모델을 통해 확인한 패턴은 대부분 명백히 드러날 부분에 대한 내용이었다. 예를 들어, 수년간 해당 접객업체를 매달 방문했지만 수개월간 발길을 끊게 된 고객들은 이후 따로 개입하지 않아도 다시 돌아오게 된다”라고 애봇은 말했다.

그 결과 이 기업은 오래 지나지 않아 고객을 되찾기 위해 예측 애널리틱스 모델이 필요 없다고 생각하게 되었다. 어쨌든 고객은 다시 돌아올 것이라고 예상했기 때문이다. 하지만 전체 고객 중 5%는 다시 돌아오지 않았다. 애봇은 “그럼에도 불구하고 예측 애널리틱스 모델은 남들과 다른 행동방식을 보이는 고객들을 분석하는데 유용했다”라고 설명했다.

그는 이어 돌아올 것으로 예상했지만 그렇게 않았던 객단가 높은 고객에 초점을 맞춰야 한다고 조언했다. 애봇은 “예상대로 상당히 높은 확률로 고객들이 다시 돌아왔기 때문에, 그렇지 않은 사람들은 비정상적인 것으로 간주되었다. 이들 개별 고객들에 대한 개입이 필요했다”라고 말했다.

하지만 이 기업은 다른 문제에 직면하게 된다. 고객들이 돌아오지 않은 것에 대해 소비자의 피드백을 얻을 수 없었으며, 예측 애널리틱스모델도 왜 고객의 수가 다시 회복되지 않는지 밝혀낼 수 없었다. 애봇은 “더 많은 데이터 분석을 통해 고객이 돌아오지 않는 이유에 대한 핵심적 이유를 찾아야 한다”라며, 그러한 상황이 충족되어야만 이 기업이 고객에게 특가혜택을 제공하거나 메일을 발송하는 등 이 문제를 해결하기 위한 시도를 해나갈 수 있다고 지적했다.

12. 달성하고자 하는 바에 대해 사업적 맥락에서 정확히 정의하지 않기

이전에 애봇은 예측 애널리틱스모델을 우체국 시스템에 적용하려 검토했던 일이 있었다. 바코드 리딩의 정확도를 예측하기 위해 사용하려고 했다. 문제는 예측이 500분의 1초안에 이루어져야 한다는 것이었다.

애봇은 우수한 알고리즘을 내놓을 수도 있었다. 하지만 주어진 시간 내에 의도했던 결과가 나타나지 않는 다면 의미가 없는 일이었다. 이 예측 애널리틱스 모델은 단순히 예측을 시행할 뿐만 아니라, 특정 시간 내에 예측을 해내야만 했다. 따라서 그가 사용하는 알고리즘을 사용함에 있어 상충관계가 발생한다는 사실을 인정할 수 밖에 없었다. 그는 “시간상의 제약을 위해 이 모델은 상당히 간단히 짜여 있었고 이는 기업에서 흔히 일어나는 일이다”라고 말했다.

예측 애널리틱스 모델은 기업의 제약사항을 고려할 수 있어야 하고, 이러한 제약사항은 모델 설계에 있어 충분히 설명되어 있어야 한다. 안타깝게도 이러한 부분은 대학에서 가르치지 않는다. 그는 “좋은 모델을 설계하는데 집중하는 사람은 많지만, 어떻게 모델이 사용되는지에 대해 고민하는 사람은 없다”라고 말했다.

결론: 실패는 피할 수 있다
이러한 내용을 모두 읽은 후에도 여전히 예측 애널리틱스 기법이 너무 어렵다는 생각이 드는가? 그러나 걱정할 필요는 없다고 전문가들은 설명했다. 애봇은 다음과 같이 설명했다.

“실수는 발생하게 되어있다. 이를 통해 배우고 고쳐 나가는 것이 중요하다. 또한 그런 과정은 그만한 가치가 있다. 이러한 알고리즘이 사람은 할 수 없는 방법으로 데이터를 검토하며 기업들의 최적 의사결정을 돕는다.”

“프로젝트 시행 중 실패로 인해 고객들로부터 많은 호출을 받았다. 제대로 잘 하는 것은 어렵다. 하지만 이를 통해 얻을 수 있는 것들이 많다. 그리고 간단한 원칙을 따를 경우 누구나 잘 해낼 수 있다.”

출처 : Robert L. Mitchell | Computerworld