컬럼과 소식

올림은 무엇을 고민하는지 올림의 생각을 전합니다

[Research Lounge_20] 데이터는 넘치는데, 왜 원하는 답은 없을까

  • 작성자 관리자
  • 조회 17

늦은 밤 9시, 3년 차 조사연구원 하 대리의 듀얼 모니터는 여전히 환하게 불을 밝히고 있다. 왼쪽 화면에는 방금 막 실사를 마치고 들어온 따끈따끈한 1차 데이터(Primary Data) 코딩 표와 통계 프로그램 화면이, 오른쪽 화면에는 통계청, 각 지자체 오픈 데이터 포털, 해외 컨설팅 보고서에서 다운로드받은 수십 개의 2차 데이터(Secondary Data) PDF 파일이 가득 열려 있다.

하 대리의 머릿속을 스치고 지나간 것은 어제 전화기 너머로 들려오던 클라이언트인 지자체 조사 담당자의 헛헛한 목소리였습니다.


“대리님, 우리 지역 청년 정책 만족도를 다른 인근 지자체들과 비교해 보려고 여기저기 정부 사이트랑 연구원 보고서를 뒤져봤거든요? 오픈 데이터가 수천 개라는데, 정작 우리 지역 통계랑 딱 맞춰서 일대일로 비교할 수 있는 데이터는 단 하나도 없더라고요. 기준도 다르고, 연령대 구분도 다르고, 물어본 문항도 다르고… 결국 돈을 또 들여서 1차 조사를 다시 해야 하는 걸까요? 데이터가 이렇게 넘쳐나는 세상인데 왜 제가 원하는 데이터는 어디에도 없을까요? 혹시 방법을 알고 계시면 알려주셨으면 해요.”


한참 동안 전화기를 들고는 영혼까지 끌어모아서 열심히 응대하긴 했지만, 사실 하 대리 역시 매일 밤 똑같은 벽에 부딪히고 있었다.

클라이언트가 거액의 예산을 들여 요청한 1차 데이터를 가공하다 보면, 그 숫자들이 과연 전체 시장이나 사회의 거대한 흐름 속에서 어떤 위치에 있는지 증명하기 위해 거대한 2차 데이터의 바다로 뛰어들어야만 한다. 그러나 막상 펼쳐놓은 2차 데이터들은 저마다 다른 렌즈와 다른 척도로 찍어낸 불연속적인 사진들 같았다. 이럴 때마다 하 대리는 저절로 한숨이 나왔다. 지금도 그렇지만 말이다.


“정보와 데이터가 넘쳐나는 시대에, 왜 우리는 그 어느 때보다 진실에 가까운 통찰을 얻기 어려워진 걸까?”


하 대리는 식어버린 아메리카노를 한 모금 마시며 생각에 잠겼다. 1차 데이터와 2차 데이터 사이, 그 사막처럼 아득하게 느껴지는 틈새를 우리는 도대체 무엇으로 메워야 하는 것일까.


우리는 인공지능이 몇 초 만에 전국 모든 지자체의 통계를 요약해 주고, 수만 건의 2차 데이터를 한눈에 보여주는 빅데이터의 시대에 살고 있다. 하지만 조사 현장에서 느껴지는 체감 난이도는 오히려 이전보다 높아졌다는 느낌이다. 이 역설의 중심에는 ‘데이터의 파편화(Data Fragmentation)’와 ‘맥락의 탈락’이 자리 잡고 있다.

2차 데이터는 대단히 유용하고 경제적이다. 이미 거대한 샘플과 막대한 국비가 투입되어 구축된 공공 통계나 연구 보고서들은 사회의 대략적인 윤곽을 보여주는 훌륭한 지도가 되어 준다. 하지만 2차 데이터는 ‘과거의 누군가가, 자신만의 특정한 목적을 위해’ 수집한 데이터라는 분명하고도 근본적인 한계를 지니고 있다.

예를 들어 A 지자체는 청년의 기준을 만 19세부터 34세로 잡았지만, B 지자체는 조례에 따라 만 39세까지 포함시킨다. 어떤 설문은 청년의 행복도를 5점 척도로 물었지만, 다른 통계는 만족/불만족의 이분법으로 분류했다. 조사 시점도, 표본 추출 방식도, 설문 문항의 비언어적 뉘앙스도 모두 다릅니다. 조사대상자의 규모가 다른 것은 기본이다. ‘청년 정책 만족도 조사’라는 같은 이름의 조사인데도, 어떤 조사는 전수 조사인데 반해 다른 조사는 10% 표본 조사로 진행했다.

그래서 이런 조사결과와 통계 데이터를 가져와서 무언가를 해보려고 하다 보면 ‘서로 다른 도면으로 지어진 건물 조각들을 가져와 하나의 거대한 성을 쌓으려 하는 것과 같은 건 아닐까’란 생각이 들기도 한다.

물론 인터넷과 AI는 이런 작업에 큰 도움을 주기는 한다. 하지만 데이터 조각들을 빠르게 찾아 가져다줄 수는 있지만, 성벽의 틈새를 메우고 서로 다른 조각을 용접해 주는 일까지 대신해 주지는 못한다. 2차 데이터가 많아질수록 ‘내가 찾고자 하는, 내 입맛에 맞는 딱 그 답’을 가로막는 노이즈도 함께 증폭되는 이유가 바로 여기에 있다.


조사 업무를 오래 해보다 보니 1차 데이터와 2차 데이터는 '맞춤 슈트'와 '기성복'의 관계와 닮았다는 생각을 자주 하게 된다.

1차 데이터는 클라이언트의 특정한 질문과 가설을 입증하기 위해 새로 직조한 그야말로 ‘맞춤복’이다. 표본의 정밀도, 질문의 의도, 분석의 목적이 명확하게 정렬되어 있어 클라이언트가 안고 있는 문제에 정확한 해답을 제시할 수 있다. 하지만 재단하는 데 많은 시간과 비용이 들고, 때로는 해당 클라이언트의 울타리 안이라는 우물에 갇혀 외부 세상의 기온 변화나 계절의 흐름을 놓치기 쉽다.

이에 비해 2차 데이터는 대량 생산된 ‘기성복’이라 할 수 있다. 언제든 매장에 가서 집어 들 수 있고, 비용이 거의 들지 않으며, 시대의 유행과 전체적인 스타일(트렌드)을 파악하기에 최적이다. 그러나 어깨너비가 맞으면 소매가 길고, 허리가 맞으면 바짓단이 남듯, 지금 내가 해결해야 할 구체적인 문제에는 언제나 20% 부족한 어색함을 남긴다.

그렇다면 클라이언트가 던지는 현장의 무수한 질문들인 “우리 지자체의 청년들은 왜 이 정책을 외면할까요?”, “우리 제품의 브랜드 만족도는 왜 경쟁사보다 높은데 재구매로 이어지지 않을까요?” 등에 답하기 위해, 우리는 이 두 데이터를 어떻게 어우러지게 해야 할까.

답은 어느 한쪽 데이터를 맹신하는 것이 아니라, 두 데이터가 가진 ‘결핍의 지점’을 서로의 강점으로 꿰매는 ‘데이터 스티칭(Data Stitching)’에 있지 않을까 한다.


상당히 개인적인 의견일 수 있지만, 1차와 2차 데이터가 지니는 이 틈을 메우는 데이터 스티칭을 위해서는 3가지 통찰의 기술이 필요하다고 생각한다. 

우선, 2차 데이터로는 ‘지도(Map)’를 그리고, 1차 데이터는 ‘나침반(Compass)’으로 활용하는 기술이다.

지자체 담당자의 고민으로 다시 돌아가 보자. 타 지자체와의 비교를 위해 모든 2차 데이터를 일대일로 완벽히 맞추는 것은 현실적으로 불가능하다. 이때 필요한 것은 2차 데이터를 ‘직접적인 비교 대상’이 아닌 ‘맥락적 지형도(Contextual Map)’로 재정의하는 것이다.

전국 단위의 통계청 데이터나 보건사회연구원의 2차 데이터를 통해 ‘전국 청년들의 보편적인 고충과 만족도 지수’의 대략적인 범주를 설정한다. 이를 통해 우리 지자체가 속한 거시적인 위치를 파악할 수 있다.

그리고 최소한의 표본과 핵심 문항으로 구성된 가벼운 1차 조사를 실행하여, 전국 평균이라는 ‘지도’ 위에 우리 지역 청년들만의 독특한 인식 특성인 ‘나침반’을 얹는 것이다. 2차 데이터가 선명한 수치를 주지 못할 때는, 1차 데이터가 그 방향성을 잡아주는 앵커(Anchor) 역할을 해주어야 한다.


04ed02de6ae7c3c47eb6f559bbc709ff_1787720172_9627.jpg

*AI생성 이미지


두 번째 기술은 메타데이터(Meta-Data)의 표준화와 ‘기준점(Benchmark)’ 설계이다.

조사회사가 1차 조사를 기획하는 단계에서부터 이미 존재하는 2차 데이터의 프레임워크를 적극적으로 재활용하는 지혜가 필요하다. 많은 연구원이 1차 설문지를 작성할 때 자신만의 독창적인 문항을 만드는 데 집중한다. 하지만 통계청이나 국가 승인 통계에서 사용하는 표준 연령 구간, 표준 직업 분류, 표준 5점/7점 척도의 문항 표현을 1차 조사에 그대로 이식해 두면, 추후 조사 결과가 나왔을 때 기존 2차 데이터들과 즉시 연동되는 강력한 확장성을 갖게 된다.

독창성은 질문의 형식이 아니라 질문의 깊이에서 나와야 한다. 형식은 2차 데이터의 표준을 따르고, 내용에서 클라이언트만의 특수성을 1차 데이터로 짚어내는 것. 이것이 두 데이터 사이의 틈을 메우는 가장 실무적인 기술일 것이다.

세 번째는 삼각측량법을 통한 맥락적 데이터 결합 기술이다.

1차 데이터 수치와 2차 데이터 수치가 서로 충돌할 때, 초보 연구원은 당황하지만 베테랑 연구원은 속으로 환호할 것이다. 그 균열이야말로 숨겨진 진실이 드러나는 지점이기 때문이다.

예를 들어, 2차 공공 데이터에서는 해당 지역의 ‘문화 시설 만족도’가 매우 높은 것으로 나타났는데, 우리가 직접 수행한 1차 정량/정성 조사에서는 ‘주말에 갈 곳이 없다’라는 응답이 압도적일 수 있습니다.

이때 2차 데이터의 만족도는 어르신이나 가족 단위 이용자의 대중적 만족일 가능성이 크고, 1차 데이터의 ‘갈 곳 없음’은 2030 청년층의 취향을 반영한 결과일 수 있다. 거시적 2차 데이터가 밝혀내지 못한 미세한 모순을 1차 데이터의 깊이 있는 보완 조사(FGI, 인터뷰 등)로 메우는 것, 즉 ‘정량적 2차 데이터 - 정량적 1차 데이터 - 정성적 1차 데이터’를 삼각측량(Triangulation)하는 과정에서 비로소 단순한 숫자가 아닌 보고자 하는 사람들의 모습과 삶이 읽히기 시작한다.


하지만 아무리 기술을 발휘한다고 해서 1차 데이터와 2차 데이터 사이의 틈은 완전히 사라지지 않는다. 조사 목적이 다르고, 수집 방식이 다르고, 측정 시점과 단위가 다르기 때문이다. 오히려 그 틈을 억지로 지우려 할 때 위험한 해석이 만들어질 수 있다.

중요한 것은 틈이 어디에서 생겼는지 밝히는 일이다. 행정자료와 설문조사의 결과가 다르다면 조사 오류라고 단정하기 전에, 한쪽은 행동을 측정하고 다른 한쪽은 인식을 측정한 것은 아닌지 살펴봐야 한다. 서로 다른 지역의 만족도를 비교하려면 설문 문항과 응답 척도, 조사 시점, 표본 구성이 같은지 확인해야 한다. 과거와 현재의 통계를 비교하려면 기준 변경이나 조사 방식의 변화가 있었는지 확인해야 한다.

데이터는 현실을 그대로 복사한 거울이 아니다. 현실의 일부를 특정한 관점과 방법으로 잘라낸 기록이다. 같은 풍경도 망원렌즈로 보느냐, 현미경으로 보느냐에 따라 다르게 보인다. 어느 하나가 틀렸다기보다, 서로 다른 거리를 보여주는 것이다.

조사회사의 역할은 숫자를 생산하는 데서 끝나지 않는다. 클라이언트가 정말 알고 싶은 질문을 정의하고, 이미 존재하는 자료를 검증하며, 부족한 부분을 1차 조사로 채우고, 서로 다른 결과가 말하는 의미를 해석하는 일까지 포함한다.

좋은 조사는 언제나 새롭게 많은 데이터를 만들어내는 조사만을 뜻하지 않는다. 이미 있는 데이터를 제대로 읽고, 필요한 질문만 새롭게 묻는 조사일 수도 있다. 때로는 설문조사를 시작하지 않는 것이 가장 좋은 조사 설계가 될 수도 있다. 반대로 수많은 공개 통계를 검토한 뒤에도 한 사람의 경험을 직접 들어야만 풀리는 문제가 있을 수 있다.

지자체 담당자가 찾던 것은 ‘입맛에 딱 맞는 하나의 통계’였을지 모른다. 그러나 실제로 의사결정에 필요한 것은 완벽하게 맞는 하나의 숫자보다, 여러 숫자가 서로 어떻게 연결되고 어디에서 멈추는지를 보여주는 구조다.

2차 데이터는 우리에게 이미 일어난 일을 보여준다. 1차 데이터는 아직 이름 붙이지 못한 이유와 감정을 들려준다. 한쪽은 넓은 맥락을 제공하고, 다른 한쪽은 지금 여기의 목소리를 담는다.

두 데이터 사이의 틈을 메우는 일은 그 사이를 콘크리트로 채워 하나의 숫자로 만드는 일이 아니다. 오히려 그 틈에 다리를 놓는 일에 가깝다. 다리는 양쪽의 차이를 없애지 않는다. 서로 다른 곳에 서 있는 사람들이 건너갈 수 있도록 연결해준다.

데이터가 넘치는 시대에 필요한 조사 전문가는 가장 많은 숫자를 가져오는 사람이 아닐 것이다. 어떤 숫자를 믿을 수 있는지, 어떤 숫자는 조심스럽게 읽어야 하는지, 그리고 숫자만으로는 들리지 않는 목소리가 무엇인지 구분하는 사람에 더 가까울 것이다.

결국 좋은 결과는 데이터의 양보다 데이터 사이의 관계에서 나온다. 흩어진 통계를 모아 멋진 이야기를 만드는 것이 아니라, 각각의 데이터가 어디까지 말할 수 있는지를 존중하면서 하나의 질문을 향해 나아가는 것.

그때 1차 데이터와 2차 데이터의 틈은 더 이상 장애물이 아니다. 서로 다른 데이터가 만나는 자리, 그리고 현실을 조금 더 정확하게 이해할 수 있는 출발점이 된다.


_ 이완정_『외로움의 함정』 저자/(주)조사연구컨설팅#올림 전문위원