게임통계의 신뢰도, 하향조정 필요.
안녕하세요. 말구님. 제 글에 관심을 가지고 반론을 펼쳐 주셔서 감사합니다.
말구님의 반론에서는 동감하는 부분도 있으나 근본적인 시각에서는 많은 차이가 있는 것 같습니다.
저는 비전공자로서 통계학의 자세한 학문적인 이론들에 대해서는 알지 못합니다. 그러나 현재 PC방 통계자료의 의미와 한계점에 대해서는 잘 이해하고 있다고 생각합니다.
그러한 이해를 바탕으로 말구님의 주장에 몇 가지 반박을 하겠습니다.
■ 표본집단이 전체집단을 대표하기에 충분한 규모인가?
특정 표본집단을 대상으로 수집된 통계자료가 전체 집단의 성향을 반영하고 있기 위해서는 전체 집단의 특성, 무작위성이 선정된 표본집단에서도 그대로 이어져야할 것입니다. 그러나 과연 그러한 무작위성이 현재 여러 게임통계 사이트에서 선정한 표본집단에서 그대로 반영되고 있다고 보기는 힘듭니다.
말구님은 표본집단이 전체 집단의 10% 정도가 된다면 충분히 의미있는 통계자료의 수집이 가능하다고 하셨습니다. 전국 2만여 PC방에서 10%는 약 2천여 곳이 됩니다. 그러나 실제로 각 통계 사이트에서 선정하는 표본집단의 수는 얼마나 될까요? 아래를 보시기 바랍니다.
1. 게임트릭스 : 1,300
2. 게임리포트 : 4,000
3. 게임차트 : 5,000
아시다시피 게임트릭스가 개발 / 배포하는 PC방 관리프로그램, PICA 매니저의 점유율은 낮습니다. 게임트릭스는 그러한 낮은 점유율에서 오는 통계의 신뢰성 부족을 희석하기 위해 일반적인 통계 조사 방법(전체집단을 구성하는 비율로 표본집단을 선정하고 그 집단에 대하여 자료를 수집)을 사용합니다. 반면에 네티모의 게임리포트, 니오커뮤니케이션즈의 게임차트는 자사의 프로그램을 사용하는 PC방의 거의 모든 PC에서 수집되는 자료를 여과없이 보여줍니다. 게임리포트의 안내자료에서는 지역별 분포에 따라 표본을 선정했다고 주장하는데 자사가 점유한 매장의 수를 따져본다면 그 말은 허위라고 보는 것이 타당할 것입니다.
어쨌든, 위의 숫자에서 드러나듯이 1,300 개의 매장은 전체 PC방의 10%에 많이 부족한 숫자입니다. 게다가 게임트릭스가 보유한 조사집단 3,000여 매장에서 1,300 곳을 선정했다면 이것이 과연 표본집단으로서의 의미를 가질 수 있을까 의심하게 됩니다.
■ 단순 지역별 분포에 따른 표본집단 선정의 문제점
최초 제가 문제삼았던 것은 게임트릭스의 그러한 일반적인 방법론이 PC방에서도 통할 수 있는가라는 것이었습니다. 저는 그러한 방법론으로 PC방 통계에 접근하는 것은 문제가 있다고 봅니다. 단순히 지역별 분포에 따라 표본집단을 선정하는 것은 전체집단의 무작위성을 훼손할 가능성이 큽니다.
앞에서도 말했듯, 의미상당한 이용량 차이를 보이는 두 PC방이 같은 지역에 속하여 그 중 하나만을 선택했을 때, 그 통계자료가 과연 전체집단을 대표할 수 있을까요? 같은 대학가에 있는 PC방이라 하더라도 즐겨 하는 게임들에서 많은 차이를 보일 때가 많습니다. 그러므로 이 중 하나만 선택해야하는 방식은 근본적으로 잘못된 결과를 도출할 가능성을 내포하고 있습니다.
따라서 게임리포트나 게임차트와 같은 자사 점유 집단의 이용량을 여과없이 그대로 보여주는 것이 더 신뢰도 있다고 생각됩니다.
■ 정직한 프로그램, 그러나 사람은?
전수조사시 작업장이나 사양이 낮은 PC방 등에서 수집된 자료가 줄 전체 통계의 신뢰도 하락을 우려하셨는데요. 이는 기우라고 봅니다. 이용량 조사 디바이스인 PC방 관리 프로그램의 주 사용자는 당연히 PC방입니다. 일부 작업장에서 컴퓨터 관리를 위해서 사용할 수도 있지만 그 수는 무시가능할 정도로 적을 것입니다.
또한 조사대상은 PC방입니다. 사양이 낮은 PC방의 이용량 통계가 과연 잘못된 것이라 말할 수 있을까요? 오히려 그러한 다양한 특이점들을 모두 반영할 수 있는 통계자료가 더 신뢰도 있다고 생각합니다.
프로그램은 거짓말을 하지 않습니다. 그러나 사람은 다르죠. 만약 위의 자료를 선별해야만 한다면 이는 통계자료에 대한 인위적인 개입을 뜻합니다. 선별자의 주관적인 기준이 상당히 많이 작용할 수 밖에 없습니다. 이용량 통계가 전체 추이와 판이하게 다른 매장을 배제하는 과정이 있다면 과연 그 통계자료가 의미있다고 할 수 있을까요?
■ 통계조사 업체와 통계대상 업체 사이의 업무제휴는 문제가 있다.
몇년 전, 카트라이더와 미디어웹이 제휴를 하여 미디어웹 관리 프로그램이 설치된 PC방에서 게임을 실행할 때 이용자에게 특정한 혜택을 주었던 시기가 있었습니다. 그때 문제점이 발생했는데 일부 게이머들이 미디어웹의 프로그램을 일반 가정에서 설치하여 그러한 혜택을 누렸던 것입니다.
자사의 프로그램을 설치한 PC방을 대상으로 조사를 수행하는 방식에서 프로그램이 발신하는 데이터가 과연 PC방에서 보낸 것인지 아니면 일반 가정에서 보낸 것인지 확인할 수 있는 방법은 무엇일까요? 미디어웹이 ISP 가 보유하고 있는 PC방의 IP 리스트 자료를 확보하고 있을까요? 혹은 관리 프로그램 설치단계에서 사용자가 입력하는 개인정보에 근거해 판단하는 것일까요?
또한 게임트릭스에서 이용량 통계를 유료 회원에게만 공개하므로 정확한 자료를 얻을 수는 없지만 타사 통계자료와 비교할 때 분명히 게임트릭스의 한게임 이용량은 더 많습니다. 아래는 각 통계 자료에서 50위권내에 위치한 한게임의 목록입니다. ('06. 5. 22)
게임트릭스 : 신맞고(14), 세븐포커(27), 하이로우(28), 더블맞고(30), 맞고(36), 로우바둑이(43)
게임리포트 : 신맞고(18), 세븐포커(30), 하이로우(41)
게임차트 : 신맞고(19), 세븐포커(35), 로우바둑이(47)
위의 자료를 살펴볼 때 분명 게임트릭스에서 한게임의 점유율은 의미상당한 수준으로 높다고 할 수 있습니다. 따라서 저는 미디어웹의 한게임 프랜차이즈 사업은 분명히 문제가 있으며 게임트릭스 통계의 신뢰도를 보다 낮게 평가해야한다고 봅니다.
■ 프로그램에게는 월급을 안줘도 된다.
조사대상의 규모가 문제시 되지 않는다는 말은 필요 리소스 비용이 규모의 대소에 영향받지 않음을 말하는 것이었습니다. 프로그램 설치에 소요되는 매장 종업원이나 업주의 노력은 리소스에 반영하지 않아도 된다고 봅니다. 그들은 스스로의 필요에 따라 그러한 노력을 들이는 것입니다.
높은 점유율을 획득하기 위해서는 자사의 프로그램을 보다 많은 지역에 배포해야합니다. 이에 따라 미디어웹, 니오커뮤니케이션즈, 네티모는 자사의 프로그램을 무료로 배포합니다. 하지만 유료인 게토 매니저가 더 높은 점유율을 보이는 현상은 아이러니하군요.
어쨌든 프로그램이 일단 설치되기만 하면 더이상 비용이 들지 않는 것이 PC방 대상 통계의 매력입니다. 높은 점유율만 있다면 당장 돈벌이를 만들어낼 수도 있는 것이죠. 그때문에 앞서 말한 3사가 게임통계에 뛰어든 것입니다.
■ 전체 집단 대상 통계조사 기술적으로 가능 / 시도된 적 있음
그 어떤 관리 프로그램보다 높은 점유율을 보이는 프로그램이 있습니다. 바로 관련법규에 의해 설치가 의무시되는 유해매체물 차단 프로그램입니다. 그중 PC방에서 가장 많이 사용되는 것은 수호천사로 제휴 마케팅에 의해 거의 대부분의 PC 방에 설치가 되어있습니다.
한때, IPCA 에서 배포하던 수호천사 프로그램에는 게임 이용량 수집 기능이 추가되었는데 버그가 많아서 사장되었습니다. 해당 개발팀의 역량이 조금 부족했던 모양이지만 이를 통해서 보듯 이미 전체 집단을 대상으로 한 통계조사는 충분히 가능하다고 볼 수 있습니다.
----------------------------------------------------------------------------------
말구님의 말씀에도 옳은 것이 많지만 저는 근본적으로 현재의 게임통계는 문제점이 많다고 봅니다. 친한 친구들이 좀 있다고 칩시다. 친구들이 요즘 무슨 게임을 하고 있는지 알고 싶습니다. 그렇다면 보통 전화를 하겠죠.
'OO야. 요즘 뭐하는데?'
'뭐하긴 일하지'
'아니 그거말고 무슨 게임하는데?'
인맥이 넓어서 친구가 좀 많다는 분은 단체 이메일 보내서 물어봐도 됩니다.
그런데 얼마 되지도 않는 친구들을 각 지역별로 분류하여 표본집단을 선정하고 통계수치화하는 것이 좋을까요? 아니면 그냥 전화나 이메일로 묻는게 좋을까요? 모든 조사대상에게 직접 접근할 수 있다면 후자의 방법이 더 신뢰도가 높을 것입니다.
어쨌든, 위에서 말한 것과 같이 현재의 게임통계들, 특히 가장 영향력 있는 게임트릭스의 신뢰도에는 수정이 이루어져야합니다. 그리고 관련업계에서 자료를 인용할 때에는 타 통계자료와 함께 병기하는 등의 노력이 있어야 할 것입니다.
덧붙임 #1 : IPCA 가 돈을 왕창 벌어서 회원 업주들에게 회원비 10원만 거두고도 연명할 수 있는 방법이 있습니다. 왜 자신들이 가진 가장 유용한 자산, 매장의 컴퓨터들을 무기화하지 않을까요? 단순히 무슨 게임의 프로세스가 언제부터 언제까지 실행되었다는 것만 조사하여 중앙 DB 로 전송하는 수 KB 의 프로그램만 만들어 배포하면 됩니다. 시스템에 거의 부담없는 프로그램을 협회차원에서 널리 홍보하여 업주들이 자발적으로 설치하게 할 수 있습니다. 그리고 DB를 통계수치화하여 지금의 게임트릭스처럼 서비스한다면 어떻게 될까요? 엄청난 무기를 손에 넣는 것입니다. 국내 게임업계 역사상 최초로 전수조사가 이루어지며 이는 상당한 의미를 가집니다. 더이상 불매운동의 영향 분석을 타 업체에 맡기지 않아도 됩니다. 거대 업체 위주의 게임판에서 소규모 영세업체에게 힘을 실어줄 수도 있습니다. 그러니까 정치놀음 하지 마시고 돈 벌 궁리부터 하는 게 어떨까요?
- 포인트
- 1743
- T-Coin
- 70
-
에러 BEST 11.12.19 10:39 삭제 공감5
-