결정계수가 음수로 나왔다 — 직접 만든 뇌파 측정기와 바이노럴 비트

어떤 질문에서 시작했나

다섯 명이 팀으로 진행한 연구입니다. 출발점은 흔한 의심이었습니다. 스트리밍 플랫폼에 널린 "공부할 때 듣는 주파수" 영상은 조회수가 수백만인데, 정말 효과가 있는가. 양쪽 귀에 각각 다른 주파수를 들려주면 뇌가 그 차이만큼의 주파수를 지각한다는 바이노럴 비트가, 단순한 플라시보가 아니라 실제 생리적 반응을 일으키는지 확인해 보기로 했습니다.

여기에 두 번째 질문이 붙었습니다. 고가의 의료용 EEG 장비 없이, 아두이노와 저렴한 증폭 모듈만으로 의미 있는 뇌파 데이터를 얻을 수 있는가. 이 두 번째 질문이 결국 첫 번째 질문의 답을 가로막게 되지만, 그 사실을 정직하게 적어 둔 것이 이 사례의 진짜 값어치입니다.

어떻게 확인했나

먼저 측정 장비를 직접 만들었습니다. 뇌파는 수십에서 수백 마이크로볼트 수준이라 아두이노 자체 분해능으로는 잡히지 않습니다. 그래서 EEG 전극에서 나온 차동 신호를 AD620 계측 증폭기로 키운 뒤 아두이노 아날로그 입력으로 받았습니다. 전극은 국제 10-20 시스템을 따라 이마와 정수리 쪽에 활성·참조·접지 세 개를 붙였고, 부착 전 알코올 솜으로 유분을 닦아 접촉 저항을 낮췄습니다. 60Hz 전원 잡음을 줄이려고 알루미늄 호일로 회로 전체를 감싸 패러데이 케이지를 만든 것도 이 단계의 작업입니다.

실험은 피험자 15명을 대상으로 했습니다. 노이즈 캔슬링 헤드폰을 씌우고 독립변인인 청각 자극을 세 가지로 두었습니다. 무자극(통제), 이완과 관련된 6Hz 바이노럴 비트, 집중과 관련된 18Hz 바이노럴 비트입니다. 각 조건에서 3-back 형태의 시각 N-back 과제를 3회씩, 한 사람당 총 9회 수행하게 했습니다. 도형 세 가지를 무작위로 20회 제시하고 2.5초 안에 세 번째 전 도형과 같은지 판단하게 하는 과제였습니다. 15명 곱하기 3조건 곱하기 3회로 135회 시행 데이터를 모았습니다.

뇌파는 0.4초 간격 창으로 고속 푸리에 변환을 걸어 알파파와 베타파 대역의 파워를 뽑고, 시행마다 평균을 내어 정답률과 짝지었습니다. 이 데이터셋을 Orange 3에 넣어 상관분석과 회귀분석을 돌렸습니다.

무엇이 나왔나

거시적인 통계에서는 원하는 답이 나오지 않았습니다.

R² 칸의 세 숫자는 각각 알파-정답률, 베타-정답률, (베타/알파)-정답률 모델의 값입니다.

피어슨 상관계수는 아홉 칸 모두 음수였고 절댓값도 작았습니다. 더 분명한 신호는 결정계수 쪽입니다. 베타파 유도 집단을 제외한 여섯 모델에서 결정계수가 음수로 나왔습니다. 결정계수가 음수라는 것은 세운 회귀 모델이 그냥 전체 평균으로 예측하는 것보다도 못하다는 뜻입니다. 베타 조건의 양수 값도 0.114가 최대입니다.

팀은 이 지점에서 보고서에 이렇게 적었습니다. 원본 데이터를 기반으로 한 회귀 분석에서는 통계적으로 유의미한 결론을 도출하기 어렵다고 판단하는 것이 타당하다. 결과가 안 나온 것을 안 나왔다고 쓴 것입니다. 학생 연구에서 이 문장을 쓰는 일은 생각보다 드뭅니다.

그러면서 보고서는 다른 근거도 함께 제시합니다. 개별 시행을 시각화해 보니 뇌파 수치의 절대적 크기는 시행마다 달랐지만, 18Hz 조건의 시행이 상대적으로 높은 정답률을 기록하는 빈도가 확연히 높았다는 관찰입니다. 팀은 이를 가설을 정성적으로 지지하는 증거로 결론에 올렸습니다.

즉 이 연구의 통계는 가설을 뒷받침하지 않았고, 팀은 통계 밖의 관찰을 근거로 방향성을 읽었습니다. 두 서술이 보고서 안에 나란히 있습니다. 어느 쪽을 결론으로 삼을 것인가가 실험이 실패했을 때 쓰는 법이 다루는 바로 그 갈림길입니다. 어느 쪽을 택하든 통계가 뒷받침하지 않았다는 사실과 눈으로 읽은 경향을 같은 무게로 적어 두면, 읽는 사람이 스스로 판단할 수 있습니다.

가장 막혔던 지점 — 다음 사람이 밟지 않을 지뢰

이 팀이 스스로 찾아낸 한계 목록은 그 자체로 좋은 실험 설계 점검표입니다.

모든 피험자가 같은 순서로 수행했습니다. 무자극, 6Hz, 18Hz 순서가 15명 모두 동일했습니다. 그러면 뒤로 갈수록 과제에 익숙해져 성적이 오르는 숙련 효과와, 자극의 효과를 구분할 방법이 없어집니다. 하필 마지막에 온 조건이 결론에서 효과를 인정받은 18Hz입니다. 해법은 사람마다 순서를 섞는 역균형화입니다. 통제 설계에서 자주 나오는 실수는 통제군을 잘못 잡는 경우들에 모아 두었습니다.

조작 점검이 없었습니다. 자극을 준 뒤 실제로 목표 대역의 뇌파 파워가 올라갔는지를 안정 상태와 비교해 검정하지 않았습니다. 이것이 빠지면 결과가 어느 쪽으로 나오든 해석이 막힙니다. 유도가 안 된 것인지, 유도는 됐는데 집중력에 영향이 없는 것인지 구분할 수 없기 때문입니다. 자극을 주는 실험이라면 가장 먼저 설계에 넣어야 하는 절차입니다.

0.4초 창의 주파수 분해능이 약 2.5Hz였습니다. 창 길이가 짧을수록 주파수 눈금이 성겨집니다. 2.5Hz 눈금으로는 알파파와 베타파의 경계인 13Hz 부근을 갈라낼 수 없습니다. 알파파 파워와 베타파 파워를 따로 계산했다고 믿었지만 실은 두 값이 섞여 있었을 수 있다는 뜻입니다. 게다가 이 사실은 데이터를 다 모은 뒤에 확인됐습니다.

측정 장비 자체의 조건을 확정하지 못했습니다. 샘플링 레이트가 불분명해 13Hz 이상 고주파에서 앨리어싱이 생겼을 수 있고, 전극을 2~3명당 한 번만 교체해 접촉 저항이 올라갔을 가능성도 팀이 스스로 적었습니다. 권장 임피던스가 100Ω에서 5,000Ω 사이인데 전도성 겔 없이 건식으로 붙인 것도 함께 걸립니다.

눈 깜박임 잡음 제거가 미흡했습니다. 이마 전극은 눈 움직임 전위를 그대로 받습니다. 전처리에서 이 성분을 분리하지 않으면 뇌파라고 믿고 분석한 값의 상당 부분이 눈 깜박임일 수 있습니다.

여기에 표본 15명이라는 조건이 겹칩니다. 당초 목표는 20명이었습니다. 조건당 45회 시행이라도 사람 수가 적으면 개인차가 결과를 덮습니다. 표본이 작을 때 무엇을 조심해야 하는지는 표본이 작을 때에 있습니다.

다음 사람에게

이 사례에서 가져갈 것은 장비 제작 노하우가 아닙니다. 자기 연구의 약점을 자기 손으로 다섯 가지나 찾아내 목록으로 남겼다는 점입니다. 심사자가 지적하기 전에 스스로 적은 한계는 감점 요인이 아니라 연구를 읽을 수 있게 만드는 정보입니다. 한계를 쓰는 요령은 한계를 쓰는 법에 정리되어 있습니다.

그리고 순서 하나만 바꿨다면 이 연구는 전혀 다른 보고서가 됐을 것입니다. 역균형화와 조작 점검은 장비를 더 사지 않아도, 돈을 더 쓰지 않아도 넣을 수 있는 설계입니다. 구분하려는 대역의 경계를 먼저 적고 그 경계를 가를 수 있는 창 길이인지 계산하는 것도 마찬가지입니다. 데이터를 모으기 전에 이 세 가지를 확인하세요.

함께 볼 것

• 실험이 실패했을 때 쓰는 법 — 가설과 다른 결과를 결론에 어떻게 담을 것인가
• 한계를 쓰는 법 — 스스로 찾은 한계를 변명이 아닌 정보로 적는 방법
• 대조군 설정에서 자주 나오는 실수 — 조건 순서와 조작 점검
• 표본이 작을 때 — 목표 20명이 15명이 되었을 때 할 수 있는 서술
• 통계 결과를 정직하게 읽는 법 — 상관계수와 결정계수를 읽는 기준