p-value의 허와 실

Written on March 9, 2018

http://www.statground.org/index.php?mid=FreeArticles&document_srl=6001

질문: 왜 그토록 많은 대학(원) 들이 p=0.05 를 가르치는가?
답: 왜냐하면 과학 커뮤니티와 저널 편집인들이 여전히 그것을 사용하고 있기 때문이다.
질문: 왜 그토록 많은 사람들이 여전히 p=0.05 를 사용하는가?
답: 왜냐하면 그것이 그 사람들이 대학(원)에서 배운 것이기 때문이다.

“그것은 과학의 가장 더러운 비밀이다: 그것은 미약한 근거 위에 서 있는, 통계적 분석에 의한 가설 검정의 ‘과학적인 방법’ 이다.”

“문제는 사람들이 P-value를 잘못 사용하고 있다는 것이 아니라, 대부분의 데이터분석이 그것을 하기에 잘 훈련된 사람들에 의해 수행되지 않고 있다는 것이다.”

p-value를 쓰지 말자는 것이 아니다. p-value를 정확히 이해하고 쓰자.
어디 밝히긴 그렇지만.. 영가설 검정의 허점을 이용해서 실험 결과를 뽑아낸다는 것이 놀라운 이야기는 아니다. 그리고 그것을 방지하는 제도는 없으며, 일차적 검증은 전적으로 실험자에게 맡겨져있다.(선언문 원칙 4번 참조) 유명한 논문이라면 피어리뷰나 재현성에서 걸리겠지만 그렇지 않다면 그대로 묻히게 된다.
p-value는 만능이 아니다. 그렇다고 무능도 아니다. 다만 제대로 써야할 뿐이다.


25.5.18 에 덧붙임
Power Pose가 대표적인 p-hacking 이었다는 말이 있었다.
이 기사가 완전 꿀잼… 한국어로 된 글에서는 찾을 수 없는 심도와 수준이 녹아있는 기사.
Simmons와 Cuddy의 인물적 묘사도 훌륭하고 심리학계의 통계 방법론을 둘러싼 이야기를 아주아주아주 잘 보여주는 글.
P-value 논의를 떠나서… Cuddy의 상황과 심리학계의 여러… 뭐랄까 끔찍한 면들이 있는듯. 가슴아프다.
https://www.nytimes.com/2017/10/18/magazine/when-the-revolution-came-for-amy-cuddy.html