소셜 미디어 연구 표본, 같은 검색을 두 번 하면 절반이 바뀐다
소셜 미디어 검색 결과를 연구 표본으로 쓰기 전에 표본이 안정적인지 검증하세요. 2026년 10월 24일, 같은 쿼리를 2분 뒤 다시 실행하자 X, YouTube, TikTok에서는 결과의 절반 정도만 일치했습니다. 이 글에서는 삭제, 중복, 시간 범위, DSA 제40조 현황도 함께 다룹니다.

소셜 플랫폼의 키워드 검색은 고정된 표본을 주지 않습니다. 2026년 10월 24일(이 글의 시각은 싱가포르 시간, UTC+8 기준), 같은 쿼리 4개를 약 2분 뒤 다시 보냈습니다. 매번 결과 25건을 가져왔습니다. X, YouTube, TikTok에서 두 실행 간 Jaccard 중첩도는 0.47~0.56에 불과했습니다. 두 번째 실행의 “새” 항목은 모두 첫 번째 실행 이전에 게시된 것이었습니다.
2시간 뒤 세 번째 실행에서 첫 번째 실행과의 중첩도는 X 0.52, TikTok 0.22였지만 YouTube는 0.92였습니다. 따라서 쿼리 시각, 전체 파라미터, 원본 응답을 기록하세요. 각 쿼리를 여러 번 수집하고 중첩도를 보고하세요. 그렇지 않으면 다른 연구자가 표본을 재현할 수 없고, 여러분 자신도 내일 재현할 수 없습니다.
이 글은 소셜 미디어나 검색 데이터를 사용하는 연구팀을 위한 글입니다. 커뮤니케이션 연구, 공중보건, 정치학, 계산사회과학, 팩트체크 조직 등이 해당합니다. 검증할 수 있는 데이터 방법론과 수치를 설명하며, 법률 자문은 제공하지 않습니다. 플랫폼 약관과 EU 디지털서비스법(DSA)은 원문을 읽고, 프로젝트에 관해서는 소속 기관의 윤리위원회와 법무 부서에 문의하세요.
지금 표본을 점검해야 하는 이유
지난 두 달 동안 플랫폼 데이터에 접근하는 여러 경로가 바뀌었습니다.
- Reddit은 공개 데이터 API 종료 일정을 정했습니다. Reddit은 2026년 9월 30일 r/redditdev에 일정을 게시했습니다. 10월 31일부터 새 공개 API 요청을 받지 않습니다. 2027년 1월 12일부터는 등록하지 않은 앱의 접근을 차단하기 시작합니다. 2027년 3월에는 남은 모든 앱의 공개 접근이 종료됩니다. TechCrunch는 같은 날 연구자들이 쓰는 도구도 영향을 받는다고 보도했습니다.
- Reddit 규칙 8은 삭제된 콘텐츠의 사용을 금지합니다. 10월 24일에 Reddit 도움말 페이지 “Don't break the site”를 확인했습니다. 이 페이지에 따르면 앱은 “사용자가 삭제했거나 Reddit 규칙 위반으로 제거된 공개 콘텐츠를 계속 사용하거나 표시”해서는 안 됩니다. 또한 “승인된 계약 없이” 스크래핑하는 행위를 위반 가능 사례로 듭니다.
- DSA 제40조 신청 접수가 시작됐지만 공개된 성공 사례는 아직 없습니다. Oliver Marsh는 독일 NGO AlgorithmWatch 소속입니다. 그는 10월 2일 DSA Observatory에 게재한 글에서 2026년 7월까지 제40조 제4항에 따른 신청이 77건 있었다고 썼습니다. 알려진 성공 사례는 한 건도 없었습니다. 아일랜드 규제 기관 Coimisiún na Meán은 2025년 연례 보고서를 10월 7일 발표했습니다. 81쪽에는 이 조항이 2025년 10월 29일 발효되었고 첫 신청이 접수되었다고 적혀 있습니다.
- Reddit은 이제 초대형 온라인 플랫폼입니다. 8월 31일 유럽연합 집행위원회는 Reddit과 Roblox를 초대형 온라인 플랫폼(VLOP)으로 지정했습니다. ChatGPT는 초대형 온라인 검색엔진(VLOSE)이 되었습니다. 이들은 2027년 1월까지 4개월 안에 VLOP 추가 의무를 준수해야 하며, 제40조 데이터 접근도 그중 하나입니다. 따라서 Reddit 공개 API 종료와 DSA 연구 의무 시작이 같은 분기에 맞물립니다.
데이터 경로가 좁아질수록 연구자는 자신의 표본이 얼마나 완전한지 입증해야 합니다. 아래 테스트는 이를 적은 비용으로 확인하는 방법입니다.
테스트: 쿼리 하나, 실행 세 번
기준을 먼저 정했습니다. 이 규칙은 세 번째 실행 전에 정했습니다. 같은 쿼리를 두 번 실행했을 때 Jaccard 중첩도가 0.9 이상이면 해당 엔드포인트는 한 번만 실행해도 충분합니다. 0.9 미만이면 여러 번 수집해 합집합과 중첩도를 보고합니다. 새 항목이 첫 번째 실행 이전에 게시된 것이라면 새 게시물이 아니라 순위나 샘플링 차이로 봅니다.
설정. 플랫폼 4개, 엔드포인트 4개, 모든 실행에 같은 파라미터, 호출당 결과 25건:
- Reddit 검색 API (
reddit/search): 키워드Digital Services Act,sort=newest. - Twitter (X) 검색 API (
twitter/search): 따옴표로 묶은 키워드"Digital Services Act",sort=latest. - YouTube 검색 API (
youtube/search): 키워드Digital Services Act, 기본 관련성 순. - TikTok 검색 API (
tiktok/search): 키워드climate change,content_type=video.
실행 A는 12:13~12:15, 실행 B는 12:16~12:17, 실행 C는 14:15~14:18에 진행했습니다. 제목이 아닌 항목 ID로 비교했습니다.
결과.
- X: 실행 A와 B는 25개 중 18개 항목이 겹쳤습니다. Jaccard 중첩도는 0.56이었고, 상위 10개 중 7개가 일치했습니다. 실행 B의 새 항목 7개는 2022년 4월부터 2026년 8월 사이에 게시되었습니다. 두 실행 사이에 올라온 항목은 없었습니다. 실행 C의 Jaccard는 실행 A와 0.52, 실행 B와 0.43이었습니다. 세 실행에서 서로 다른 항목 39개가 나왔고, 세 번 모두 나온 항목은 14개뿐이었습니다. 실행 C의 새 항목 7개 중 가장 최근 것은 10월 20일에 게시되었습니다.
- YouTube: 겹친 항목 16개, Jaccard 0.47이었고, 상위 10개 중 일치한 것은 4개뿐이었습니다. 실행 B의 새 항목 9개는 2022~2025년에 게시되었습니다. 실행 C는 실행 A와 Jaccard 0.92(항목 1개만 다름)였지만 실행 B와는 0.43이었습니다. 실행 B는 다른 결과 집합이 나타났다가 2시간 뒤 다시 사라진 것으로 보입니다. 세 실행에서 서로 다른 항목 35개가 나왔고, 세 번 모두 나온 항목은 15개였습니다.
- TikTok: 겹친 항목 16개, Jaccard 0.47. 그러나 상위 10개 중 9개가 일치해 변화는 대부분 12위 아래에서 일어났습니다. 새 항목 9개 중 가장 최근 것은 10월 24일 00:11 UTC, 즉 실행 A 이전에 게시되었습니다. 2시간 뒤에는 차이가 더 커졌습니다. 실행 C는 실행 A와 Jaccard 0.22, 실행 B와 0.19였습니다. 세 실행에서 서로 다른 항목 49개가 나왔고, 세 번 모두 나온 항목은 7개뿐이었습니다. 실행 C의 새 항목 15개 중 가장 최근 것은 10월 23일 23:50 UTC에 게시되어 역시 실행 A 이전이었습니다.
- Reddit(최신순): 실행 A와 B는 같은 항목 25개를 같은 순서로 반환했습니다. 2시간 뒤 실행 C에서는 25개 모두 05:15~06:12 UTC에 올라온 새 게시물이었습니다. 최신순 범위는 시간이 지나면 앞으로 이동합니다. 그것이 “최신순”의 의미이므로 불안정성으로 보지 않았습니다.
우리가 정한 규칙에 따르면 X, YouTube, TikTok의 키워드 검색은 한 번의 실행으로 재현 가능한 표본을 주지 않습니다. 0.9를 넘은 쌍은 YouTube 실행 A와 C뿐이었지만, 그 사이의 실행 B는 0.47이었습니다. 따라서 실행 한 쌍에서 높은 중첩도가 한 번 나왔다고 해서 증명되는 것은 없습니다.
이는 도구의 결함이 아닙니다. EveryInfra 기능 카탈로그에는 X가 기본적으로 “Top” 결과를 반환하며 latest도 엄격한 시간순을 보장하지 않는다고 적혀 있습니다. Google의 YouTube Data API 문서도 totalResults가 “근사치이며 정확한 값이 아닐 수 있다”고 밝힙니다. 관련성 순 검색은 고정된 목록이 아닙니다.
이 결과의 한계: 하루 동안 쿼리 4개를 각 25건씩 세 번 실행해 테스트했습니다. 전체 아카이브나 더 긴 기간에 적용하지 마세요. Reddit의 안정적인 결과는 2분 간격의 최신순 정렬에 해당합니다. Reddit의 관련성 순 정렬이 안정적이라는 뜻은 아닙니다.
키워드 매칭 범위는 생각보다 넓다
같은 테스트에서 두 번째 문제도 드러났습니다. Reddit에서 여러 단어로 된 키워드를 따옴표 없이 검색하면 구문이 아닌 개별 단어와 매칭됩니다.
- 실행 A에서 따옴표 없는
Digital Services Act(최신순)는 게시물 25건을 반환했습니다. 제목이나 본문에 전체 구문이 들어간 게시물은 한 건도 없었습니다. 22건은 단어(digital, service, act) 중 하나 이상을 포함했습니다. 게시물은 카지노 광고, 연애 상담, 게임 아이템 거래였습니다. - 12:21에 따옴표를 넣은
"Digital Services Act"를 역시 최신순으로 보냈습니다. 검색 결과는 3건이었고, 3건 모두 전체 구문을 포함했습니다. Instagram 계정 이의 제기, 사기 데이팅 사이트 경고, 임대 사기에 관한 독일어 게시물이었습니다. 카탈로그에 따르면 이 엔드포인트는 최근 한 달을 검색하므로, 이 3건이 해당 기간에 최신순 검색으로 얻을 수 있는 전부입니다. 14:17에도 같은 3건이 다시 나왔습니다.
관련성 확인도 잘못될 수 있습니다. TikTok 결과에서 처음에는 텍스트에 “climate change”가 들어간 게시물을 셌습니다. 25건 중 4건만 일치했습니다. 이어서 해시태그에서 #과 공백을 제거하고 다시 매칭했습니다. 그러자 25건 중 23건이 일치했습니다. 처음에 놓친 동영상 19개에는 #climatechange만 있었습니다.
연구에 주는 시사점은 다음과 같습니다. 키워드로 뽑은 표본을 직접 검토하고 무관한 항목의 비율을 보고해야 합니다. 9월 22일 공개된 ISAAC 코퍼스(arXiv:2609.27059)는 Reddit 게시물 527백만 건 이상을 선별했습니다. 저자들은 사람이 검수하는 다단계 필터로 무관한 콘텐츠를 10% 미만으로 유지했고, 그룹별로 이 비율을 보고합니다. 이런 단계가 없으면 "DSA에 관한 Reddit 논의" 표본의 대부분이 카지노 광고일 수 있습니다.
같은 항목, 다른 엔드포인트, 다른 수치
연구에서는 좋아요, 조회수, 댓글 수를 결과 변수나 가중치로 자주 사용합니다. 10월 24일 12:16~12:21에 검색 결과의 수치와 단일 항목 엔드포인트의 수치를 비교했습니다.
- YouTube: 2026년 6월 게시된 동영상의 좋아요는 검색에서 4,650개였습니다. 12:19에 YouTube 동영상 상세 정보 API는 4,600개를 반환했습니다. 조회수(48,406회)와 댓글 수(590개)는 같았고, 14:18에도 바뀌지 않았습니다. 좋아요 차이는 실제 변화가 아니라 표시 정밀도에서 비롯됩니다.
- TikTok: The Guardian이 10월 23일 게시한 기후 동영상은 12:17 검색에서 조회수 671,900회, 좋아요 90,300개, 댓글 3,068개였습니다. 12:19에 TikTok 동영상 상세 정보 API는 673,500, 90,500, 3,074를 반환했습니다. 2분 30초 만에 조회수가 1,600회 늘었습니다. 이 동영상의 조회수와 좋아요는 100 단위로 끊긴 값이었지만 댓글 수는 정확한 값이었습니다. 14:17에 다시 확인하니 조회수 767,600회, 좋아요 101,600개, 댓글 3,402개였습니다. 2시간 만에 조회수가 약 14% 늘었습니다.
- X: 유럽연합 집행위원회가 8월 31일 지정에 관해 올린 게시물을 확인했습니다. 검색과 X (Twitter) 게시물 상세 정보 API 모두 조회수 6,523,789회, 좋아요 4,668개를 반환했습니다. 14:17에는 조회수 6,523,800회, 좋아요는 여전히 4,668개였습니다. 마지막 두 자리가 0이 되었습니다. 반올림일 수도 있고 조회수가 11회 늘어난 것일 수도 있습니다. 항목 하나로는 어느 쪽인지 알 수 없으므로 각 수치의 정밀도도 함께 기록하세요.
따라서 모든 수치와 함께 두 가지를 저장하세요. 초 단위까지 기록한 조회 시각과, 그 수치를 반환한 엔드포인트입니다. 새 게시물은 처음 며칠 동안 수치가 빠르게 늘어납니다. 같은 날의 오전 수치와 오후 수치를 같은 값처럼 비교하지 마세요.
중복과 재게시: 한 계정이 9분 동안 올린 게시물 4건
관련 없는 Reddit 게시물 25건 중 4건은 한 계정에서 나왔습니다. 이 계정은 9분 안에(03:39~03:48 UTC) 서로 다른 커뮤니티 4곳에 게시물을 올렸습니다. 본문은 거의 같았습니다. 연속 5단어 묶음(shingle)의 Jaccard 유사도는 0.93~0.99였습니다. 다른 계정 하나는 서로 관련 없는 커뮤니티 3곳에 카지노 광고 3건을 올렸습니다.
연구 질문이 “이 주제를 얼마나 많은 사람이 논의하는가”라면 이 4건은 하나의 목소리로 세야 합니다. 질문이 “콘텐츠가 커뮤니티 간에 어떻게 확산되는가”라면 이 게시물들이 바로 남겨야 할 신호입니다. 다음 방법을 권장합니다.
- 텍스트를 정규화합니다. 링크와 문장 부호를 제거하고 소문자로 바꿉니다.
- 연속 5단어 묶음(shingle)의 Jaccard 유사도가 0.6 이상인 쌍을 유사 중복으로 표시합니다.
- 작성자와 시간 범위(예: 같은 작성자, 1시간 이내)를 기준으로 재게시, 교차 게시, 스팸을 구분합니다.
- 중복 제거 전후의 표본 크기를 보고합니다.
Google Maps의 매장 레코드에도 같은 논리가 적용됩니다. 플랫폼 ID는 레코드가 존재한다는 사실을 알려 줄 뿐, 그 레코드가 독립된 목소리나 개체라는 사실까지 알려 주지는 않습니다.
삭제와 공개 범위: 표본은 줄어든다
콘텐츠는 사라지기도 합니다. 작성자가 게시물을 삭제하거나 플랫폼이 제거하고, 계정이 폐쇄되거나 비공개로 전환됩니다.
- Ruiz 연구팀의 PoliTok-DE 데이터셋(arXiv:2509.15860)에는 독일 선거 두 차례에서 수집한 TikTok 게시물 930,000건 이상이 담겨 있습니다. 이 중 330,000건 이상이 이후 삭제되었습니다. 작센주 표본에서는 18.7%, 연방 선거 표본에서는 39.7%입니다. 연방 선거 표본에서 삭제된 게시물의 약 삼분의 이는 크리에이터가 직접 삭제했습니다.
- Zubiaga (2018, JASIST)는 트윗 147백만 건 이상이 담긴 Twitter 데이터셋 30개를 다시 수집했습니다. 오래된 데이터셋일수록 아직 접근 가능한 비율이 낮았습니다. 팔로워 수 같은 메타데이터도 시간이 지나면서 대표성이 떨어졌습니다.
동시에 플랫폼 약관은 연구자에게 삭제를 요구합니다.
- TikTok Research Tools Terms는 2026년 1월 22일부터 적용됩니다. 연구 데이터는 최소 30일마다 갱신해야 합니다. 갱신할 때마다 더 이상 이용할 수 없는 데이터는 삭제해야 합니다. 심사를 통과한 DSA 연구자는 신청서에서 이런 규칙이 왜 연구를 가로막는지 설명할 수 있습니다.
- X Developer Policy에 따르면 저장한 X 콘텐츠는 X의 현재 상태와 일치해야 합니다. X에서 콘텐츠가 바뀌면 사본도 바꿔야 합니다. 합리적으로 가능한 한 빨리, 또는 요청 후 24시간 이내에 처리해야 합니다. 학술 연구자는 X가 서면으로 승인한 비상업적 연구나 동료 평가를 위해 Post ID를 공유할 수 있습니다.
- 앞서 인용한 Reddit 규칙 8은 앱이 삭제된 공개 콘텐츠를 계속 사용하는 것을 금지합니다.
여기서 충돌이 생깁니다. 재현성을 위해서는 원래 표본이 필요하지만, 약관과 개인정보 보호를 위해서는 삭제해야 합니다.
Political Communication에 실린 2026년 리뷰는 “재현을 위한 데이터 공유의 한계”를 제40조의 초기 과제로 꼽습니다. 현실적인 방법은 이렇습니다. ID 목록, 쿼리 파라미터, 수집 시각, 집계 통계를 공개합니다. 전체 텍스트는 통제된 환경에만 보관하고 약관에 따라 삭제합니다. 다시 수집할 때마다 여전히 가져올 수 있는 비율을 보고합니다. 삭제율을 논문의 결과로 다루고, 표본을 조용히 바꿔치기하지 마세요.
샘플링 편향: 연구용 인터페이스도 일부만 보여 준다
많은 사람이 플랫폼 자체의 연구용 인터페이스가 전체 데이터를 제공한다고 생각합니다. 최근 검증 연구 결과는 이를 뒷받침하지 않습니다:
- arXiv:2601.12390에서 Bekavac과 Mayer는 선거 기간에 통제된 테스트 계정 2개의 전체 피드를 재구성했습니다. 그리고 이 피드를 TikTok Research API와 Meta Content Library가 같은 게시물에 대해 반환하는 데이터와 비교했습니다. 연구용 인터페이스에서는 사용자가 본 콘텐츠가 최대 약 50% 누락됐고, 맥락 메타데이터는 최대 약 83% 누락됐습니다. 제한 사항 중 하나는 주당 요청 한도가 약 1,000건에 불과하다는 점이었습니다.
- Meta Content Library 페이지에는 개인 계정 게시물의 포함 기준이 있습니다. 계정이 인증되었거나 팔로워가 100명 이상인 경우에만 해당 계정의 게시물을 포함합니다. 소규모 개인 계정은 설계상 제외됩니다.
- 8월 10일 공개된 WhichTok(arXiv:2608.09917)은 TikTok 수집 도구 세 가지, 즉 TikTok Research API와 웹 기반 도구 2개를 비교했습니다. 해시태그와 키워드 검색에서 차이가 가장 컸습니다. 세 도구 모두에서 일관된 결과를 준 것은 사용자 엔드포인트뿐이었습니다.
- 2025년 arXiv:2506.09746은 데이터 기부로 받은 동영상을 테스트했습니다. TikTok Research API는 그중 약 8개 중 1개에 대해 메타데이터를 반환하지 않았으며, 여기에는 TikTok 자체 동영상과 광고도 포함되었습니다.
- 이 문제는 오래되었습니다. Morstatter 연구팀(2013)은 Twitter의 샘플링된 Streaming API를 전체 Firehose와 비교했습니다. Pfeffer 연구팀(2023)에서는 연구자 80명이 2022년 9월 21일부터 24시간 동안 올라온 트윗 375백만 건 전체를 수집했습니다. 이 데이터셋은 후속 연구의 기준선이 됩니다.
따라서 데이터 경로마다 그 경로가 무엇을 빠뜨리는지 기록하세요. 가능하면 독립된 두 번째 경로로 표본 일부를 확인하세요. 앞서 살펴본 검색 결과와 상세 정보 비교가 적은 비용으로 할 수 있는 예입니다.
시간 범위: “최근”의 의미는 제각각이다
키워드 검색의 시간 범위는 직접 정할 수 없는 경우가 많습니다.
- 카탈로그에 따르면 Reddit 키워드 검색은 최근 한 달을 다루며, 정렬 순서를 바꿔도 이 범위는 바뀌지 않습니다.
- X의 실행 A는
latest를 사용했지만, 게시물 25건은 2024년 8월부터 2026년 10월 사이에 게시되었습니다(2024년 5건, 2025년 11건, 2026년 9건). - 관련성 순 YouTube 결과 25건은 2020년부터 2026년 사이에 게시되었습니다.
시계열 분석에서는 관련성 순 검색을 “특정 기간의 모든 논의”로 간주하지 마세요. 커뮤니티, 계정, 채널 단위로 수집하고 posted_at으로 필터링하세요. 또는 X 키워드에 플랫폼 자체의 날짜 구문을 사용하세요(twitter/search의 카탈로그 설명에 since: 같은 구문이 나와 있습니다). 연구 방법 섹션에는 데이터가 실제로 다루는 시작일과 종료일을 명시하세요.
DSA 제40조, 시행 1년 만에 어디까지 왔나
디지털서비스법 제40조는 연구자에게 두 가지 경로를 제공합니다.
- 제40조 제12항, 공개 데이터. VLOP와 VLOSE는 인터페이스에서 공개적으로 접근 가능한 데이터에 대해 "부당한 지체 없이", "기술적으로 가능한 경우 실시간 데이터를 포함하여" 접근을 제공해야 합니다. 조문은 "비영리 단체, 조직 및 협회에 소속된" 연구자도 대상에 포함합니다. 2025년 12월 5일 집행위원회는 X에 첫 DSA 과징금 120백만 유로를 부과했습니다. 위반 사항 중 하나는 "연구자에게 공개 데이터 접근을 제공하지 않은 것"이었습니다. Tech Policy Press가 이 결정을 정리했습니다. X는 스크래핑을 포함해 독립 연구자의 접근을 금지했습니다. 할당량과 이용 기간도 지나치게 제한적이었습니다.
- 제40조(4), 비공개 데이터. 심사를 거친 연구자(vetted researcher)는 자국의 디지털 서비스 조정관(DSC)을 통해 신청합니다. 관련 규정은 2025년 10월 29일부터 적용되는 위임규정(EU) 2025/2050에 담겨 있습니다. 신청은 DSA 데이터 접근 포털에서 합니다. DSC가 근거가 명시된 요청서를 발부하는 데에는 최대 80영업일이 걸릴 수 있습니다. 플랫폼은 데이터 카탈로그를 공개하고 갱신해야 합니다. 전문은 집행위원회의 위임법 페이지에서 볼 수 있습니다. 아일랜드 DSC는 2026년 5월 지침 제2판을 발표했습니다.
최근 1차 자료를 바탕으로 정리한 현황은 다음과 같습니다.
- AlgorithmWatch의 신청은 제출 80영업일 만에 아일랜드 DSC로부터 반려되었습니다. 사유는 데이터 저장과 사이버 보안에 관한 설명이 부족하고, 데이터 양이 왜 비례적인지 설명하지 않았다는 것이었습니다. 다시 제출한 뒤에도 80영업일을 더 기다려야 했습니다. 제40조(12)에 따라 약 20개 단체가 6개 플랫폼에 각 회원국에서 6시간마다 조회수 상위 1,000개 게시물을 요청했습니다. 협의는 2025년 10월에 시작되었지만 지금까지 동의한 플랫폼은 없습니다(DSA Observatory, 10월 2일).
- ICWSM 2026 논문 The Great Data Standoff는 핵심 문제를 이렇게 짚습니다. 연구자는 필요한 데이터를 특정해야 하지만, 플랫폼이 어떤 데이터를 보유하고 있는지는 알 수 없습니다. 카디프대학교의 Taylor Annabell은 Media, Technology and Governance (2026)에서 공개된 데이터 카탈로그를 분석합니다. Annabell은 플랫폼이 “데이터”를 사전에 정의되고 집계된 데이터셋으로 좁히고 있다고 주장합니다.
- Smart Data Research UK가 자금을 지원한 Social Platforms Data Access Taskforce의 최종 보고서가 9월 9일 공개되었고 10월 6일 리포지토리에 등록되었습니다. 이 보고서는 연구자들이 겪는 장벽에 관해 1년간 수집한 자료를 종합합니다.
- 플랫폼 투명성 데이터에도 한계가 있습니다. arXiv:2610.26226(10월 19일)에 따르면 DSA Transparency Database에 있는 결정의 99.8% 이상이 법 조항이 아니라 플랫폼 자체 약관을 근거로 듭니다.
연구 설계에 주는 시사점: 제40조는 시도할 가치가 있는 경로이지만, 몇 주가 아니라 몇 년이 걸립니다. 그동안 공개 데이터를 기반으로 한 연구는 완전성을 더욱 명확하게 기술해야 합니다. 심사자는 표본이 실제 플랫폼 피드와 얼마나 차이 나는지 물을 것입니다.
연구 윤리와 플랫폼 약관
아래는 법률 자문이 아니라 방법론상의 요점입니다.
- 윤리 심의를 먼저 받으세요. AoIR Internet Research Ethical Guidelines 3.0은 이 분야의 공통 참고 기준입니다. 공개 데이터라고 해서 자동으로 자유롭게 쓸 수 있는 것은 아닙니다. 특히 건강, 성적 지향, 정치적 견해와 관련된 경우 맥락에 따라 작성자에게 미치는 위험을 평가하세요.
- 필요한 것만 수집하세요. 연구 질문에 필요한 필드만 보관하세요. 분석 전에 개인 계정의 사용자 이름을 단방향 해시로 바꾸세요. 독자가 검색해서 원 게시물을 찾을 수 있는 문장은 인용하지 마세요. 이 글에서는 어떤 개인 계정도 언급하지 않습니다.
- 약관이 요구하면 삭제하세요. 정기적인 재수집과 삭제 절차를 마련하고, 삭제한 양을 기록하세요.
- 각 약관의 적용 범위를 확인하세요. 연구용 약관은 지역, 목적, 신청 자격을 제한합니다. DSA 제40조의 두 경로는 모두 EU의 시스템적 위험에 관한 연구로 한정됩니다. 사용한 경로와 약관을 방법론 섹션에 기재하세요.
- 다른 사람이 검증할 수 있는 것을 공개하세요. 일반적으로 ID 목록, 쿼리 파라미터, 수집 시각, 집계 결과, 코드는 공개할 수 있습니다. 전체 본문은 약관에 따라 처리하세요.
다른 사람이 검증할 수 있는 표본을 위한 체크리스트
- 기준을 작성하세요. 수집 전에 중복도 임계값과 무관한 항목의 최대 비율을 정하세요. 삭제를 어떻게 보고할지도 결정하세요.
- 파라미터를 고정하세요. 키워드, 정렬 순서, 항목 수, 언어, 지역을 설정 파일에 넣으세요. 이 파일을 버전 관리 시스템에서 관리하세요.
- 원본 응답을 저장하세요. 각 호출의 전체 JSON을 요청 ID와 함께 보관하세요. 조회 시각을 시간대를 포함해 초 단위로 추가하세요.
- 두 번 이상 수집하세요. 각 쿼리를 최소 두 번 실행하세요. 합집합, 교집합, Jaccard 중복도를 보고하세요. 결과가 불안정한 엔드포인트는 합집합을 표본으로 쓰세요.
- 관련성을 직접 확인하세요. 무작위로 50–100개 항목을 라벨링하고 무관한 항목의 비율을 보고하세요. 텍스트 매칭 전에 해시태그를 정규화하세요.
- 중복을 제거하세요. 정규화한 텍스트, shingle 유사도, 작성자, 시간 범위를 사용하세요. 제거 전후의 표본 크기를 보고하세요.
- 수치를 교차 확인하세요. 일부 항목을 단일 항목 엔드포인트로 다시 확인하세요. 각 수치를 어느 엔드포인트에서, 어느 시각에 얻었는지 기록하세요.
- 재수집하고 삭제하세요. 약관이 정한 일정에 따라 재수집하세요. 여전히 조회 가능한 비율을 기록하고, 더 이상 보이지 않는 콘텐츠는 삭제하세요.
EveryInfra로 이 테스트 재현하기
다음은 X에 대한 A 실행 요청입니다. <API Key>를 본인의 키로 바꾸세요(빠른 시작 참고).
curl -s https://api.everyinfra.com/api/v1/social \
-H "Authorization: Bearer <API Key>" \
-H "Content-Type: application/json" \
-d '{"platform":"twitter","action":"search","params":{"keyword":"\"Digital Services Act\"","sort":"latest","limit":25}}'응답의 최상위에는 id(요청 ID), count, results, billing이 있습니다. 재현성 테스트에는 다음 결과 필드가 유용합니다(필드 이름은 기능 카탈로그를 기준으로 합니다).
id: 플랫폼상의 항목 ID입니다. 중복도 계산과 중복 제거에 사용합니다.url: 원 게시물 링크입니다. 재수집과 수동 확인에 사용합니다.posted_at: 게시 시각(UTC)입니다. 새 항목이 새 게시물인지 판단하는 데 사용합니다.text,title: 본문과 제목입니다(Reddit과 YouTube에는 제목이 있습니다). 관련성 확인과 유사 중복 탐지에 사용합니다.hashtags: TikTok과 X의 관련성 확인에 포함하세요.like_count,view_count,comment_count: 수치입니다. 항상 조회 시각과 함께 저장하세요.author_username: 작성자입니다. 중복 제거의 작성자 범위에 사용합니다. 분석 전에 해시 처리하세요.community: Reddit 커뮤니티 이름입니다. 크로스포스트를 찾는 데 사용합니다.search_rank: YouTube 검색 순위입니다. 상위 10개 중복도 계산에 사용합니다.
Claude나 Cursor 같은 AI 클라이언트에서는 MCP로 같은 데이터에 연결할 수 있습니다. 그러면 어시스턴트가 위 체크리스트를 실행할 수 있습니다. 다른 클라이언트는 원격 MCP 서버 페이지를 참고하세요.
export EVERYINFRA_API_KEY="<API Key>"
claude mcp add --transport http everyinfra https://api.everyinfra.com/mcp \
--scope user \
--header 'Authorization: Bearer ${EVERYINFRA_API_KEY}'그런 다음 curl 요청과 같은 파라미터로 everyinfra_call_api를 호출하세요. 요청 ID별 과금액은 everyinfra_requests로 확인할 수 있습니다.
오류와 과금:
unauthorized: 키가 없거나 유효하지 않은 경우입니다. 과금되지 않습니다.unknown_param또는 잘못된 값: 파라미터 이름이나 enum 값이 틀린 경우입니다. 응답에 유효한 파라미터와 예시가 표시됩니다. 과금되지 않습니다.- 빈 결과: 예를 들어 따옴표로 묶은 키워드와 일치하는 게시물이 이번 달에 없는 경우입니다. 빈 목록이 반환되고 선과금액은 환불됩니다.
- 기능을 일시적으로 사용할 수 없는 경우: 응답에 그 사실이 표시됩니다. 과금되지 않습니다.
환불을 건별로 확인하려면 API 과금 대사를 참고하세요. 기능과 파라미터의 기준이 왜 실시간 카탈로그인지는 실시간 기능 카탈로그에서 확인하세요.
비용: 한 달간의 안정성 모니터링
10월 24일에 조회한 기능 카탈로그 기준으로 reddit/search, twitter/search, youtube/search, tiktok/search는 호출당 $0.000556입니다. 단일 항목 엔드포인트인 youtube/video, tiktok/video, twitter/post도 호출당 $0.000556입니다(기준은 요금 페이지입니다).
- 플랫폼 4개, 플랫폼당 키워드 5개, 6시간마다 1회 호출, 호출당 항목 25개, 30일: 4 × 5 × 4 × 30 = 2,400회 × $0.000556 = $1.33.
- 매주 항목 100개의 수치를 단일 항목 엔드포인트로 다시 확인, 4주간: 400회 × $0.000556 = $0.22.
- 합계: 약 $1.56. 빈 결과와 실패한 호출은 과금되지 않으므로 실제 비용은 이와 같거나 더 낮습니다.
이 글을 위해 실행한 모든 실시간 호출(검색 실행 3회, 단일 항목 확인, 따옴표를 쓴 Reddit 검색, 본문에 사용하지 않은 웹 검색 4회)의 비용은 총 $0.015008(26회 호출)입니다.
최근 변화(2026년 9~10월)
- 9월 30일: Reddit, 공개 데이터 API 종료 일정 발표 (r/redditdev). 연구자에게 주는 의미: Reddit 공개 API를 쓰는 스크립트는 2027년 3월 전에 Reddit 연구자 프로그램, 상업 계약 또는 DSA 경로로 옮겨야 합니다. 기존 표본을 지금 문서화하세요.
- 10월 1일: Reddit, DSA 페이지 업데이트 (Reddit Help). 2026년 상반기 EU 내 Reddit의 월평균 활성 수신자 수는 57.2백만 명 이하였습니다. 연구자 참고: Reddit의 VLOP 의무는 2027년 1월부터 적용되므로 지금부터 제40조 제12항에 따른 요청을 준비할 수 있습니다.
- **10월 1일: Pote, Flammini, Menczer, arXiv:2610.02591 발표.** 이들은 X가 삭제한 영향력 공작 43건의 앱 메타데이터를 분석했습니다. API는 조직적 조작을 떠받치는 인프라의 일부입니다. 또한 X가 앱 수준 메타데이터를 제거하면서 중요한 탐지 도구가 사라졌다는 사실도 밝혔습니다. 연구자에게 주는 의미: 플랫폼이 필드 하나를 제거하면 연구 분야 하나 전체가 재현 불가능해질 수 있습니다. 원본 응답을 보관하세요.
- **9월 29일: arXiv:2609.38571, 4개 플랫폼의 AI 라벨 감사.** 시스템적 위험 및 AI 관련 키워드로 게시물 10,722개를 수집했습니다. 전문가가 식별한 딥페이크 중 플랫폼 라벨이 붙은 것은 33%에 불과했습니다. 연구자에게 주는 의미: 이 수치 역시 키워드 표본에서 나온 비율이므로, 키워드 목록이 분모를 결정합니다.
- 10월 2–6일: 대규모 플랫폼 표본을 활용한 새 연구 발표. arXiv:2610.09082는 18개월 동안 Reddit 게시물 요약 5.7백만 건에서 AI로 인한 피해를 추적합니다. 아일랜드 홍수를 다룬 두 연구(arXiv:2610.03334, arXiv:2610.06330)는 Meta Content Library에서 키워드 쿼리를 사용합니다. 연구자 참고: 표본 설명이 상세할수록 결과의 신뢰성이 높아집니다.
- **10월 21일: Tech Policy Press 기고.** Jen Rosiere Reynolds는 AI 위험 연구가 이제 소셜 미디어 연구와 같은 데이터 접근 문제를 안고 있다고 말합니다.
FAQ
학술 연구에 아직 Reddit API를 쓸 수 있나요? (Google 추천 검색어: “reddit api for academic research”) Reddit의 9월 30일 게시물에는 두 날짜가 나옵니다. 신규 공개 API 신청은 2026년 10월 31일에 마감됩니다. 공개 접근은 2027년 3월에 종료됩니다. 댓글에서 한 개발자는 API 접근 권한이 없는 사람에게 Devvit이나 연구자 프로그램이 용도에 맞는지 확인해 보라고 제안합니다. Reddit은 이제 VLOP이므로 2027년 1월부터 DSA 제40조에 따라 연구자에게 데이터 접근을 제공해야 합니다. 진행 중인 프로젝트가 있다면 지금 표본 설명과 수집 로그를 확정하세요.
연구 데이터셋의 게시물이 삭제되었습니다. 어떻게 해야 하나요? (Google 추천 검색어: “deleted tweets research dataset”) 플랫폼 약관은 보통 연구자도 해당 게시물을 삭제하도록 요구합니다. TikTok은 최소 30일마다 데이터를 갱신하고 조회할 수 없게 된 데이터는 삭제하도록 요구합니다. X는 변경이 생기면 곧바로 사본을 삭제하거나 업데이트하도록 요구합니다. 재현성을 위해 ID, 파라미터, 집계 통계를 공개하고, 재수집할 때 여전히 가져올 수 있는 비율을 보고하세요. 삭제율도 결과로 보고하세요.
DSA 제40조에 따라 누가 신청할 수 있나요? (Google 추천 검색어: “dsa article 40 researchers”) 제40조(4)는 상업적 이해관계로부터 독립된 연구 기관 소속 연구자를 대상으로 합니다. 이들은 데이터 보안 및 기밀 유지 요건을 충족해야 하며, 디지털 서비스 조정관을 통해 신청합니다.
공개 데이터를 다루는 제40조(12)는 비영리 단체, 조직, 협회에 소속된 연구자도 명시적으로 포함합니다. 두 경로 모두 EU의 시스템적 위험에 관한 연구에만 적용됩니다. AlgorithmWatch에 따르면 NGO의 단순한 정량 요청은 1차 검토를 통과할 수 있습니다. 하지만 데이터 양이 왜 비례적인지는 설명해야 합니다. 본인의 자격 요건은 소속 기관에 문의하세요.
관련 글
- Reddit 댓글 스크래핑: MoreComments와 PRAW replace_more
- YouTube 댓글 API에서 답글이 누락되는 이유: 2단계 페이지네이션
- 플랫폼 페이지: Reddit 스크래핑 API, X(Twitter) 스크래핑 API, YouTube 스크래핑 API, TikTok 스크래핑 API
참고 자료
- “Moving Data API Apps to the Developer Platform: migration dates and next steps”. Reddit (r/redditdev), 2026-09-30 (1차 자료). https://www.reddit.com/r/redditdev/comments/1wubcvf/moving_data_api_apps_to_the_developer_platform/
- “Reddit is killing RSS feeds, ending public API access because of AI bots”. TechCrunch, 2026-09-30 (2차 자료). https://techcrunch.com/2026/09/30/reddit-is-killing-rss-feeds-ending-public-api-access-because-of-ai-bots/
- “Don't break the site (Rule 8)”. Reddit Help, 2026-10-24 열람 (1차 자료). https://support.reddithelp.com/hc/en-us/articles/360043512931-Don-t-break-the-site
- “Two Stories of DSA Data (Non)-Access from an NGO perspective”. DSA Observatory (Oliver Marsh, AlgorithmWatch), 2026-10-02 (2차 자료). https://dsa-observatory.eu/2026/10/02/two-stories-of-dsa-data-non-access-from-an-ngo-perspective/
- “Annual Report 2025”. Coimisiún na Meán, 2026-10-07 (1차 자료). https://www.cnam.ie/app/uploads/Coimisiun-na-Mean-Annual-Report-2025.pdf
- “Commission designates ChatGPT, Reddit, Roblox under DSA” (IP/26/1772). European Commission, 2026-08-31 (1차 자료). https://ec.europa.eu/commission/presscorner/detail/en/ip_26_1772
- “Social data capability catalog”. EveryInfra, 2026-10-24 열람 (1차 자료). https://api.everyinfra.com/api/v1/social/catalog
- “Search: list (YouTube Data API)”. Google for Developers, 2026-10-24 열람 (1차 자료). https://developers.google.com/youtube/v3/docs/search/list
- “The Illinois Social Attitudes Aggregate Corpus (ISAAC)” (arXiv:2609.27059). Hemmatian 외, 2026-09-22 (1차 자료). https://arxiv.org/abs/2609.27059
- “PoliTok-DE: A Multimodal Dataset of Political TikToks and Deletions From Germany” (arXiv:2509.15860). Ruiz 외, 2025-09-19 (1차 자료). https://arxiv.org/abs/2509.15860
- “A longitudinal assessment of the persistence of Twitter datasets” (JASIST). Zubiaga, 2018 (1차 자료). https://doi.org/10.1002/asi.24026
- “TikTok Research Tools Terms of Service”. TikTok, 2026-01-22 (1차 자료). https://www.tiktok.com/legal/page/global/terms-of-service-research-api/en
- “Developer Policy”. X, 2026-10-24 열람 (1차 자료). https://developer.x.com/en/developer-terms/policy
- “Finally, Access: How Article 40 DSA Changes Platform Research in Practice” (Political Communication). Taylor & Francis, 2026 (1차 자료). https://doi.org/10.1080/10584609.2026.2664157
- “Platforms' Research API Data Access: What Users See vs. What Researchers can Retrieve” (arXiv:2601.12390). Bekavac, Mayer, 2026-01-18 (1차 자료). https://arxiv.org/abs/2601.12390
- “Meta Content Library and API”. Meta Transparency Center, 2026-10-24 열람 (1차 자료). https://transparency.meta.com/researchtools/meta-content-library/
- “WhichTok? Comparing Three TikTok Data Acquisition Tools” (arXiv:2608.09917). Jeon 외, 2026-08-10 (1차 자료). https://arxiv.org/abs/2608.09917
- “TikTok's Research API: Problems Without Explanations” (arXiv:2506.09746). arXiv, 2025-06-11 (1차 자료). https://arxiv.org/abs/2506.09746
- “Is the Sample Good Enough? Comparing Data from Twitter's Streaming API with Twitter's Firehose” (arXiv:1306.5204). Morstatter 외, 2013-06-21 (1차 자료). https://arxiv.org/abs/1306.5204
- “Just Another Day on Twitter: A Complete 24 Hours of Twitter Data” (arXiv:2301.11429). Pfeffer, Matter, Jaidka 외, 2023-01-26 (1차 자료). https://arxiv.org/abs/2301.11429
- “Regulation (EU) 2022/2065 (Digital Services Act)”. EUR-Lex, 2022-10-19 (1차 자료). https://eur-lex.europa.eu/eli/reg/2022/2065/oj
- “Commission fines X €120 million under the Digital Services Act”. European Commission, 2025-12-05 (1차 자료). https://digital-strategy.ec.europa.eu/en/news/commission-fines-x-eu120-million-under-digital-services-act
- “What the X Fine Reveals About Data Access Under Article 40 of the Digital Services Act”. Tech Policy Press, 2026-02-12 (2차 자료). https://www.techpolicy.press/what-the-x-fine-reveals-about-data-access-under-article-40-of-the-digital-services-act/
- “Digital Services Act – sharing platform and search engine data with vetted researchers” (위임규정(EU) 2025/2050 요약). EUR-Lex, 2026-01-28 (1차 자료). https://eur-lex.europa.eu/EN/legal-content/summary/digital-services-act-sharing-platform-and-search-engine-data-with-vetted-researchers.html
- “DSA data access portal”. European Commission, 2026-10-24 열람 (1차 자료). https://data-access.dsa.ec.europa.eu/
- “Delegated act on data access under the Digital Services Act (DSA)”. European Commission, 2025-07-02 (1차 자료). https://digital-strategy.ec.europa.eu/en/library/delegated-act-data-access-under-digital-services-act-dsa
- “DSA Article 40(4)–(11) Data Access Guidance, V2”. Coimisiún na Meán, 2026-05 (1차 자료). https://www.cnam.ie/app/uploads/2026/05/DSA-Article-40-4-11-Data-Access_Guidance_V2_-.pdf
- “The Great Data Standoff: Researchers vs. Platforms Under the Digital Services Act” (ICWSM 2026). Goanta 외, 2026 (1차 자료). https://ojs.aaai.org/index.php/ICWSM/article/view/42671
- “Regulating a Floating Signifier: Interpretations of ‘Data’ in the DSA Researcher Access Provision” (Media, Technology and Governance). Annabell, 2026 (1차 자료). https://doi.org/10.1177/29777984261486601
- “Social Platforms Data Access Taskforce: Final Report”. Smart Data Research UK / University of Sheffield, 2026-09-09(2026-10-06 등록) (1차 자료). https://eprints.whiterose.ac.uk/id/eprint/246345/
- “Towards More Granular Reasoning: Mapping the DSA Transparency Database Taxonomy to Platform Terms and Conditions” (arXiv:2610.26226). Ranucci, Leijten, Graus, 2026-10-19 (1차 자료). https://arxiv.org/abs/2610.26226
- “Internet Research: Ethical Guidelines 3.0”. Association of Internet Researchers (AoIR), 2019 (1차 자료). https://aoir.org/reports/ethics3.pdf
- “Digital Services Act (DSA): Information for EU users”. Reddit Help, 2026-10-01 (1차 자료). https://support.reddithelp.com/hc/en-us/articles/23595536875796-Digital-Services-Act-DSA-Information-for-EU-users
- “Information Operations Exploit APIs to Manipulate Social Media” (arXiv:2610.02591). Pote, Flammini, Menczer, 2026-10-01 (1차 자료). https://arxiv.org/abs/2610.02591
- “Drowning in AI Slop: How Social Media Platforms (Do Not) Label AI and Deepfake Content under EU law” (arXiv:2609.38571). Rijsbosch 외, 2026-09-29 (1차 자료). https://arxiv.org/abs/2609.38571
- “Move Fast and Mend Things: Keeping Up with Evolving AI Harms Using Social Media Commentary” (arXiv:2610.09082). Rowe 외, 2026-10-06 (1차 자료). https://arxiv.org/abs/2610.09082
- “A population-level assessment framework for flood-related wellbeing from public discourse in Ireland” (arXiv:2610.03334). Luo, Morrissey, 2026-10-02 (1차 자료). https://arxiv.org/abs/2610.03334
- “Assessing flood-related wellbeing from public discourse in Ireland using large language model as judge, 2012–2025” (arXiv:2610.06330). Luo, Morrissey, 2026-10-05 (1차 자료). https://arxiv.org/abs/2610.06330
- “You Can't Solve AI Risk Without Solving the AI Evidence Problem”. Tech Policy Press (Jen Rosiere Reynolds), 2026-10-21 (2차 자료). https://www.techpolicy.press/you-cant-solve-ai-risk-without-solving-the-ai-evidence-problem
참고 BL-33