일기장이 된 채팅창 — Anthropic의 경찰 신고와 「누군가 볼 수 있는」 글의 역설

AI 채팅은 혼잣말을 적는 일기장인가, 아니면 언제든 제3자가 읽을 수 있는 송신 기록인가?

도입

2026년 10월 5일 해커뉴스 1면에 「Anthropic이 일기 내용을 경찰에 신고했고, 한 여성이 중범죄 혐의를 받고 있다」는 제목의 글이 올라와 840점을 받았다. 링크는 TechSpot 기사였고, 같은 사건을 Decrypt와 The Next Web도 다뤘다.

보도에 따르면 사건의 골격은 단순하다. 플로리다주의 한 여성이 Claude와의 대화에서 리 카운티(Lee County) 보안관 사무소를 「shoot up」 하겠다고 적었고, 다음 날에는 새 총을 구했다는 말을 남겼다. Anthropic의 안전 시스템이 이를 감지했고, 사람으로 구성된 검토 팀이 경찰에 신고했다. 보안관 측은 그를 자택에서 연행했고, 그는 이후 AI를 「일기처럼」 쓰고 있었다고 말했다고 한다.

이 글은 당사자 개인에 관한 이야기가 아니다. 당사자는 공인이 아니며, 여기서는 이름도 거주지 세부도 다루지 않는다. 관심은 구조에 있다. 사람들은 채팅창을 일기장처럼 쓰는데, 제공자의 약관은 그것을 처음부터 일기장으로 설계하지 않았다. 그리고 적용된 법 조항은 「다른 사람이 볼 수 있는 방식」의 송신을 요건으로 삼는다. 이 세 가지가 한 사건에서 맞부딪쳤다.

무슨 일이 있었고, 약관은 무엇을 말하는가

먼저 보도된 사실만 정리한다. 출처는 Decrypt와 The Next Web이며, 두 매체 모두 지역 방송 WINK News와 체포 보고서를 근거로 삼는다.

체포 보고서에 따르면 문제의 글은 9월 26일에 작성됐다. 리 카운티 보안관 사무소를 「shoot up」 하겠다는 내용이었다. 다음 날에는 새 총을 구했다는 대화가 이어졌다.
보고서는 Anthropic의 플랫폼이 핵심 문구와 잠재적 위협 콘텐츠를 모니터링하며, 진술의 심각성 때문에 그것이 사람 검토 팀으로 넘어갔고, 그 팀이 법 집행기관에 신고했다고 적고 있다.
보안관 측은 당사자를 특정해 자택에서 별다른 충돌 없이 연행했다.
9월 30일, 플로리다 주법 836.10조에 따른 중범죄 혐의가 제기됐다. WINK News가 이 체포를 처음 보도한 것도 같은 날이다. 국선 변호인이 선임됐고, 기소 인부 절차(arraignment)는 11월 2일로 잡혀 있다고 The Next Web은 전한다.
The Next Web은 Tom’s Hardware를 인용해 Anthropic이 이 사건에 대해 공개적으로 논평하지 않았다고 썼다.

836.10조가 무엇을 금지하는지는 해커뉴스 코멘트에서 사용자 quadhome이 주 의회 사이트의 조문을 그대로 붙여 두었다. 요지는 이렇다. 누군가를 죽이거나 상해를 입히겠다는 위협, 또는 총기 난사나 테러를 하겠다는 위협을 담은 글이나 전자 기록을 「다른 사람이 볼 수 있는 어떤 방식으로든」 보내거나 게시하거나 전송하는 것을 불법으로 한다. Decrypt와 이 조문을 인용한 코멘트는 이를 2급 중범죄라고 설명한다.

다음은 Anthropic 쪽 문서다. Decrypt는 이 부분을 「Anthropic의 서류는 아무것도 숨기지 않는다」고 요약한다.

소비자 이용약관은 회사의 「단독 재량」으로 이용자의 입력, 출력, 행동을 법 집행기관에 신고할 권리를 유보한다.
2026년 9월 10일부터 시행된 개인정보처리방침은, 공개가 사람이나 재산에 대한 심각한 피해를 막는 데 「합리적으로 필요하다」고 선의로 믿는 경우 법 집행기관과 데이터를 공유할 수 있게 한다.
정부 요청에 관한 정책은 원칙적으로 유효한 법적 절차가 있을 때만 이용자 정보를 공개하되, 「임박한 신체적 위해나 사망」으로 이어질 수 있는 긴급 상황을 예외로 둔다고 The Next Web은 정리한다.
Decrypt는 또한, 안전 검토 대상으로 표시된 대화가 유해 콘텐츠 탐지 능력을 개선하는 데 계속 쓰인다는 정책 문구를 짚는다. 표시된 일기 한 편이 탐지기의 학습 자료가 될 수 있다는 뜻이다.

즉 문서상으로는 이번 신고가 약관의 예외 조항이 아니라 약관이 명시적으로 예정한 경로 위에서 일어났다. 그리고 이번이 처음도 아니다. The Next Web은 Tom’s Hardware를 인용해 8월 이후 경찰에 닿은 Claude 대화가 적어도 두 건 더 있었다고 전한다. 8월 11일 텍사스 샌안토니오에서는 인근 초등학교 총격에 대해 물은 이용자가 FBI의 통보를 받은 경찰에 의해 테러 위협 중범죄 혐의로 체포됐다. 8월 14일 샌프란시스코에서는 한 이용자가 CEO Dario Amodei를 위협하며 AR-15를 샀다고 적었고, Anthropic이 경찰에 알렸지만 그는 체포되거나 기소되지 않았다. Decrypt에 따르면 San Francisco Standard 보도에서 Anthropic 대변인은 이 일을 「안전장치 절차가 의도대로 작동한 것」이라고 표현했고, 자사 직원에 대한 위협을 다르게 다루는지는 답하지 않았다.

OpenAI 쪽에도 대칭되는 사례가 있다. 2월 브리티시컬럼비아주 텀블러리지(Tumbler Ridge)에서 8명이 숨진 학교 총격 이후, OpenAI는 2025년 6월에 해당 계정을 캐나다 경찰에 알릴지 검토했으나 임박하고 신빙성 있는 위험이 보이지 않는다고 판단했다고 밝혔다. The Next Web은 Sam Altman이 이 일로 사과했다고 쓴다. 반대 방향으로는, 3월 플로리다의 한 남성이 ChatGPT에 전 여자친구를 살해하겠다고 적었다가 OpenAI의 FBI 신고로 기소됐고, 8월 유죄를 인정해 보호관찰 8년을 선고받았다고 Palm Beach Post를 인용해 전한다.

법의 요건과 제공자의 딜레마

「다른 사람이 볼 수 있는 방식」이라는 요건의 순환

해커뉴스 토론에서 가장 많이 반복된 논점은 법리였다. 836.10조는 위협이 「다른 사람이 볼 수 있는 방식」으로 송신될 것을 요구한다. 그런데 일기로 쓴 글이 그 요건을 충족하는가.

사용자 olalonde는 LLM 프롬프트가 어떻게 이 요건을 만족시키는지 모르겠다며, 피고인에게 쉬운 승리가 될 것 같다고 적었다(직접 인용은 아니고, 코멘트의 요지를 요약). 사용자 tantalor는 같은 집에 사는 사람이 일기장을 몰래 읽을 수도 있다는 비유를 들며, 결국 관건은 다른 사람이 보도록 의도했는가, 그리고 합리적인 사람이 챗봇에 대해 프라이버시를 기대하는가라고 물었다(직접 인용은 아니고, 코멘트의 요지를 요약). 사용자 mrb는 피고인이 그 메시지를 남이 볼 수 있다는 것을 몰랐거나 의도하지 않았다고 주장해 방어할 수 있을 것이라고 봤고, 사용자 anigbrowl은 LLM은 사람이 아니며 기계 비서에게 표출한 사적인 분노는 위협이 타인에게 전달돼야 한다는 법정 요건에 미치지 못할 것이라 예상하면서도, 탄약 구매 같은 실행 정황이 나온다면 달라질 수 있다고 덧붙였다(직접 인용은 아니고, 코멘트의 요지를 요약).

이들은 법률가가 아니고, 법원은 아직 아무 판단도 내리지 않았다. 다만 이 논점은 구조적으로 흥미로운 순환을 드러낸다.

이용자가 혼자 쓴 글이 「다른 사람이 볼 수 있는」 것이 된 이유는 무엇인가. 제공자가 그 글을 모니터링하고, 사람 검토자가 읽을 수 있게 설계했기 때문이다. 즉 제공자의 감시 체계 자체가 법 조항의 요건 하나를 채우는 근거가 될 수 있다. 감시가 없었다면 그 글은 아무도 읽지 않는 기록이었을 것이고, 감시가 있으므로 그것은 「누군가 볼 수 있는」 기록이 된다. 이것이 법적으로 성립하는 논리인지는 법원이 정할 일이다. 그러나 이용자 경험의 관점에서 보면, 「볼 수 있다」는 사실을 약관 깊숙한 곳에서만 고지받은 사람에게 그 가능성이 범죄 성립 요건으로 돌아오는 구조라는 점은 분명히 짚어 둘 만하다.

사용자 MisterMunchkin은 아무에게도 보내지 않은 위협을 엿보기로 얻어 놓고 위협죄로 기소하는 것이 가능하냐고 물었고, 이 코멘트에는 14개의 답글이 달렸다(직접 인용은 아니고, 코멘트의 요지를 요약). 반대편에서는 사용자 jlarocco가 「인터넷에 올린 것은 누구나 볼 수 있다고 가정하라」는 오래된 원칙이 AI에도 그대로 적용될 뿐이라고 정리했다(직접 인용은 아니고, 코멘트의 요지를 요약).

두 입장은 사실 서로 다른 질문에 답하고 있다. jlarocco의 원칙은 이용자가 취해야 할 자기방어의 규범이고, MisterMunchkin의 질문은 국가가 형사 책임을 물을 때의 요건에 관한 것이다. 「조심했어야 한다」는 말은 사실이더라도, 그것이 곧 「그러므로 위협죄가 성립한다」로 이어지지는 않는다. 위협죄는 원래 상대방에게 공포를 주거나 공공의 불안을 일으키는 행위를 처벌하려는 것인데, 이번 사건에서 위협의 대상이 된 보안관 사무소가 그 글을 알게 된 경로는 당사자의 송신이 아니라 제공자의 신고였다. 사용자 giantg2는 이런 법의 취지가 타인이 볼 게시물로 인한 공공의 공포를 막는 데 있지, 사적이라고 여긴 글을 겨냥한 것이 아니라고 봤다(직접 인용은 아니고, 코멘트의 요지를 요약).

사용자 gwd는 또 다른 각도를 덧붙였다. Anthropic의 신고 자체는 옳았다고 보면서도, 이 법을 이런 식으로 적용하는 보안관 사무소의 대응이야말로 당사자가 그곳에 불만을 품은 이유를 보여 주는 것 아니냐고 했고, 다시 생각해 보니 당사자가 화가 나 있던 바로 그 기관에 신고가 간 것 자체도 문제일 수 있다고 수정했다(직접 인용은 아니고, 코멘트의 요지를 요약). 이 지적은 법리보다 절차에 관한 것이다. 신고를 받는 기관이 동시에 위협의 표적일 때, 위험 평가가 중립적으로 이루어질 수 있는가.

제공자의 딜레마와 이용자의 기대 사이

토론의 다른 축은 「하면 욕먹고 안 하면 더 욕먹는」 제공자의 처지였다. 28개의 답글이 달린 사용자 socializer의 코멘트는 OpenAI가 총격범을 신고하지 않아 비판받은 헤드라인을 떠올리며 Anthropic에 어느 정도 동정한다고 쓰면서도, 사람들이 비밀 친구가 아니라 빅테크와 대화하고 있다는 사실을 받아들여야 한다고 했다. LLM 이전에는 빅테크가 서비스 안의 대부분을 들여다볼 수단이 없었지만, 이제는 모든 글이 행성 규모로 자동 선별될 수 있고 규제 당국과 여론이 그것을 요구할 것이라는 전망이다(직접 인용은 아니고, 코멘트의 요지를 요약). 사용자 bonoboTP도 상황을 뒤집어 보면, 누군가 보안관 사무소를 공격한 뒤 챗봇에 미리 털어놓았던 사실이 드러날 경우 그것 역시 큰 비난으로 이어질 것이라고 지적했다(직접 인용은 아니고, 코멘트의 요지를 요약).

이 딜레마는 실재한다. 텀블러리지 사례와 이번 사례를 나란히 놓으면, 제공자는 「임박하고 신빙성 있는 위험」이라는 문턱을 어디에 두느냐에 따라 한쪽 실패 또는 다른 쪽 실패를 고른다. 문턱을 높이면 놓치는 사건이 생기고, 낮추면 일기와 농담과 소설 습작이 경찰서로 간다. 사용자 spaceman_spift는 Anthropic이 투명성을 표방하는 만큼 그 문턱이 무엇인지 공개하는 것이 적절하다고 했다(직접 인용은 아니고, 코멘트의 요지를 요약).

여기서 분석적으로 구분해야 할 것이 있다. 「신고할 권리가 있는가」와 「신고 이후 무슨 일이 일어나는가」는 다른 문제다. 약관은 첫 번째 질문에 분명히 답한다. 그러나 두 번째 질문, 즉 신고된 글이 형사 절차에서 어떻게 해석되는지는 제공자의 통제 밖에 있다. 제공자는 위험 신호를 넘겼을 뿐이라고 말할 수 있지만, 그 신호를 받은 쪽이 위기 개입이 아니라 중범죄 기소를 선택하면, 결과적으로 제공자의 탐지 시스템은 형사 증거 수집 장치처럼 기능하게 된다. 사용자 jakzurr는 경찰보다 사회복지사가 먼저 연락해 진심인지 물었어야 하지 않느냐고 했고, 사용자 nadermx도 「위협을 적었으니 기소」가 아니라 정신건강 평가 같은 다른 경로가 있어야 한다고 제안했다(직접 인용은 아니고, 코멘트의 요지를 요약).

이용자 쪽 기대의 문제도 있다. 사용자 notnullorvoid는 기술에 밝지 않은 사람 대부분이 AI 서비스 이용이 사적이지 않다는 것을 생각하지 못하거나 모른다는 점이 이번 일로 드러나기를 바란다고 썼다(직접 인용은 아니고, 코멘트의 요지를 요약). 이 지적은 중요하다. 채팅 인터페이스는 대화 상대가 하나뿐인 것처럼 보이게 만든다. 화면에는 나와 모델만 있고, 검토자나 분류기는 보이지 않는다. 일기처럼 쓰도록 유도하는 형태를 한 제품에서, 고지는 약관과 개인정보처리방침의 문장으로만 존재한다. 제품의 형태가 만드는 기대와 문서가 정하는 현실이 어긋날 때, 그 차이의 비용은 대개 문서를 읽지 않은 쪽이 치른다.

토론의 결론 중 하나는 실용적인 것이었다. 여러 사용자가 로컬에서 돌리는 오픈 웨이트 모델이나 데이터 보존이 없는 API 사용을 대안으로 꼽았다. 사용자 jjmarr는 바로 이 때문에 ZDR(Zero Data Retention)과 API를 쓴다고 했고, 사용자 IAmGraydon은 프라이버시 보장을 원한다면 직접 모델을 로컬에서 돌려야 한다고 했다(직접 인용은 아니고, 코멘트의 요지를 요약). 이것은 개인의 자기방어로는 합리적이지만, 사회적 해법은 아니다. 대부분의 사람은 GPU를 사지 않고, 약관을 읽지 않으며, 채팅창을 계속 일기장처럼 쓸 것이다.

전망과 시사점

이번 사건이 남긴 쟁점은 세 갈래로 정리된다.

첫째, 법원의 판단이다. 836.10조의 「다른 사람이 볼 수 있는 방식」 요건이 제공자 모니터링을 통해 충족될 수 있는지는, 이 사건이 기소 인부 절차와 그 이후로 진행되면서 다뤄질 가능성이 크다. 결과가 어느 쪽이든 선례적 의미가 있다. 요건이 충족된다고 본다면 사적 채팅에 적힌 위협 표현은 사실상 「송신」으로 취급되고, 반대라면 제공자의 신고는 위기 개입의 단서로는 쓰일 수 있어도 위협죄 기소의 근거로는 약해진다. 다만 공개된 정보는 체포 보고서를 인용한 보도에 한정되며, 실제 대화의 전체 맥락은 알려지지 않았다. 사용자 shlant가 말했듯 그가 계획을 세우거나 조언을 구한 것인지, 감정을 일기처럼 털어놓은 것인지는 실제 대화를 봐야 알 수 있다(직접 인용은 아니고, 코멘트의 요지를 요약).

둘째, 제공자의 투명성이다. Anthropic의 약관과 방침은 신고 가능성을 명시하지만, 무엇이 사람 검토로 넘어가고 어떤 기준으로 신고가 결정되는지는 공개돼 있지 않다. 공개되지 않은 문턱은 이용자가 자기 행동을 조정할 수 없게 만든다. 문턱 자체를 공개하면 악용될 수 있다는 반론도 있겠지만, 최소한 연간 신고 건수나 사람 검토 비율 같은 집계 수준의 공개는 투명성 보고서의 일반적 형식에 속한다.

셋째, 제품 설계의 문제다. 채팅 UI가 「둘만의 대화」처럼 느껴지는 한, 약관 고지는 기대를 바꾸지 못한다. 사용자 tintor는 챗봇 기록에도 전화 통화와 같은 법적 보호, 즉 판사의 영장이 필요해야 한다고 주장했다(직접 인용은 아니고, 코멘트의 요지를 요약). 이것은 입법의 영역이지만, 그 전에라도 제공자는 일기처럼 쓰이는 대화에서 「이 내용은 검토될 수 있다」는 사실을 문서가 아니라 인터페이스 차원에서 드러낼 수 있다.

개발자와 기업 이용자에게도 시사점이 있다. 조직이 직원에게 AI 도구를 제공할 때, 그 대화가 어떤 조건에서 제3자에게 넘어갈 수 있는지를 소비자 약관, 기업 약관, API 데이터 정책별로 구분해 이해하고 있어야 한다. 이번 사건의 출처들은 소비자 약관과 개인정보처리방침을 인용하며, 기업용이나 API 조건이 같은지는 이 보도들만으로는 확인되지 않는다.

결론

이 사건에서 약관은 예정된 대로 작동했다. Anthropic은 단독 재량으로 신고할 수 있다고 적어 두었고, 심각해 보이는 글이 감지되자 사람이 검토해 신고했다. 그 점에서 놀라운 것은 없다.

놀라운 것은 그 다음이다. 아무에게도 보내지 않았다고 믿은 글이, 바로 그 글을 제공자가 읽을 수 있었다는 이유로 「다른 사람이 볼 수 있는 방식」의 송신으로 해석될 수 있게 됐다. 감시의 존재가 범죄 요건을 채우는 순환이다. 이것이 법정에서 받아들여질지는 아직 모른다.

해커뉴스의 토론은 「하면 욕먹고 안 하면 더 욕먹는다」와 「생각을 처벌한다」 사이에서 결론을 내지 못했다. 아마 그게 정직한 상태일 것이다. 다만 한 가지는 분명하다. 채팅창은 일기장처럼 보이지만 일기장이 아니다. 그 사실을 약관의 문장이 아니라 제품의 형태로 알려 주지 않는 한, 다음 사건에서도 이용자는 같은 놀라움을 겪을 것이다. 당신이 오늘 AI에게 털어놓은 것 중, 낯선 검토자가 맥락 없이 읽어도 괜찮은 것은 얼마나 되는가.

출처: