Notion 데이터 유출: AI 대화 내용 노출

Notion이 해킹당했나요?

직접적으로는 아닙니다. Notion은 이번 사고가 “자사 시스템의 침해가 아니라” 제3자 AI 업체 Fireworks AI의 침해이며, 이로 인해 워크스페이스 1% 미만의 Notion AI 대화 기록이 노출되었다고 밝혔습니다 ^[1].

Notion은 Fireworks를 두 가지 용도로 사용했습니다. 하나는 고객이 자신의 AI 사용 현황을 파악하도록 돕는 Insights 기능 뒤의 분류 작업이고, 다른 하나는 Notion 안에서 오픈 웨이트 AI 모델을 실행하는 범용 추론 제공업체로서의 역할입니다 ^[1]. BleepingComputer는 Insights가 워크스페이스 관리자에게 팀이 AI를 어떻게 사용하는지 보여 준다고 설명합니다 ^[4].

Notion은 다른 기능은 영향을 받지 않았다고 밝혔습니다 ^[1]. 조사하는 동안 Insights를 비활성화했고, 더는 Fireworks를 통해 오픈 웨이트 모델을 제공하지 않습니다 ^[1]. TechCrunch는 Notion의 말을 인용해 Fireworks가 이후 일부 Notion 고객 데이터가 탈취되었음을 확인했다고 보도합니다 ^[3].

Notion 유출에서 어떤 데이터가 노출되었나요?

탈취된 데이터 세트에는 Insights에 쓰이던 Notion AI 대화 기록이 포함되었으며, TechCrunch가 Notion의 말로 전하는 바에 따르면 여기에는 “채팅에 기록된 모델에 대한 모든 입력과 모델의 모든 출력”이 들어 있습니다 ^[3]. 영향을 받은 대부분의 워크스페이스에서 이 기록은 특정할 수 없었다고 Notion은 밝힙니다 ^[1].

Notion은 “특정할 수 없는” 대화를 작성자나 출처 워크스페이스가 표시되지 않았고 도구 호출 결과도 담기지 않은 대화로 정의합니다 ^[1]. “대화 기록 자체에 있는 내용 외에는 그 대화를 워크스페이스, 사용자, 기업과 연결하는 정보가 없다”고 설명합니다 ^[1][5].

문제는 내용 자체입니다. 비밀번호, API 키, 기밀 텍스트처럼 사람이 Notion AI에 입력한 모든 것이 기록에 들어 있을 수 있습니다 ^[1]. Notion은 영향을 받은 메시지에서 그러한 키를 발견했다고 밝혔습니다. 11월 11일에는 노출된 Notion API 키를 폐기했고, 11월 12일에는 노출된 제3자 API 키를 해당 키를 발급한 업체에 신고했습니다 ^[1].

Fireworks 자체에서는 더 넓은 침해가 리소스 메타데이터, 청구 정보(주소, 청구서, 잔액, 크레딧 사용량), 그리고 일부 고객의 경우 불완전한 모델 가중치와 데이터 세트에 영향을 미쳤습니다 ^[2]. Fireworks는 결제 카드 번호를 저장하지 않으며 카드 번호는 영향을 받지 않았다고 밝힙니다 ^[2].

Notion 유출은 언제 일어났나요?

공격자는 2026년 10월 하순에 Fireworks에 접근했고, Notion은 11월 초에 고객 데이터가 관련되었음을 알게 되어 11월 9일 영향을 받은 고객에게 연락했습니다 ^[1][2].

• 10월 23일: Fireworks의 R&D 머신을 호스팅하던 제3자 클라우드 업체에서 보안 사고가 발생했습니다 ^[2].
• 10월 24일: 공격자가 이를 이용해 Fireworks 개발 머신에 접근하여 무단 작업을 실행했으며, Fireworks는 같은 날 이를 탐지했다고 밝힙니다 ^[2].
• 11월 2일: Fireworks가 소규모 데이터 세트에 접근이 있었다고 Notion에 알렸고, Notion은 처음에는 합성 테스트 데이터만 발견했습니다 ^[1].
• 11월 3-4일: 11월 3일 아침까지 Notion은 자사 시스템을 Fireworks에서 분리했고, 11월 4일에는 Fireworks 시스템에 있던 자사 데이터를 모두 삭제했습니다 ^[1].
• 11월 6일: Fireworks는 고객 데이터에 접근이 있었을 수 있다고 밝혔습니다 ^[1].
• 11월 8일: Fireworks가 최종적으로 영향을 받은 데이터 세트를 확인했고, Notion은 나중에 여기에 Insights에 쓰이던 Notion AI 대화 기록이 포함되어 있음을 발견했습니다 ^[1].
• 11월 9일: Notion이 영향을 받은 고객에게 연락했습니다 ^[1].
• 11월 11-13일: 11월 12일자 Notion의 공지에는 업데이트 메모가 있습니다. 11월 11일에 노출된 Notion API 키를 폐기했고, 11월 12일에 노출된 제3자 API 키를 해당 키를 발급한 업체에 신고했습니다 ^[1].

일부 보도는 이 타임라인을 압축해서 전하며, Notion의 공지가 날짜가 적힌 가장 상세한 기록입니다 ^[1].

Notion 사용자는 지금 무엇을 해야 하나요?

Notion은 연락을 받지 않았다면 워크스페이스가 영향을 받은 것으로 확인되지 않았으며 지금은 조치가 필요 없다고 밝힙니다 ^[1]. 영향을 받은 고객에게는 다음을 권고합니다 ^[1][4].

1. 노출된 데이터를 검토하세요. 영향을 받은 고객은 이메일로 받은 안내에 따라 워크스페이스 안에서 안전하게 데이터를 가져올 수 있습니다 ^[1]. BleepingComputer에 따르면 워크스페이스 소유자는 Notion 데스크톱 웹 인터페이스의 Security incident review를 사용해 구성원에게 다운로드 링크를 공유할 수 있습니다 ^[4].
2. 데이터가 노출된 것으로 간주하세요. 대부분의 기록이 특정할 수 없더라도 그렇습니다 ^[1].
3. 자격 증명을 교체하세요. 사고 기간 중 Notion AI에 민감한 정보, 비밀번호, API 키 또는 기타 자격 증명을 붙여 넣었다면 변경하세요 ^[1][5].
4. 다른 서비스의 키도 포함하세요. Notion은 발견한 노출된 제3자 API 키를 해당 키를 발급한 업체에 신고했다고 밝히며, 고객에게는 Notion AI에 붙여 넣은 모든 API 키를 교체하라고 권고합니다 ^[1].
5. 일반적인 유출 점검은 Was My Data Leaked? How to Check and What to Do After a Data Breach에서 어떤 유출 사고 이후에든 살펴볼 내용을 다룹니다(일반적인 조언이며 Notion 공지의 일부가 아닙니다).

일반적인 예방책으로, Notion의 권고에 포함되지는 않지만, 실사용 중인 비밀 정보는 AI 대화에 넣지 마세요. Password Managers Explained: How They Work and Whether They Are Safe는 자격 증명을 더 안전하게 보관하고 공유하는 방법을 설명하고, Is ChatGPT Safe for Your Privacy? What AI Chatbots Do With the Data You Share는 AI 채팅 도구가 사용자의 데이터로 무엇을 하는지 살펴봅니다.

Fireworks AI는 무엇이며 어떻게 해킹당했나요?

Fireworks AI는 개발자가 오픈 AI 모델에 접근하고 실행하는 데 쓰는 플랫폼으로, Notion은 이를 전 세계에서 가장 많이 쓰이는 AI 인프라 플랫폼 중 하나로 수만 곳의 고객을 지원한다고 설명합니다 ^[1][3].

Fireworks는 R&D 머신을 호스팅하던 클라우드 업체가 10월 23일 사고를 겪었고, 무단 접근자가 이튿날 이를 이용해 Fireworks 개발 머신에 접근했다고 밝힙니다 ^[2]. SecurityWeek는 고객 데이터가 침해된 날짜를 10월 24일로 제시합니다 ^[5]. Fireworks는 10월 25일 기준으로 고객이 사용하는 플랫폼에서 무단 접근이 성공했다는 추가 증거는 탐지하지 못했다고 밝힙니다 ^[2].

TechCrunch는 이를 Fireworks에 영향을 미친 2개월 사이 두 번째 침해라고 부릅니다 ^[3]. 10월 9일 공지에서 발표된 앞선 사고는 저장된 비밀 정보와 관련이 있었으며, BleepingComputer에 따르면 해커들이 일부 계정의 API 키와 토큰이 들어 있는 환경 변수에 접근했습니다 ^[2][4].

Fireworks는 수사 당국에 신고했으며 Palo Alto Networks Unit 42와 함께 포렌식을 진행하고 있다고 밝힙니다 ^[2]. 대응 조치로는 자격 증명 폐기 및 교체, 영향을 받은 시스템 격리, 배치 추론과 데이터 세트 기반 학습을 위한 셀프서비스 데이터 세트 업로드와 다운로드의 일시 비활성화가 포함되었습니다 ^[2].

LLMjacking이란 무엇인가요?

LLMjacking은 대규모 언어 모델에 대한 접근 권한을 훔쳐 되파는 행위로, Fireworks는 증거가 이를 일삼는 금전 목적의 사이버 범죄 조직과의 연관성을 시사한다고 밝힙니다 ^[2].

Fireworks에 따르면 이 조직은 “대규모 언어 모델(LLM)에 대한 무단 접근으로 얻은 토큰을 불법 라우팅 게이트웨이에 판매하는 것”을 목표로 합니다 ^[2]. 이 용어를 쓰지 않는 TechCrunch는 Fireworks가 공격자를 금전 목적이라고 보며, 구매자는 자체 컴퓨팅 비용을 내지 않고 도용한 접근 권한을 쓰는 무단 제3자라고 보도합니다 ^[3]. SecurityWeek는 두 번째 Fireworks 사고를 최근 늘어난 LLMjacking 활동과 연결합니다 ^[5].

Notion 자신은 “악의적인 행위자”라고만 설명하며 그들이 누구였는지, 무엇을 원했는지는 밝히지 않습니다 ^[1]. Notion이 밝히는 것은 영향을 받은 메시지에서 노출된 API 키가 발견되었으며, Notion 키는 폐기하고 제3자 키는 발급 업체에 신고했다는 사실입니다 ^[1]. Fireworks는 Google Threat Intelligence Group과 Mandiant가 11월 2일 LLMjacking에 관한 연구를 발표했다고 언급합니다 ^[2].

Notion AI를 계속 써도 안전한가요?

Notion은 업체 연결을 끊고, Fireworks의 데이터를 삭제하고, 영향을 받은 기능을 비활성화했지만 조사는 계속되고 있다고 밝힙니다 ^[1].

• 안심할 점: 다른 Notion 기능은 영향을 받지 않았고, 대부분의 기록은 사용자와 연결할 수 없으며, 영향을 받은 고객에게는 연락이 갔습니다 ^[1].
• 안심할 점: Fireworks는 자사의 추론 서비스, Training SDK, Nexus가 기본적으로 데이터 보존 제로이며 영향이 없었다고 밝힙니다 ^[2].
• 남은 의문: BleepingComputer는 Notion의 FAQ가 Fireworks가 Notion 데이터에 대해 데이터 보존 제로를 계약으로 약속했다고 밝힌다고 전합니다 ^[4]. 검토한 어떤 출처도 Insights 데이터 세트가 어떻게 접근 가능한 상태였는지 설명하지 않습니다.
• 우려되는 점: Notion은 비율(워크스페이스 1% 미만)은 밝히지만, SecurityWeek에 따르면 영향을 받은 고객 수는 공개하지 않았습니다 ^[5].

Notion은 고객 데이터를 보호하는 방식의 “기준을 높이겠다”고 말합니다 ^[1]. TechCrunch는 이번 사고가 기술 기업이 자사 서비스를 위해 다른 업체에 의존하는 방식을 보여 준다고 주장합니다 ^[3].

앞으로 어떻게 될까요?

두 회사 모두 조사가 진행 중이라고 밝히며, Notion은 공지를 업데이트하겠다고, Fireworks는 적절한 때에 추가 소식을 전하겠다고 말합니다 ^[1][2]. Fireworks는 조사에서 “추가 정보가 드러날 수 있다”고 경고합니다 ^[2].

지켜볼 점은 Fireworks가 영향을 받은 다른 고객을 공개하는지, Notion이 “1% 미만”이라는 수치를 수정하는지, 현재 비활성화된 Insights가 돌아오는지입니다 ^[1][2]. 그때까지는 Notion의 공지 페이지가 공식 업데이트를 확인할 곳입니다 ^[1].

기업이 얻을 더 넓은 교훈은 업체 사슬에 관한 것입니다. TechCrunch는 이번 침해가 기술 기업이 자사 제품을 위해 다른 업체에 의존하며, 따라서 한 곳에 대한 공격이 그 고객에게 번질 수 있음을 보여 준다고 지적합니다 ^[3]. Fireworks는 이후 데이터 스토리지와 분석 시스템에 대한 접근을 강화하고, 네트워크 경로를 제한하고, Unit 42와 함께 로깅과 모니터링을 강화했다고 밝힙니다 ^[2]. 일반적인 예방책으로(두 회사의 설명이 아님), AI 업체에 데이터를 보내는 팀은 무엇이 저장되는지, 얼마나 오래 저장되는지, 사고가 났을 때 얼마나 빨리 통보받는지 물어볼 수 있습니다.