ChatGPT는 개인정보 측면에서 안전한가? AI 챗봇은 공유한 데이터로 무엇을 하는가

ChatGPT에 개인 정보를 입력해도 안전한가요?

ChatGPT와 비슷한 챗봇은 일상적인 작업에는 대체로 안전하지만, 의사나 변호사와의 대화처럼 비밀이 보장되지는 않습니다. 메시지는 제공업체가 보관하며, 사용자가 거부하지 않는 한 모델 개선에 쓰일 수 있고^[4], 법적 요구의 대상이 될 수 있습니다^[5]. Stanford 인간중심AI연구소(HAI)는 Amazon, Anthropic, Google, Meta, Microsoft, OpenAI의 정책 문서 28건을 검토한 결과, 6개사 모두 기본적으로 대화 데이터를 모델 학습에 사용하며 일부는 대화 데이터를 무기한 보관한다는 사실을 발견했습니다^[1].

OpenAI 최고경영자 Sam Altman도 이 공백을 인정했습니다. 그는 2025년 7월 치료사, 변호사, 의사와의 대화에는 법적 비밀 유지 특권이 있다고 하면서 ‘ChatGPT와 대화할 때에 대해서는 아직 그 문제를 해결하지 못했다’고 말했습니다^[10]. TechCrunch에 따르면 Altman은 소송이 벌어지면 OpenAI가 법적으로 그 대화를 제출해야 하므로 개인정보 문제가 생길 수 있다고 덧붙였습니다^[10].

간단한 답

• 대화가 모델 학습에 쓰이길 원하지 않는다면 학습 설정을 끄십시오^[2][7][8].
• 일회성 민감한 질문에는 임시 채팅이나 활동 기록 끄기 모드를 사용하되, 이 경우에도 짧은 기간 보관된다는 점을 알아 두십시오^[3][8].
• 비밀번호, 신분증 번호, 의료 기록, 회사 기밀 데이터는 입력하지 마십시오. Google도 검토자가 보길 원하지 않는 기밀 정보는 입력하지 말라고 사용자에게 당부합니다^[8].

AI 챗봇과 공유한 데이터는 어떻게 되나요?

대화에는 여러 가지 일이 일어날 수 있으며, 각각은 따로 제어됩니다.

모델 학습

학습이란 대화가 모델의 향후 버전을 개선하는 데 쓰일 수 있다는 뜻입니다. OpenAI는 사용자가 거부하지 않는 한 ChatGPT가 사람들과 나눈 대화로 추가 학습을 하며 개선된다고 말합니다^[4]. Stanford 연구진은 업로드한 파일을 포함해 대화에서 공유한 민감한 정보가 수집되어 학습에 사용될 수 있다고 경고합니다^[1].

사람의 검토

일부 회사는 사람이 대화를 읽도록 허용합니다. Google은 서비스 개선을 위해 교육받은 서비스 제공업체를 포함한 사람 검토자가 Gemini 대화의 일부를 검토한다고 밝힙니다^[8]. Stanford 연구는 일부 개발사가 학습 목적으로 사람이 대화 기록을 검토하도록 허용한다는 사실을 발견했습니다^[1].

보관

보관이란 회사가 데이터를 얼마나 오래 가지고 있는지를 뜻하며, 이는 사용자의 대화 기록에 보이는 것과 다를 수 있습니다. 예를 들어 Google은 활동 저장(Keep Activity)을 끈 상태에서 나눈 Gemini 대화를 계정에 72시간 동안 보관하며^[8], OpenAI는 ChatGPT 임시 채팅의 사본을 안전 목적으로 최대 30일간 보관할 수 있습니다^[3].

공유와 제3자

공유된 대화 링크는 또 다른 노출 경로이며, ChatGPT에서는 데이터 제어에서 이를 관리할 수 있습니다^[2]. 맞춤형 GPT가 ‘액션’을 통해 외부 서비스로 데이터를 보내면, 그 데이터에는 수신 측의 개인정보 처리방침이 적용되며 30일보다 오래 보관될 수 있습니다^[3].

ChatGPT는 대화를 학습에 사용하나요?

개인 계정이라면 기본적으로 그렇습니다. OpenAI 도움말 센터에 따르면 ChatGPT Free, Plus, Pro의 개인 워크스페이스에서는 데이터 공유가 기본으로 켜져 있습니다^[2]. 새 대화가 학습에 쓰이지 않게 하려면 다음과 같이 하십시오^[2][4].

1. 웹에서 계정 메뉴를 열고 설정, 이어서 데이터 제어를 선택합니다^[2].
2. 모두를 위한 모델 개선을 끄고 완료를 선택합니다^[2].
3. iOS나 Android에서는 사이드바를 열고 프로필 아이콘을 선택한 뒤 데이터 제어로 들어가 같은 설정을 끕니다^[2].
4. 또는 OpenAI의 개인정보 포털에서 ‘내 콘텐츠로 학습하지 않음’을 선택할 수 있습니다^[4].

놓치기 쉬운 세부 사항도 있습니다. 음성 모드에는 학습용 데이터 공유에 관한 별도의 설정이 있으며, 학습을 꺼도 저장된 대화가 삭제되거나 숨겨지지는 않습니다^[2]. 대화를 보관함으로 옮겨도 학습 사용 여부는 바뀌지 않습니다^[2]. 답변에 좋아요나 싫어요 같은 피드백을 남기면, OpenAI는 학습을 거부한 뒤에도 대화 전체가 학습에 사용될 수 있다고 말합니다^[2].

임시 채팅은 어떤가요?

임시 채팅은 대화 기록에 나타나지 않고, 메모리를 만들거나 갱신하지 않으며, OpenAI의 모델 개선에 사용되지 않습니다^[3]. 그래도 OpenAI는 안전 목적으로 최대 30일간 사본을 보관할 수 있습니다^[3]. 임시 채팅을 저장하면 일반 대화가 되어 평소 설정을 따릅니다^[3].

업무용 계정

OpenAI는 기본적으로 ChatGPT Business, Enterprise, Edu, ChatGPT for Healthcare 워크스페이스나 API의 콘텐츠를 모델 학습에 사용하지 않는다고 말합니다^[2]. 다만 고용주 자체의 보관 및 접근 정책은 여전히 적용됩니다^[2].

Gemini와 Claude는 데이터를 어떻게 다루나요?

Google Gemini

활동 저장이 켜져 있으면 Google은 생성형 AI 모델 학습을 포함해 서비스를 제공, 개발, 개선하는 데 사용자의 활동을 사용합니다. 활동은 기본적으로 18개월 후 자동 삭제되며, 이를 3개월이나 36개월로 바꾸거나 자동 삭제를 하지 않도록 선택할 수 있습니다^[8]. 활동 저장을 끄면 이후의 대화는 피드백을 보내지 않는 한 AI 모델 학습에 사용되지 않지만, 계정에 72시간 동안 보관됩니다^[8]. 사람 검토자가 본 대화는 계정과 분리되어 최대 3년간 보관됩니다^[8].

Anthropic Claude

Anthropic은 2025년 8월 28일 Claude Free, Pro, Max(해당 계정으로 쓰는 Claude Code 포함)의 일반 사용자 약관을 변경했습니다^[7]. 사용자들은 대화를 모델 학습에 사용해도 되는지 선택하도록 요청받았으며, 기존 사용자의 마감일은 2025년 10월 8일이었습니다^[7]. 학습을 허용하면 데이터 보관 기간이 5년으로 늘어나고, 허용하지 않으면 기존의 30일 보관 기간이 적용됩니다^[7]. 삭제된 대화는 향후 학습에 사용되지 않으며, 이 선택은 개인정보 설정에서 언제든 바꿀 수 있습니다^[7]. Claude for Work와 API 사용 같은 상업용 서비스는 제외됩니다^[7]. Stanford 연구진은 이 변경을 사용자가 거부하지 않는 한 Claude 대화로 기본 학습하는 것으로 설명합니다^[1].

아래 표는 2026년 11월 3일 기준 각 회사가 설명한 일반 사용자용 기본 설정을 요약한 것입니다. 설정과 명칭은 자주 바뀌므로, 이를 근거로 삼기 전에 최신 도움말 페이지를 확인하십시오.

삭제한 대화도 보관되거나 제출될 수 있나요?

대화를 삭제하면 보통 정해진 기간 뒤에 제거되지만, 법적 의무가 이보다 우선할 수 있습니다. 2025년 5월 New York Times가 OpenAI를 상대로 제기한 저작권 소송에서 법원은 사용자가 삭제한 대화를 포함해 ChatGPT 로그를 보존하라고 OpenAI에 명령했습니다^[5][6]. OpenAI는 이 명령에 따른 의무가 2025년 9월 26일에 끝났으며, 삭제된 대화와 임시 채팅을 30일 이내에 삭제하는 표준 관행으로 돌아갔다고 밝힙니다^[5]. Engadget은 연방 판사 Ona T. Wang이 2025년 10월 9일 제출한 새 명령으로 앞으로 이러한 데이터를 보존할 의무는 끝났지만, OpenAI는 Times가 지정한 ChatGPT 계정의 데이터는 여전히 보관해야 한다고 보도했습니다^[6].

OpenAI는 또한 2025년 4월부터 9월까지의 제한된 과거 사용자 데이터를 법적 보존 조치에 따라 계속 저장하고 있으며, 이 데이터에는 감사를 받는 소규모 법무·보안팀만 접근할 수 있고, 유럽경제지역(EEA), 스위스, 영국에서 생성된 대화는 더 이상 보관할 필요가 없다고 밝힙니다^[5]. 이 사건은 더 넓은 점을 보여 줍니다. 대화 기록은 증거가 될 수 있는 업무 기록이라는 것입니다^[10].

의도치 않은 공개 공유

공유 설정 때문에 대화가 노출될 수도 있습니다. 2025년 OpenAI는 공유된 ChatGPT 대화를 Google 같은 검색 엔진에 색인되도록 하는 선택형 체크박스를 잠시 제공했습니다^[9]. OpenAI의 최고정보보안책임자 Dane Stuckey는 이를 단기간의 실험이라고 부르며, ‘사람들이 의도하지 않은 것을 실수로 공유할 기회를 너무 많이 만들었기’ 때문에 삭제했다고 말했습니다^[9]. OpenAI는 검색 엔진 캐시 때문에 색인된 일부 대화가 한동안 계속 보일 수 있다고 밝혔습니다^[9].

개인정보 감독 기관은 AI 챗봇에 대해 어떤 조치를 했나요?

감독 기관들은 데이터 보호법이 챗봇에 어떻게 적용되는지 시험해 왔으며, 결과는 엇갈렸습니다. 2024년 12월 20일 이탈리아 개인정보 보호 당국(Garante)은 OpenAI에 1,500만 유로의 과징금을 부과한다고 발표했습니다^[11]. Garante는 OpenAI가 2023년 3월의 데이터 유출을 당국에 통지하지 않았고, 적절한 법적 근거를 먼저 확인하지 않은 채 개인정보를 ChatGPT 학습에 사용했으며, 투명성 의무를 위반했고, 연령 확인 장치가 없었다고 판단했습니다^[11]. 또한 6개월간의 대국민 정보 캠페인도 명령했습니다^[11].

이 결정은 이의 없이 유지되지 않았습니다. Garante 자체 페이지에 따르면 로마 법원은 2026년 3월 18일 공개된 판결 No. 4153/2026에서 이 결정에 대한 OpenAI의 이의를 받아들였으며, 결정문은 당국 웹사이트에서 일시적으로 내려졌습니다^[11]. 따라서 2026년 11월 3일 기준 이 과징금은 추가 항소 가능성을 전제로 로마 법원에 의해 취소된 것으로 보아야 합니다.

미국에 대해 Stanford 연구진은 주 단위 법률이 조각조각 흩어져 있고 연방 차원의 규제가 없다고 설명하며, 포괄적인 연방 개인정보 보호 규제, 모델 학습에 대한 사전 동의(옵트인), 대화에서 개인정보를 기본적으로 걸러내는 조치를 촉구합니다^[1].

AI 챗봇과 절대 공유하지 말아야 할 것은 무엇인가요?

유용한 원칙은 회사의 낯선 직원이나 법원이 읽기를 원하지 않는 내용은 공유하지 않는 것입니다^[8][10]. 실제로는 다음을 피해야 합니다.

• 비밀번호, 일회용 인증 코드, 복구 문구. 어떤 챗봇도 사용자를 돕기 위해 이것이 필요하지 않습니다.
• 신분증과 은행 정보. 여권, 주민등록번호 같은 국가 신분증 번호, 카드 번호가 포함됩니다.
• 본인 이름과 연결된 의료 및 정신 건강 정보. Stanford는 대화에서 공유된 건강 정보와 생체 정보가 수집되어 학습에 사용될 수 있다고 지적하며^[1], Altman은 이러한 대화에 법적 비밀 유지 특권이 없다고 말했습니다^[10].
• 회사 기밀 자료. 고용주가 기본적으로 학습에서 제외되는 업무용 계정을 제공하는 경우는 예외입니다^[2].
• 다른 사람의 개인정보. 친구의 진단명이나 동료의 연락처 등이 이에 해당합니다.

더 안전한 습관

• 문서를 붙여 넣기 전에 이름과 신원을 알 수 있는 세부 정보를 지우십시오.
• 일회성 민감한 질문에는 임시 채팅을 쓰거나 활동 기록을 끄십시오^[3][8].
• 오래된 대화를 검토해 삭제하고, 링크로 공유한 대화가 무엇인지 확인하십시오^[2][9].
• 자녀의 사용을 확인하십시오. Stanford는 대부분의 개발사가 아동의 입력을 학습 데이터에서 제외하지 않는다는 사실을 발견했습니다^[1].

이란의 독자를 위한 안내

2026년 11월 3일 기준 OpenAI가 ChatGPT 접속을 지원하는 국가 및 지역 목록에는 이란이 없으며, OpenAI는 목록에 없는 곳에서 서비스에 접속하면 계정이 차단되거나 정지될 수 있다고 경고합니다^[12]. 따라서 우회 수단으로 이용하는 계정은 대화 기록과 함께 사라질 수 있으니, 중요한 내용은 직접 사본을 보관하십시오.

챗봇 개인정보 설정에는 어떤 장단점이 있나요?

설정이 보호해 주는 것

• 학습을 거부하면 새 ChatGPT 대화가 학습에 사용되지 않습니다^[4].
• Gemini의 활동 저장을 끄면 피드백을 보내지 않는 한 이후의 대화가 AI 모델 학습에 사용되지 않습니다^[8].
• Claude에서 학습을 거부하면 보관 기간이 5년이 아니라 30일로 유지됩니다^[7].

설정이 보호해 주지 못하는 것

• 안전을 위한 단기 보관은 여전히 적용됩니다. 예를 들어 ChatGPT 임시 채팅은 최대 30일^[3], Gemini는 72시간입니다^[8].
• 학습을 거부해도 이미 학습된 모델에서 데이터가 빠지지는 않습니다. Anthropic은 이미 시작된 학습이나 이미 학습된 모델에 쓰인 데이터는 그대로 남는다고 말합니다^[7].
• 2025년 보존 명령에서 보듯 법원 명령이 삭제보다 우선할 수 있습니다^[5].
• Google에서 사람이 검토한 대화는 최대 3년간 보관됩니다^[8].

AI 챗봇 개인정보 보호는 앞으로 어떻게 될까요?

정책은 빠르게 바뀌고 있습니다. 2025년 중반 이후 Anthropic은 일반 사용자에게 학습 여부를 명시적으로 선택하게 했고^[7], OpenAI는 법원 명령에 따른 보관 기간을 끝내고^[5] 검색 색인 옵션을 없앴으며^[9], 이탈리아의 과징금은 법원에서 뒤집혔습니다^[11]. 챗봇에 메모리와 파일 라이브러리 같은 기능이 추가되면서^[2][3] 챗봇이 보유하는 개인정보의 양이 늘어나고, 그만큼 기본 설정이 더 중요해집니다.

아직 불확실한 것

• AI 대화에 대한 법적 비밀 유지 특권. Altman은 이 문제가 아직 해결되지 않았다고 말했습니다^[10].
• New York Times 소송의 결과와, 보존된 2025년 4월~9월 데이터의 처리 방식^[5].
• 감독 기관이 학습에 대한 사전 동의를 의무화할지 여부. Stanford 연구진은 이를 권고합니다^[1].

이 내용은 일반 정보이며 법률 자문이 아닙니다. 민감한 데이터에 관한 결정을 내릴 때는 각 제공업체의 최신 개인정보 처리방침과, 해당하는 경우 자국의 개인정보 보호 당국을 확인하십시오.