캐나다 개인정보 보호 위원인 Philippe Dufresne은 OpenAI가 AI 모델 교육에 있어 캐나다 연방 및 지방 개인정보 보호법을 “준수하지 않았다”는 사실을 발견했습니다. 조사 결과 Dufresne과 앨버타, 퀘벡, 브리티시 컬럼비아의 동료들은 데이터 수집 및 동의와 같은 사항에 대한 OpenAI의 접근 방식이 기업이 정상적인 비즈니스 과정에서 개인 정보를 수집하고 사용하는 방법을 규제하는 캐나다의 개인 정보 보호 및 전자 문서법(PIPEDA)을 포함한 여러 법률을 위반했다고 밝혔습니다.
조사에 참여한 위원들은 OpenAI의 접근 방식에서 회사가 “모델 교육을 위해 해당 정보를 사용하는 것을 방지하기 위한 적절한 보호 장치 없이 막대한 양의 개인 정보를 수집”했으며, 처음에 해당 개인 정보를 수집하고 사용하는 데 대한 동의를 얻지 못했다는 점을 포함하여 여러 개인 정보 보호 문제를 확인했습니다. ChatGPT의 경고에는 AI와의 상호 작용이 훈련에 사용될 수 있지만 OpenAI가 구매하거나 스크랩한 타사 데이터에는 사람들이 알지도 못하는 개인 정보도 포함되어 있다는 점에 유의하세요. 조사 결과 요약에 따르면 ChatGPT 사용자가 해당 데이터에 액세스하거나 수정하거나 삭제할 수 있는 방법이 없다는 사실과 일부 ChatGPT 응답의 부정확성을 인정하려는 OpenAI의 부진한 시도와 함께 위원들이 확인한 또 다른 문제였습니다.
캐나다의 개인 정보 보호 위원은 OpenAI가 조사에 개방적이고 대응했으며 이미 캐나다 개인 정보 보호법을 준수하기 위해 ChatGPT를 여러 가지 변경하기로 약속했다고 주장합니다. OpenAI는 캐나다 개인 정보 보호 규정을 위반한 이전 모델을 폐기했으며 이제 “공개적으로 접근 가능한 인터넷 데이터 및 모델 훈련에 사용되는 라이센스 데이터 세트에서 개인 정보(예: 이름 또는 전화번호)를 감지하고 마스킹하는 필터링 도구”를 사용한다고 위원은 말합니다. 회사는 또한 향후 3개월 이내에 로그아웃된 ChatGPT 버전에 채팅이 교육용으로 사용될 수 있으며 민감한 정보는 공유되어서는 안 된다는 내용을 설명하는 새로운 알림을 추가하기로 합의했으며, 향후 6개월 이내에는 다음과 같습니다.
OpenAI의 개인 정보 보호 정책에 대한 캐나다의 조사는 2023년에 시작되었지만, 이 회사는 2026년 2월 Tumbler Ridge에서 발생한 대량 총격 사건과 관련되어 최근 규제 당국으로부터 조사를 받았습니다. OpenAI는 2025년에 실제 폭력에 대한 경고가 포함된 총격 혐의자의 계정을 신고했지만 이러한 우려를 캐나다 법 집행 기관에 에스컬레이션하지 못한 것으로 알려졌습니다. 총격 사건 이후 규제 당국은 회사에 안전에 대한 접근 방식을 바꿀 것을 요구했으며 OpenAI는 궁극적으로 향후 캐나다 법 집행 기관 및 보건 기관과 더욱 협력하기로 동의했습니다.
관련 정보는 아래 링크에서 확인하세요
