AI를 위한 데이터 프라이버시 권리 조정 위험

유럽 (GDPR) 을 포함한 여러 로케일의 법률은 데이터 주체에게 조직에서 삭제할 개인 데이터를 요청할 수 있는 권한을 부여합니다 ('잊혀질 권리' 또는 RTBF). 그러나 점점 더 인기가 높아지고 있는 LLM (Large Language Model) 사용 소프트웨어 시스템은 이러한 권리를 위해 새로운 도전 과제를 제시합니다. CSIRO의 Data61연구에 따르면 데이터 주체는 원래 훈련 데이터 세트를 검사하거나 모델을 프롬프트하여 LLM " 에서 개인 정보의 사용을 식별할 수 있습니다. 그러나 훈련 데이터는 공개되지 않을 수도 있고, 회사가 안전 및 기타 우려를 이유로 공개하지 않을 수도 있습니다. 가드레일은 사용자가 프롬프트를 표시하여 정보에 액세스하지 못하게 할 수도 있습니다. 이러한 장벽으로 인해 데이터 주체가 RTBF 프로시저를 시작하지 못할 수 있으며 LLM을 배치하는 회사는 RTBF 법률을 충족하지 못할 수 있습니다.

보고서에 따르면, 자사의 Bard 챗봇을 포함한 인공지능 시스템의 교육 데이터로 저작권 자료와 개인 정보를 사용했다고 주장하는 Google 을 상대로 소송이 제기되었습니다. 옵트 아웃 (opt-out) 및 삭제 (deletion) 권리는 CCPA에 속하는 캘리포니아 거주자와 COPPA에 속하는 13세미만의 미국 아동에게 보장됩니다. 원고들은 Bard가 " 배불리 먹은 모든 PI를 배우지 못하거나 완전히 제거할 수 있는 방법이 없기 때문이라고 주장한다. 원고 측은 " 바드의 개인정보 보호에 관한 사항은 회사가 검토하고 어노테이션을 작성한 후에는 사용자가 삭제할 수 없으며 최대 3년까지 유지할 수 있다고 밝혔다. 원고들은 이러한 관행이 이러한 법률을 준수하지 않는 데 더욱 기여한다고 주장합니다.